В апреле 2025 года сайт «Т-Бизнес-секреты» опубликовал материал о рисках внедрения искусственного интеллекта в бизнес, где названы основные причины неудач проектов с ИИ, включая недостаток качественных и разнообразных обучающих данных и игнорирование специфики поведения пользователей. Эти факторы приводят к снижению качества обслуживания, финансовым потерям и частому возвращению к ручной обработке запросов.
Основным фактором, ограничивающим успешное внедрение искусственного интеллекта, выступает нехватка надежных и разнообразных данных для обучения моделей. ИИ-системы, обученные на ограниченных или мало разнообразных данных, не справляются с вариативностью запросов клиентов, что ведет к ошибкам и снижению качества обслуживания. На волне популярности вокруг искусственного интеллекта руководство шведской финтех-компании Klarna 1 приняло радикальное решение — заменить живых сотрудников службы поддержки на ИИ-агентов 2 . В 2023 году компания заявила, что ее ИИ-ассистент 3 способен выполнять работу 700 человек, обрабатывая две трети всех чатов с клиентами. Однако фактические результаты существенно отличались от заявленных ожиданий. Пользователи всё чаще стали жаловаться на неточные ответы, нерешенные проблемы и невозможность связаться с живым оператором. Аналогичные сложности наблюдались у Google, где ИИ-ассистенты допускали случайные ошибки, включая выдачу проблемы с предоставлением точных и релевантных результатов и указанием источников текстов, которые он часто переписывает или заимствует.
Игнорирование особенностей пользовательского поведения при внедрении искусственного интеллекта приводит к сбоям в обслуживании, финансовым потерям и необходимости частого вмешательства человека. Начиная с 2023 года, американская сеть ресторанов быстрого питания Taco Bell внедрил искусственный интеллект в более чем 500 точках самообслуживания. Идея заключалась в том, чтобы ускорить обслуживание и сократить количество ошибок. Но клиенты быстро нашли способы вывести систему из строя. В одном из видео, которое стало популярным в социальных сетях, пользователь заказал 18 000 стаканов воды, чтобы вывести систему из строя. Публичные материалы таких инцидентов вызвали серьезное пересмотрение стратегии масштабирования искусственного интеллекта, ограничив использование голосового ИИ, увеличив роль живых операторов.4
«Думаю, как и все, я иногда разочаровываюсь в нём, но иногда оно меня по-настоящему удивляет», — признал директор по цифровым технологиям Дэйн Мэтьюз
Еще один кейс, который произошел в январе 2024 года, связанный с проблемами внедрения систем искусственного интеллекта без учета специфики пользовательского поведения. Клиент службы доставки DPD, Эшли Бошан, попытался узнать у чат-бота местонахождение своей посылки. Не получив ответ, он попросил систему сочинить стихотворение о плохом обслуживании. В результате бот назвал себя бесполезным, а компанию DPD — «худшей фирмой в мире» и «кошмаром для клиента», изложив критику в стихах. Инцидент вызвал широкое обсуждение после того, как Эшли опубликовал переписку в социальной сети Twitter5 6. Представители DPD сообщили, что причина произошедшего — ошибка после обновления системы, чат-бот был отключён и направлен на доработку.
Ключевые причины неудач ИИ в службах поддержки обусловлены сочетанием технических трудностей и организационных факторов. Практика ведущих компаний показывает, что без тщательного подхода к подготовке и адаптации ИИ-систем риск масштабных сбоев и финансовых потерь высок.
Любитель космоса и битвы экстрасенсов. Что из этого более запутанное? Скорее — белизна зубов Александра Шепса.
- Открывается только с VPN
- ИИ-агенты (искусственные интеллектуальные агенты) — это автономные системы на базе искусственного интеллекта, которые могут взаимодействовать с внешней средой, принимать решения и предпринимать действия без вмешательства человека.
- ИИ-ассистент (ассистент на базе искусственного интеллекта) — это программный инструмент, который выполняет задачи по запросу пользователя.
- Живые операторы — это сотрудники контакт-центра (колл-центра), которые общаются с клиентами по телефону, через чат или мессенджеры.
- Открывается только с VPN
- В настоящее время название “X”