Ловушка красивых отчетов: почему повальная автоматизация поддержки бьет по брендам

Массовый перевод службы поддержки на алгоритмы искусственного интеллекта выглядит для бизнеса заманчиво: по оценкам аналитиков, замена первой линии ботами способна сократить затраты на фонд оплаты труда на 30–40%. Показатели скорости ответа моментально выходят в «зеленую зону», однако внешнее благополучие часто маскирует падение реального качества сервиса.

В этой ситуации наглядно проявляется известный принцип экономиста Чарльза Гудхарта: как только показатель становится самоцелью, он перестает служить надежным критерием эффективности. Оптимизируя цифры на дашбордах, компании рискуют упустить из виду удовлетворенность реальных людей.

Иллюзия скорости против реальности

Хотя виртуальные ассистенты моментально берут диалог в работу, их результативность вызывает вопросы у аудитории. Согласно опросам НАФИ, каждый третий пользователь в РФ негативно оценивает опыт общения с чат-ботами, а 57% респондентов признавались, что не всегда могут сразу понять, помогает ли им человек или программа.

Если система не может решить сложную нестандартную проблему и не пропускает запрос к живому специалисту, клиент уходит с нерешенной задачей, а доверие к компании неуклонно снижается.

Уверенные ошибки и галлюцинации

Серьезным барьером остаются сбои генеративных моделей. Исследователи из MIT выяснили, что нейросети склонны транслировать недостоверные данные с подчеркнутой уверенностью: при выдаче ошибок они на 34% чаще применяют категоричные утверждения вроде «безусловно» или «определенно».

Подобная самоуверенность ИИ уже приводила к громким инцидентам:

• Ошибочный факт чат-бота Bard на стартовой презентации в 2023 году стоил материнской компании Google почти 8% капитализации за день (около $100 млрд).
• Судебное разбирательство в Канаде обязало Air Canada выплатить пассажиру $812 из-за того, что бот предоставил недостоверные условия получения скидки.
• Речевой робот, запущенный для нужд ЖКХ, за месяц эксплуатации перенял ненормативную лексику, после чего потребовалась срочная доработка фильтров.

Барьер вместо помощи

Нередко автоматизированная поддержка превращается в замкнутый круг. Робот раз за разом выдает шаблонные ответы, не решая сути проблемы, а соединение с человеком намеренно затягивается. Подобная глухая стена вызывает лишь раздражение.

Сложности с переключением на человека стали настолько заметными, что в США даже выдвигались законодательные инициативы, обязывающие колл-центры предоставлять клиенту возможность легко и быстро отказаться от общения с ботом в пользу живого сотрудника.

Как сохранить баланс между ИИ и качеством

Эксперты сходятся во мнении, что полностью полагаться на автоматизацию нельзя. Для сохранения лояльности аудитории бизнесу рекомендуют:

1. Оценивать реальный результат, а не только скорость. Важно отслеживать фактическое решение проблемы и показатели удержания клиентов, а не просто время реакции системы.
2. Внедрять защитные фильтры. Алгоритмы должны проходить верификацию данных и воздерживаться от ответов в ситуациях высокой неопределенности.
3. Сохранять контроль человека. Выборочный ручной аудит диалогов и бесшовный перевод на операторов остаются ключевым условием здорового клиентского сервиса.