Air Canada попыталась бросить своего чат-бота под автобус с искусственным интеллектом.
Это не работает.
А Канадский суд недавно вынес решение Air Canada должна выплатить компенсацию клиенту, который приобрел билет за полную стоимость после получения неточной информации от чат-бота авиакомпании.
Air Canada утверждала, что ее чат-бот придумал ответ и поэтому не должен нести ответственность. Как могла бы сказать Пеппер Брукс из фильма «Вышибалы»: «Это смелая стратегия, Коттон». Посмотрим, окупится ли это для них.
Но что эта ошибка чат-бота означает для вас, поскольку ваши бренды добавляют эти диалоговые инструменты на свои веб-сайты? Что это означает для будущего поиска и влияние на вас, когда потребители используют такие инструменты, как Gemini от Google и ChatGPT от OpenAI, для поиска вашего бренда?
Содержание
ИИ разрушает Air Canada
Кажется, ИИ — единственная тема для разговоров в наши дни. Клиенты ожидают, что их агентства будут использовать его, если они будут сопровождать это использование значительной скидкой на свои услуги. «Это так просто», — говорят они. — Ты, должно быть, так счастлив.
Советы директоров в стартапах оказывать давление на свои управленческие команды по этому поводу. «На каком этапе мы находимся в области стратегии ИИ? » они спрашивают. «Это так просто. Все это делают. Даже голливудские художники подстраховываются, глядя на последние разработки в области генеративного искусственного интеллекта и думая: «Хммм… Неужели мы действительно Я хочу больше инвестировать в людей?
Давайте все вздохнем. Люди никуда не денутся. Позвольте мне внести ясность: «ИИ — это НЕ стратегия. Это инновация, которая ищет стратегию. Решение Air Canada, принятое на прошлой неделе, может стать первым конкретным отличием по этому вопросу.
История начинается с того, что мужчина спрашивает чат-бота Air Canada, может ли он получить задним числом возмещение за проезд в связи с утратой, при условии, что он предоставит соответствующую документацию. Чат-бот посоветовал ему забронировать билет на похороны бабушки, а затем запросить возмещение разницы между полной ценой и билетом в зал для скорбящих в течение 90 дней. Пассажир сделал то, что предложил чат-бот.
Air Canada отказалась вернуть деньги, сославшись на свою политику, в которой прямо указано, что она не возмещает стоимость проезда после того, как рейс забронирован.
Когда пассажир подал иск, отказ Air Canada платить стал еще более интересным. Она утверждала, что не должна нести ответственности, поскольку чат-бот является «отдельным юридическим лицом», и поэтому Air Canada не должна нести ответственность за его действия.
Я помню подобную защиту из своего детства: «Я не несу ответственности. Мои друзья подтолкнули меня к этому. На что мама ответила: «Ну, если бы тебе сказали прыгнуть с моста, ты бы это сделал?»
Больше всего мне понравилась часть дела, когда член трибунала сказал то, что сказала бы моя мать: «Air Canada не объясняет, почему она считает… почему его веб-страница под названием «Путешествие после тяжелой утраты» по своей сути заслуживает большего доверия, чем его чат-бот.
БОЛЬШАЯ ошибка в человеческом мышлении об ИИ
Вот что интересно, когда мы сталкиваемся с актуальной проблемой ИИ. Предприятия рассматривают ИИ как стратегию, которую необходимо внедрить, а не как инновацию в рамках стратегии, которую необходимо внедрить. ИИ не является ответом на вашу контент-стратегию. ИИ — это просто способ улучшить существующую стратегию.
Генеративный ИИ эффективен настолько, насколько эффективен контент (данные и обучение), которым он снабжен. Генеративный ИИ — фантастический инструмент для распознавания закономерностей и понимания вероятного выбора следующего слова. Но это не критическое размышление. Он не может различить, что реально, а что вымысел.
Представьте на мгновение свой веб-сайт как модель обучения, своего рода мозг. Насколько точно он может ответить на вопросы о текущем состоянии вашего бизнеса? Ознакомьтесь со всеми справочными документами, руководствами, а также образовательными и обучающими материалами. Если вы поместите все это – и только это – в искусственный мозг, только тогда вы сможете доверять ответам.
Ваш чат-бот, скорее всего, даст отличные результаты и плохие ответы. Дело Air Canada представляло собой минимальную проблему. Но представьте, когда это не маленькая ошибка. А как насчет влияния непреднамеренного контента? Представьте себе, что инструмент искусственного интеллекта нашел эту неуместную папку в вашем хранилище справки для клиентов – ту, которая содержит все саркастические и идиотские ответы? Или что, если он найдет архивы, в которых подробно описано все, что не так с вашим продуктом или его безопасностью? ИИ может не знать, что вы не хотите, чтобы он использовал этот контент.
ChatGPT, Gemini и другие также создают проблемы с брендингом.
Общедоступные генеративные решения искусственного интеллекта могут создать самые большие проблемы.
Я проверил потенциальную проблему. Я попросил ChatGPT сообщить мне цены на две самые популярные CRM-системы. (Позвольте вам догадаться, какие из них.) Я попросил его сравнить цены и характеристики двух похожих планов и сказать мне, какой из них может быть более подходящим.
Во-первых, он сказал мне, что не может указать цены ни на один из них, но включил страницу с ценами на каждый из них в сноску. Я нажал на цитату и попросил сравнить два названных пакета. За один из них он назвал мне цену на 30% завышенную, не заметив, что теперь она снижена. И она так и не смогла сообщить цену другого, заявив, что компания не раскрыла цены, но снова разместила страницу с ценами внизу страницы, где четко указана стоимость.
В другом тесте я спросил ChatGPT: «Что такого замечательного в решении ChatGPT для управления цифровыми активами (DAM)?» [name of tech company]«Я знаю, что эта компания не предлагает систему DAM, но ChatGPT ее не предлагает.
Он вернулся с ответом, объяснив, что решение DAM этой компании является прекрасным единым источником достоверной информации о цифровых активах и отличной системой. Он не сказал мне, что перефразировал ответ из содержания веб-страницы компании, в котором подчеркивалась ее способность интегрироваться в систему DAM стороннего поставщика.
Однако эти различия минимальны. Я понимаю. Я также должен четко понимать, что в ходе коротких тестов я получил хорошие ответы на некоторые из моих самых сложных вопросов. Но вот что такое коварное. Если бы пользователи ожидали ответов, которые всегда были немного неправильными, они бы проверяли их правдивость. Но когда ответы кажутся правильными и впечатляющими, даже если они совершенно неверны или непреднамеренно верны, пользователи доверяют всей системе.
Это урок Air Canada и проблемы, которые последуют за ней.
ИИ — это инструмент, а не стратегия
Помните, ИИ — это не ваша контент-стратегия. Вам все равно придется провести аудит. Как и на протяжении более 20 лет, вы должны убедиться, что все ваши цифровые объекты отражают текущие ценности, целостность, точность и доверие, которое вы хотите вселить.
ИИ не сделает это за вас. Он не сможет узнать цену этим вещам, если вы не дадите ему эту ценность. Рассматривайте ИИ как способ усовершенствовать вашу контент-стратегию, ориентированную на человека. Он может выразить вашу человеческую историю разными и, возможно, более быстрыми способами всем заинтересованным сторонам.
Но только вы можете знать, ваша ли это история. Вам нужно его создавать, ценить и управлять им, и, возможно, ИИ поможет вам хорошо об этом рассказать.
ПОДБРАННЫЙ ПОХОЖИЙ КОНТЕНТ:
Изображение на обложке: Джозеф Калиновский/Институт контент-маркетинга.
