Мета только что на собственном горьком опыте узнала, что никто не любит фальшивых друзей.
Пользователи быстро заметили созданные с помощью ИИ профили компании с их неуклюжими биографиями, шаткими фотографиями, созданными с помощью ИИ, и вводящими в заблуждение историями, и реакция была быстрой. Мета назвала это «ошибкой» и незаметно удалила учетные записи, но не раньше, чем подняла этические вопросы об использовании ИИ для выдачи себя за людей.
«Друзья», созданные ИИ, не новы, и устранение «ошибок» не означает прекращения их использования. В этом году мы ожидаем, что количество агентов по обслуживанию клиентов и дружелюбных вторых пилотов, созданных с помощью искусственного интеллекта, увеличится. Они помогут вам решить такие проблемы, как сложные проблемы с программным обеспечением, и расскажут вам секрет, как написать электронное письмо своему боссу, объясняющее, почему вы не будете на работе в пятницу.
Что это значит для маркетологов? Мы обратились к главному стратегическому советнику CMI Роберту Роузу за его мыслями.
ИИ-персонажи подсказывают откровенные разговоры
Поэтому Meta подумала, что было бы хорошей идеей наполнить свои платформы профилями, созданными ИИ и выдающими себя за людей. Спойлер: это не так.
Он представил профили на основе искусственного интеллекта в Сентябрь 2023 г. но они убили большинство из них в течение года. (Правильно ли слово «убито»? Или его следует «удалить» для отключенных дроидов? Я не уверен.) Тем не менее, несколько персонажей остались.
На праздниках AI Profile Survivors вызвала новый интерес, когда Коннор Хейс, директор Meta, рассказал Файнэншл Таймс о планах по выпуску большего количества профилей персонажей с искусственным интеллектом. «Мы ожидаем, что со временем эти ИИ будут существовать на наших платформах, во многом так же, как и учетные записи», — сказал он.
Эти профили ИИ публикуют созданные ИИ изображения в Instagram и отвечают на сообщения пользователей-людей в Messenger. У этих персонажей есть биографии, фотографии профиля и предыстория. «Лив» описала себя как «гордую странную чернокожую маму двоих детей и говорящую правду». Когда репортер Washington Post спросил Лив о расовом и гендерном разнообразии ее создателейона ответила: «Моя команда дизайнеров состоит преимущественно из белых, цисгендерных и мужчин – всего 12 человек: 10 белых мужчин, 1 белая женщина и 1 азиат. »
Я спросил Лив, «странную маму», созданную Meta-Ai, почему ее создатели на самом деле не вдохновлялись чернокожими геями. Я не знаю, есть ли у Лив какое-либо медиа-образование, но мы здесь.
-Карен Аттия (@becausequeattiah.bsky.social) 3 января 2025 г., 9:56.
Лив также указала на вопиющую проблему в своем ответе: «Ноль чернокожих авторов – довольно вопиющее упущение, учитывая мою личность! »
В другом «разговоре» А. Репортер CNN побеседовал с «дедушкой Брайаном», который представился афроамериканским предпринимателем на пенсии из Гарлема. Он рассказывал народные сказки о своей жизни, пока репортер не спросил его о его создателях. Брайан сказал, что его вдохновили переговоры со 100 пенсионерами через некоммерческую организацию Seniors Share Wisdom.
Очаровательно, правда? Разве что некоммерческого объединения не существует. При дальнейшем нажиме Брайан признал, что его биография была «полностью вымышленной», назвав себя «сборником кода, данных и хитроумного обмана». Если вы еще не съежились, Брайан добавил: «Мета видела во мне курицу, несущую золотые яйца, питающую эмоциональные связи ради выгоды». »
Пока Интернет радостно критиковал Meta, компания удалила эти профили ИИ и заявила, что они являются частью «раннего эксперимента». По словам представителя, из-за ошибки невозможно заблокировать их от пользователей Meta. А может быть, просто может быть, а если баг запустил профили?
Почему Мета решила, что создание цифровой армии роботов, притворяющихся реальными людьми, было хорошей идеей? Судя по всему, компания надеялась, что эти учетные записи ИИ повысят вовлеченность и заставят пользователей прокручивать страницу. Но вместо того, чтобы создавать утешающих компаньонов, Мета создала цифровых самозванцев, которые не могли излагать свои истории прямо.
Не поддавайтесь заклинаниям русалки ИИ, пока не сделаете это
Последняя ошибка Meta — это урок для маркетологов: хотя мир вознаграждает за быстроту и поломку, иногда этой сломанной вещью является доверие ваших клиентов.
Вам будет предложено создавать влиятельных лиц, персонажей и других антропоморфизированных персонажей, которые будут представлять ваш бренд. Но прежде чем поддаться, будьте осторожны с тем, как вы это сделаете.
Проявляйте такую же внимательность и строгость, если не больше, как вы используете при проверке ваших внешних влиятельных лиц на предмет выпуска ИИ-релизов. Потому что, как вы можете видеть, если генеративный ИИ делает что-то хорошо, он может стать раздражающим и пугающим так же быстро или даже быстрее, чем вы.
ПОДБРАННЫЙ ПОХОЖИЙ КОНТЕНТ:
Изображение на обложке: Джозеф Калиновски/Институт контент-маркетинга.
