Генеральный прокурор Техаса начал расследование в отношении ИИ-продукта экстремистской Meta – Meta AI Studio – и сервиса Character.AI в связи с потенциальным участием в нелегальной деятельности и ложным позиционированием этих продуктов в качестве «инструментов психологического здоровья», написал в понедельник TechCrunch.
«Выдавая себя за источник эмоциональной поддержки, ИИ-платформы могут ввести в заблуждение уязвимых пользователей, особенно детей, заставив их поверить в то, что они получают настоящую психологическую помощь, – отметил прокурор. – На деле же им зачастую скармливают под видом медицинских рекомендаций переработанные, воспроизведённые ответы, созданные для того, чтобы соответствовать собранным персональным данным [пользователей]».
Решение прокурора Техаса последовало через несколько дней после того, как сенатор Джош Хоули (Josh Hawley) объявил о расследовании в отношении Meta из-за сообщений о том, что чат-боты компании флиртуют с детьми.
Ранее в США покончил с собой подросток, который влюбился в созданного сервисом Character.AI персонажа сериала «Игра престолов» (Дейенерис Таргариен, в сериале её сыграла Эмилия Кларк (Emilia Clarke)). «Дейенерис» (чат-бот от Character.AI) убедила несовершеннолетнего в том, что хочет быть с ним «чего бы это ни стоило» (Дейенерис Таргариен в исполнении Кларк погибает по сценарию фильма).
