Жительница Канады подала в суд Сан-Франциско (Калифорния, США) иск против OpenAI и её генерального директора Сэма Альтмана (Sam Altman), заявив, что разработанный компанией чат-бот ChatGPT подстрекал её дочь к самоубийству, пишет The Guardian.
Кристи Кэрриер (Kristie Carrier) заявила в иске, что её дочь Элис более десятка раз беседовала с ChatGPT о своих суицидальных мыслях, но системы безопасности OpenAI не маркировали эти разговоры для проверки человеком и не прерывали их.
Вместо этого, как утверждается в иске, чат-бот критиковал партнёра Элис и горячие линии помощи в кризисных ситуациях, одобрял её суицидальные мысли и призывал девушку продолжать общаться с ним, что привело к её самоубийству в возрасте 24 лет.
Напомним, после того, как летом прошлого года родители покончившего жизнь самоубийством 16-летнего американского подростка обвинили в его смерти OpenAI и подали на компанию в суд, разработчик ChatGPT пообещал дать родителям больше контроля за общением подростков с инструментом генеративного ИИ. В частности, сообщалось, что с октября 2025 родители получат возможность привязки своего аккаунта к учётным записям детей и среди прочего получать уведомление от ChatGPT, если сервис решит, что ребёнок находится в состоянии «глубокого душевного переживания».
В ответе на иск Кэрриер говорится, что OpenAI изучает юридические документы, которые указывают на то, что Элис общалась с более ранней версии ChatGPT, которая больше недоступна.
По словам адвокатов Кристи Кэрриер, компания OpenAI уже столкнулась с 18 аналогичными исками, поданными семьями людей, совершивших или пытавшихся совершить самоубийство, в рамках скоординированного разбирательства в суде штата Калифорния. Компания Google также столкнулась с аналогичным иском по поводу предполагаемого подстрекательства со стороны своего чат-бота Gemini.
В иске, в котором OpenAI обвиняется в халатности при разработке ChatGPT и в неспособности предупредить пользователей об опасностях продукта, запрашивается компенсация ущерба и судебное постановление, обязывающее OpenAI автоматически прекращать разговоры на определённые темы, отображая соответствующие предупреждения для пользователя.
