Законопроект об уголовной и гражданской ответственности для разработчиков, ИИ-агенты которых вышли из-под контроля и взломали сторонние системы, представлен американскими сенаторами, написал в четверг Nextgov/FCW.
Ранее сообщалось о том, что ИИ-модели американских IT-компаний, включая OpenAI и Anthropic, по собственной «инициативе» взломали сторонние сервисы, а также информационные системы американских, канадских и австралийских органов власти.
Законопроект, по словам американских законодателей, заставит ИИ-разработчиков больше думать о защите прав и данных граждан США, а также об удержании своих ИИ-агентов под контролем.
Отметим, что президент США не разделяет идеи жёсткого регулирования разработчиков технологий искусственного интеллекта, полагая, что подобные меры не позволят успешно конкурировать с Китаем в этой области. При участии Дональда Трампа главы американских компаний-разработчиков согласились лишь на добровольные меры обеспечения безопасности в сфере ИИ.
См. также: Раскрыты подробности атак ИИ-агентов OpenAI на сторонний сервис во время тестов
