ИИ-разработчик Athropic приравнял угрозу для жизни 50 человек к миллиарду долларов, следует из опубликованного во вторник материала издания TechCrunch.
Критерий запрета ИИ-модели – опасность для жизни 50 человек (49 нормально – ред.), или риск материального ущерба на миллиард долларов.
Утверждается, что Anthropic представил конгрессменам вариант законопроекта об ИИ-безопасности. Документ определяет несколько вариантов развития событий, при которых распространение ИИ-модели следует запретить. Угроза, требующая запрещения, может заключаться в создании или использовании биологического оружия, в неотразимой кибератаке, или в утрате разработчиками контроля над ИИ-моделью.
Оценивать опасность моделей в законопроекте предложено независимым оценщикам, зарегистрированным в Минторге США. Если специалисты придут к выводу о наличии катастрофической угрозы, они должны будут в течение 72 часов известить об этом Минторг. А Минторг затем должен запросить суд о запрете опасной ИИ-модели.
Ранее Anthropic пошёл на конфликт с Пентагоном из-за нежелания предоставлять министерству войны возможности массовой слежки за гражданами и разработки полностью автономного оружия.
См. также: Anthropic попыталась очеловечить своего робота
