ИИ-разработчик Anthropic опубликовал в понедельник статью о резком повышении эффективности моделей искусственного интеллекта, значительном росте их возможностей и вытекающей из сопутствующих этому рисков необходимости принять меры для глобального замедления развития подобных технологий.
По большей части в материале перечисляются успехи компании в сфере ИИ-разработок. Ближе концу статьи среди прочего говорится о не самом вероятном, но самом опасном сценарии развития, согласно которому ИИ-системы научатся «рекурсивному самосовершенствованию» и станут создавать новые поколения самих себя, одно круче другого.
В этой связи, полагает Anthropic, миру пошло бы на благо средство замедлять или приостанавливать разработку новейших ИИ-технологий. Это даст возможность общественным структурам и контролирующим организациям не отставать от прогресса.
Исследования в данной области предлагается вести силами подразделения самой компании (Anthropic Institute) в сотрудничестве «со многими другими». Так предполагается предпринять меры, которые помогут построить пользующиеся доверием системы, необходимые для замедления или приостановки разработки определённых технологий.
Эти гипотетические системы позволят разработчикам новейших ИИ-технологий удостовериться, что остальные [специалисты] во всём мире действительно прекратили или замедлили исследования, а злоумышленники при этом не смогут тайно воспользоваться снижением темпов разработок для обеспечения резкого прогресса в области ИИ.
В инициативе Anthropic угадывается намерение контролировать и отслеживать чужие успехи. В целом это соответствует политике Соединённых Штатов, которые прямо заявляют, что используют технологические стандарты для обеспечения собственного лидерства. Участие в разработке стандартов другими государствами вызывает у Вашингтона по меньшей мере озабоченность.
См. также:
- Anthropic согласилась на сотрудничество с АНБ для разработки наступательных киберопераций
- Ведущие разработчики призвали Конгресс США обеспечить защиту от биологических угроз со стороны ИИ
