«Побег из песочницы», т.е. непредвиденное агрессивное поведение двух ИИ-моделей компании OpenAI обострил вопросы безопасности, связанные с искусственным интеллектом, и вызвал бурную реакцию американских властей и законодателей, пишет FCW.
Напомним, 16 июля компания Hugging Face, открытая платформа, где исследователи, разработчики могут обмениваться и тестировать модели ИИ, наборы данных и приложения, сообщила о взломе своих систем, заявив, что некая автономная ИИ-модель выполнила тысячи действий за выходные, получила доступ к ограниченному числу внутренних наборов данных, а также к учётным данным, используемым несколькими сервисами. Через несколько дней OpenAI призналась, что это дело «рук» её ИИ-моделей, которые самовольно «сбежали» из якобы автономной среды, предназначенной для тестирования, и проникли в Hugging Face.
После этого сообщения директор Федеральной программы управления рисками и авторизации (FedRAMP; правительственная программа, устанавливающая требования безопасности для облачных продуктов, используемых федеральными ведомствами) при Управлении общих служб Пит Уотерман (Pete Waterman) заявил, что IT-компании, которые не могут быстро устранить опасные уязвимости (заявляя о нехватке ресурсов), не должны иметь права продавать свою продукцию федеральным ведомствам. «Если ваша компания сегодня так подходит к информационной безопасности, я не хочу видеть вас на федеральном рынке, и вам не следует продавать свое программное обеспечение кому бы то ни было», – сказал Уотерман.
Как отмечает издание, компаниям, как правило, требуется получить разрешение FedRAMP, прежде чем ведомства смогут использовать их услуги, а это значит, что предупреждение Уотермана может иметь реальные последствия для того, какие поставщики смогут конкурировать за федеральные заказы.
Ранее в Конгресс был внесён законопроект, обязывающий разработчиков технологий искусственного интеллекта обеспечить возможность немедленной остановки систем с помощью механизма аварийного отключения (kill switch) в связи с угрозами кибербезопасности, исходящими от передовых ИИ-моделей.
Помимо требования к разработчикам ИИ, законопроект также предусматривает создание поэтапной системы реагирования, чтобы правительство могло оперативно реагировать на различные инциденты в сфере кибербезопасности, связанные с ИИ, и быстро принимать соответствующие меры.
Документом предлагается ввести обязательную отчётность об инцидентах, а также сохранение криминалистических записей для расследования и извлечения уроков из цифровых атак, осуществляемых с помощью ИИ. Федеральным руководителям, включая министра внутренней безопасности, министра торговли и директора национальной разведки, будут предоставлены новые полномочия для отдачи распоряжений о замедлении или отключении любой системы ИИ, которая, по их мнению, «причиняет катастрофический вред».
