Ряд технологических компаний из США и Европы создали альянс Open Secure AI — «для разработки и распространения открытых инструментов, способствующих ответственному использованию ИИ и укреплению доверия к нему», сообщает Nvidia в понедельник.
Альянс, говорится в сообщении, будет заниматься устранением и раскрытием уязвимостей с использованием открытых технологий ИИ.
Поводом для объединения послужил недавний инцидент с сервисом Hugging Face, предназначенным для тестирования ИИ-моделей на предмет их способности взламывать ПО. Сама Hugging Face не смогла защититься от взлома ИИ-моделью OpenAI, которая подделала результаты тестирования.
В отличие от закрытых моделей, открытые модели можно загружать, модифицировать и размещать на собственном сервере, а доступ к ним возможен только через специальную инфраструктуру.
В альянс на сегодня входят Nvidia, Adobe Cisco, Cloudflare, Dell Technologies, Hugging Face, IBM, Linux Foundation, Microsoft, Palantir, Red Hat, SAP и другие. Google и OpenAI в списке не значатся.
См. также: В США принимаются решительные меры регулирования ИИ-систем – для безопасности
