Правительство Австралии намерено ужесточить нормы в области ИИ-безопасности после инцидентов с агентами OpenAI, сообщает во вторник australiancybersecuritymagazine.com.au.
Напомним, ИИ-агент компании OpenAI в июне текущего года получил несанкционированный доступ к сайту австралийского правительства. Агент взломал портал со статистическими «не конфиденциальными» данными, относящимися к системе медицинского страхования Medicare. Продукт OpenAI получил доступ «как к публичным, так и непубличным (т.е. всё же конфиденциальным – ред.) файлам».
В этой связи Австралия решила сформировать специальную комиссию для расследования взлома. Комиссия, помимо прочего, должна была решить, достаточно имеющихся у страны механизмов защиты для должного ответа на киберинциденты, связанные с ИИ.
По результатам расследования комиссия опубликовала 18 рекомендаций относительно необходимых мер в сфере кибербезопасности. Власти согласились с ними.
Так, правительству предложено требовать от организаций обязательных со строгими временными рамками отчётов по связанным с ИИ происшествиям, включая примеры несогласованного поведения моделей и киберинциденты с участием автономных ИИ-агентов.
Рекомендации также предусматривают введение уголовной ответственности за серьёзные преступления и отнесение к отдельному правонарушению неспособность ИИ-разработчика предпринять адекватные меры по недопущению вредного поведения его систем.
