Американский ИИ-разработчик компания Anthropic отчиталась в четверг о выявлении и пресечении деятельности (блокировке аккаунтов) злоумышленников, использовавших модели компании «не по назначению» – в том числе для автоматизации кибератак и разработки оружия, поставив себя в один ряд с правительствами и ООН.
В Anthropic заявили, что выявили шесть случаев, когда модель использовалась для разработки ПО, позволяющего создавать вооружения или собирать разведданные с той же целью (речь идёт, очевидно, о взломе IT-систем разработчиков и производителей оружия – ред.) Злоумышленники, по уверениям Anthropic, находились, как не трудно предположить, в России и Китае, а ещё в Йемене, который до сих пор в хакерских хит-парадах не участвовал.
«Исторически подобная деятельность вскрывалась правительствами, комиссиями ООН или сторонними лицами, которые сопоставляли [данные] из изъятого оборудования и открытых источников, – пояснила свою роль Anthropic. – Однако будучи поставщиком передовой модели, мы можем идентифицировать эту деятельность сами, если обнаружим, что злоумышленники нарушают наши правила и условия пользования».
В этом контексте обращает на себя внимание словосочетание «наши правила». Напомним о сотрудничестве Anthropic с американскими спецслужбами для наступательных киберопераций.
Anthropic не первая IT-компания, примеряющая на себя государственные функции. Palantir, например, фактически наделяет себя правом на насилие: главе компании «спасать жизни, а при случае забирать их суперинтересно».
