Группа граждан, идентифицировавшая себя как «сотрудники Microsoft», опубликовала открытое письмо с призывом к компании отказаться от участия в тендере на поставку Пентагону облачного решения ценой 10 миллиардов долларов.
«Многие сотрудники Microsoft не думают, что то, что мы строим, должно быть использовано для разжигания войны», — говорится в обращении. Письмо появилось после того, как компания заявила в своем блоге, что скорее всего будет участвовать в конкурсе Пентагона на заключение 10-летнего контракта по созданию Joint Enterprise Defense Infrastructure (JEDI) – облачного и вычислительного решения для обеспечения боевых операций.
Группа также просит установить «принципы использования искусственного интеллекта», подобные тем, что были разработаны Google под давлением его сотрудников. Напомним, в мае 4,5 тысячи сотрудников Google выступили против работы над проектом Пентагона – государственной инициативой Project Maven, целью которой является проработка возможности использования нейронных сетей, машинного обучения и «больших данных» для управления боевыми беспилотниками. В июне Google заявил, что не станет продлевать текущий контракт с оборонным ведомством, а вскоре опубликовал семь принципов, которыми компания руководствуется, осуществляя разработки в области искусственного интеллекта. В частности, компания обязалась не заниматься разработками ИИ для оружия (в том числе ИИ-приложений для слежки «выходящей за пределы, установленные международным правом») и технологий, способных нанести вред людям.
Google недавно сообщил, что не собирается участвовать в тендере на контракт JEDI, поскольку это не соответствует оглашённым ранее ИИ-принципам компании, а также потому, что некоторые требования технического задания не соответствуют тому, что Google предлагает рынку.
Срок подачи заявок на участие в проекте JEDI истекает в октябре. Вероятные претенденты на военный заказ – Amazon (имеет опыт предоставления защищённых облачных сервисов «разведывательному сообществу», читай – ЦРУ) и IBM, которая хотя и с оговорками, но подтвердила свою заинтересованность.
Выступление «сотрудников Microsoft» лишь последний из эпизодов в «разгорающемся этическом кризисе американской IT-индустрии», отмечает FCW. Концепция смертоносного ИИ, где программное обеспечение само принимает решение об открытии огня и запуске ракет – только одна область, где работники индустрии пытаются заставить корпорации соблюдать этические нормы.
Тысячи разработчиков и IT-работников из компаний разных стран подписали соглашение не работать над автономным смертельным оружием. В документе отмечается, что разработчики не имеют права отдавать в руки машин право решать вопросы жизни и смерти людей. К тому же международное сообщество на данный момент не располагает ни техническими, ни юридическими инструментами для эффективного контроля смертоносных ИИ-систем.
