Если вам интересны представления об этике людей, написавших Windows, прочтите опубликованный на этой неделе манифест («Кодекс поведения») Microsoft про «гуманистический» ИИ.
Это длинный, противоречивый, наполовину состоящий из банальных и банальнейших («people matter more than AI») деклараций, небезынтересный текст.
Microsoft утверждает, что трудится над созданием «гуманистического суперинтеллекта» (Humanist Superintelligence). Поясняется, что суперинтеллект – это искусственный интеллект, только умнее и способнее, чем все люди вместе взятые. Буквально: «AI systems that are more intelligent and capable than all humans combined». Ничего себе «гуманистический».
Есть в майкрософтовском кодексе поведения по отношению к ИИ здравое: «Мы отвергаем идею о том, что модели могут претендовать на статус юридического лица или на права», — но эта декларация не вписывается в контекст.
Microsoft так объясняет про «гуманистический» ИИ: он должен уважать «человеческое достоинство, безопасность, самостоятельность и фундаментальные права человека». Как ИИ станет это делать, не будучи субъектом права, непонятно. Откуда у машины возьмётся представление о чужом достоинстве.
Про права человека и вовсе странно. Они могут быть нарушены или защищены только другим человеком. При чём тут несубъектный ИИ? Он в этом смысле ничем не отличается от трамвая.
Снисходительный читатель скажет, что Microsoft такое простительно, что ждать от программистов, и будет неправ. Юристов в Microsoft более чем достаточно. Там есть специальный, и весьма публичный вице-президент – юрист. Да и программисты, случается, умеют рассуждать логично.
Столь же странного мнения насчёт ИИ придерживается, заметим по случаю, наш профессиональный защитник, главный в ООН по части прав человека. Что ему мешает понять формулу «права людей нарушают люди, а не машины», мы не знаем.
Позволим себе вслед за Microsoft отойти в сторону от своей предметной области (IT) и напомнить, что «права человека» – юридическая конструкция, обеспечивающая, по замыслу конструкторов, минимально необходимую защиту закона всем людям без исключения. Это как универсальная услуга связи, которая должна быть доступна каждому.
Эта конструкция в наши дни в руках политиков стала инструментом недобросовестных манипуляций. Экстремистская американская IT-компания Meta может разрешить призывы убивать русских, и ничего. Microsoft ничем не лучше, все американские IT-компании трудятся рука об руку с американскими спецслужбами, Сноуден не даст соврать.
Эти IT-компании подозрительно дружно взялись за написание деклараций на тему «ИИ и этика», и все маскируются под апологетов гуманизма. Один только Palantir честно, без ширмы, объявляет о намерении убивать людей, сидя за монитором. Русских, в первую очередь, т.к. они неправильные. Прямо об этом в Palantir, в отличие от Meta, не говорят, но сомневаться не надо, уже убивают.
См. также:
- Айтишники имеют право решать судьбы мира – манифест Palantir
- Очередной манифест Palantir – на этот раз про независимость в сфере ИИ
- Об ИИ-манифесте Марка Цукерберга
Что до «гуманизма» Microsoft, то это пустое. Уже было. В 2020-м Microsoft вместе с главой католической церкви подписала Rome Call for AI Ethics, «Римский призыв к этике ИИ», который никак не повлиял на не слишком этичное навязывание Copilot пользователям Microsoft Office, сотрудничество с ЦРУ , инициативы Microsoft в бездоказательном обвинении «русских хакеров» в киберпреступлениях. ИИ отдельно, этика – отдельно.
Да и к чему многостраничные корпоративные опусы про ИИ-этику? Недостаточно разве нескольких строк – законов Азимова, с которыми эти опусы не считаются:
- Робот не может причинить вред человеку действием или своим бездействием.
- Робот должен повиноваться всем приказам человека, не противоречащим п.1
- Робот имеет право заботиться о своей безопасности с соблюдением п.п. 1 и 2.
Замените «робот» на «ИИ», получится понятная даже программисту этичность.
