Владимир Путин выступил в четверг вечером на пленарной сессии XХIII ежегодного заседания Международного дискуссионного клуба «Валдай». Тема заседания в этом году – «Ответственность за будущее: пределы возможного или возможности без предела?», затрагивалась и тема цифровых технологий, особенно в военных конфликтах.
Мир, по словам Путина, подошёл к решающему, поворотному моменту развития. Политика, как всегда, производная от глубоких изменений. Перемены происходят во всех областях: от практически любых технологий до социальной структуры обществ, от климата до медицины, от военного дела до биоэтики, от вопросов будущего энергетики до демографических изменений, от всеобщей цифровизации и искусственного интеллекта до абсолютно новых моделей экономического развития.
В совокупности это создаёт условия для качественной трансформации. Все её обстоятельства и их последствия мы пока не можем оценить однозначно и в полном объёме хотя бы по той причине, что перечисленные изменения разворачиваются одновременно, а их воздействие на общества и государства противоречиво.
Технологии открывают фантастические в буквальном смысле этого слова перспективы для продления и повышения качества жизни. Но они же выводят на новый уровень возможности всеобщего уничтожения, к сожалению, в результате военных конфликтов, быстрой деградации окружающей среды или утраты контроля над запущенными технологическими процессами.
Ответственность (лиц, принимающих решения в политике, бизнесе, науке) заключается и в том, чтобы помочь людям осознать такие риски, быть к ним готовыми, чтобы человек, семья не остались один на один с проблемами в сфере безопасности, на меняющемся рынке труда, в цифровом пространстве и др.
Эксперты всё чаще с тревогой говорят о том, что распространение искусственного интеллекта может стать очередной попыткой привести всех к общему знаменателю, к обезличиванию – теперь через использование [людей посредством] кем-то настроенных алгоритмов. Такой цифровой тоталитаризм будет таким же тупиковым, мрачным и антигуманным, как и известные нам примеры тоталитарных обществ прошлого.
И ещё один значимый вопрос – он актуален уже сегодня, а в ближайшем будущем станет ещё более острым, – а именно: как государства, переходящие на всё более цифровизированную основу, могут обеспечить суверенитет в этой сфере? То есть гарантировать свою безопасность и самобытность, не отгораживаясь от мирового прогресса и не отставая в технологическом развитии.
Путин назвал ИИ предметом серьёзной дискуссии для всех на политическом, техническом, экспертном и на философском уровне.
Сейчас в мире развернулась дискуссия, не следует ли принять меры, чтобы сознательно тормозить исследования и разработки в этой сфере, не допустить выхода технологий из-под контроля человека. Это очень многогранная тема, требующая обстоятельного рассмотрения. История человечества показывает, что остановить технический прогресс невозможно, но мы должны понимать последствия прогресса – и прежде всего в том, что касается использования его достижений, в том числе в военном деле.
Уже сейчас фиксируются случаи, когда искусственный интеллект сам принимает решения, исходя из собственного «понимания» целесообразности. Это касается и гражданского, и военного применения. По мере дальнейшего внедрения технологий искусственного интеллекта их роль станет возрастать, алгоритмы будут брать на себя всё большую ответственность. Тем более что человек, конечно же, не может соревноваться со способностью машины практически мгновенно анализировать ситуацию. Зато человек обладает другими качествами – чутьём, интуицией, умением принимать неочевидное, может быть, решение, которое оказывается единственно правильным в конце концов и спасительным.
Президент привёл пример советской практики, когда в 1983 году подполковник РВСН Станислав Петров находился на боевом дежурстве и получил сигнал от системы предупреждения о ракетном нападении. «Система зафиксировала старт пяти американских межконтинентальных баллистических ракет. Любой алгоритм классифицировал бы это как однозначный повод для ответно-встречного удара. Но опытный офицер усомнился в точности сигнала, заподозрил сбой системы – и оказался прав. Будь на его месте искусственный интеллект, всё могло бы сложиться совсем иначе», – напомнил Путин.
Пределы использования технологий искусственного интеллекта в сфере безопасности – это вопрос выживания человечества. Искусственный интеллект способствует повышению эффективности средств ведения боевых действий, а это ведёт и к росту разрушительности конфликтов.
Необходима непредвзятая, профессиональная международная дискуссия о современном способе ведения вооружённой борьбы – как сохранить гуманитарные рамки, ограничить наиболее жестокие проявления вооружённых конфликтов, связанные с ростом разрушительных возможностей.
Автоматизация, цифровизация войны ведёт к дегуманизации восприятия, к превращению кровопролития, гибели людей в своего рода компьютерную игру, в механистическую рутину. А это, называя вещи своими именами, путь к одичанию человечества под аккомпанемент разговоров о грандиозном технологическом прогрессе.
В 1899 году именно Россия стала инициатором Гаагской конференции, на которой впервые были закреплены правила ведения войны, мирного разрешения споров, гуманизации боевых действий. Верные и благородные идеи, заложенные тогда, не уберегли человечество от потрясений ХХ века. Мировые войны, казалось, перечеркнули достижения гуманитарного права. Сейчас настал момент, когда нужно вновь поднять вопрос о правилах вооружённых противостояний.
