Бездумное использование искусственного интеллекта может привести к утрате всего того, что нам дорого, – нашей идентичности, а ещё к распылению информации больших данных, передаче этой информации в руки тех, кто воспользуется ей «минимум недобросовестно», сказал президент Владимир Путин во вторник на заседании совета по развитию гражданского общества и правам человека.
Тему бездумного применения ИИ поднял Игорь Ашманов, член совета при президенте России по развитию гражданского общества и правам человека, глава акционерного общества «Крибрум». По словам Ашманова, уже сейчас сложилась практика, когда школьники и студенты получают задания, отдают их искусственному интеллекту и потом, не читая, сдают обратно, «и у них возникает идея, что, в общем, знать необязательно, надо сдать».
В разработке у членов Совета имеется законопроект, основная мысль которого состоит в том, что нужно стимулировать развитие искусственного интеллекта в промышленности, в обороне и так далее, но в сфере публичной политики, в госуправлении, в социальной сфере, в образовании использование искусственного интеллекта должно быть серьёзно отрегулировано. «Примерно как с ацетоном или метанолом: его можно использовать в промышленности, но нельзя нюхать или добавлять …в продукты питания. Нельзя заменять учителей и так далее», – сказал Ашманов.
Он затронул и тему чат-ботов в госуправлении: «Чат-боты не решают даже мелких проблем. Это фактически просто способ отогнать граждан, такой способ снятия ответственности».
Фактически власть перетекает от государства – от силовиков, промышленников, энергетиков к цифровикам: «Кажется, что мы приближаемся к какой-то точке невозврата».
См. также: Цифровизация с человеческим лицом
«Хороший пример – это пожар в Южной Корее, где в результате быстрого внедрения [цифровизации] … Они как бы впереди нас оказались. Они всё перевели на безбумажный оборот, и прямо на момент в результате пожара у них сгорели сотни госуслуг, сотни тысяч карьерных записей госслужащих и так далее, причём и бэкапы все сгорели, то есть резервное копирование. И они не могут восстановить», – рассказал Ашманов.
Президент согласился, что подобные вопросы надо решать, хотя «не очень понятно, как это делать».
«Потому что не использовать эти инструменты – значит проиграть всё, что нам дорого, просто всё проиграть, если не использовать возможности больших данных и всё, что с этим связано. Но в то же время если использовать это бездумно, то это тоже может привести к утрате как раз всего того, что нам дорого», — сказал Путин.
Нельзя допустить, чтобы молодёжь вместо того, чтобы думать, будет «просто нажимать кнопочку», и чтобы не возникла элита из двух десятков человек, которые действительно думают, и основной массы людей, которые «будут только уметь кнопку нажимать».
Ответственность за принятие окончательного решения должна лежать на конкретном человеке. И ссылка на то, что это подсказал искусственный интеллект, не должна приниматься.
«Я только слова благодарности могу направить в Ваш адрес, Игорь Станиславович. Дайте, пожалуйста, как можно быстрее Ваши предложения. Без всякого сомнения, мы это используем и Вас будем привлекать к выработке этих решений окончательных и к работе над проектами этих нормативных актов», – сказал Путин.
