Администрация киберпространства КНР (Cyberspace Administration of China, CAC) опубликовала проект норм в сфере регулирования «услуг антропоморфного ИИ-взаимодействия», сообщает в понедельник People’s Daily Online.
Цель документа – продвижение «здорового развития и стандартизированного применения услуг человекоподобного взаимодействия, основанного на ИИ-технологиях».
Так, проект предполагает запрет для пользователей и поставщиков сервисов распространять контент, который представляет угрозу государственной безопасности, наносит ущерб национальной гордости и интересам, подрывает этническое единство, способствует нелегальной религиозной деятельности или преступлениям (именно в такой последовательности – профилактические меры в приоритете – ред.).
Также регулятор предложил запретить распространение слухов, подрывающих экономический и общественный порядок, а также действия, наносящие вред физическому и психологическому здоровью пользователей или унижающие достоинство личности.
Кроме того, администрация считает, что поставщики подобных услуг должны предупреждать о том, что пользователи взаимодействуют с ИИ-системой, а не с живым человеком.
Часть потребителей склонны воспринимать чат-ботов в качестве реальных друзей. В Великобритании, например, на фоне «эпидемии одиночества» около миллиона человек уже создали себе «виртуальных ИИ-компаньонов». Людей с неуравновешенной психикой ИИ-программы способны довести до убийств и самоубийств.
