Генеральный секретарь ООН Антониу Гутерриш (Antonio Guterres) в понедельник призвал государства взять на себя обязательства по защите детей в сфере технологий искусственного интеллекта.
«Ни один ребёнок не должен быть подопытным кроликом для нерегулируемого должным образом ИИ, – заявил генсек ООН. – Мы не разрешаем детям использовать лекарственные препараты, не удостоверившись в их безопасности. Мы проверяем каждую игрушку; и всё же ИИ получил доступ к нашим детям – к их образованию, дружеским отношениям, наиболее сокровенным вопросам до того, как кто-то поинтересовался, а что он с ними сделает».
ООН выступает за то, чтобы разработчики в рамках обязательств по обеспечению безопасности детей подтвердили:
- безопасность технологий – ни одна компания не должна внедрять ИИ системы, к которым есть доступ у детей без специальных тестов на предмет безопасности для несовершеннолетних и без независимого надзора;
- нетерпимость по отношению к сексуальным домогательствам – ни одна компания не должна разрешать своему ИИ генерировать изображения детей сексуального характера; каждая организация должна выявлять и удалять о подобные материалы, а также сообщать о них;
- способность ИИ-системы при выявлении факта нахождения ребёнка в стрессовой ситуации прекратить [взаимодействие с несовершеннолетним] и обеспечить связь с сотрудником-человеком службы помощи.
Перекладывать ответственность в случае причинения вреда детям на алгоритм нельзя, уверен Гутерриш.
Ранее, напомним, управление верховного комиссара ООН по правам человека призвало дополнить возрастные ограничения доступа детей к онлайн-платформам ужесточением регулирования самих платформ и опубликовало 10 методических рекомендаций в этой связи.
См. также: Глава ООН призвал всех «имеющих влияние в информационной экосистеме» остановить ненависть
