Компания Anthropic решила запретить пользователям обходиться с её ИИ-системой Claude с излишней «жестокостью» («cruel», один из допустимых переводов – бессердечный), пишет в пятницу AFP.
Соответствующий вывод AFP сделало после обновления условий пользования продуктами Anthropic. Теперь они включают «запрет на последовательное и избыточно агрессивное или жестокое поведение в отношении наших моделей». Агентство упоминает некую «философскую дискуссию» на предмет того, может ли ИИ «обладать сознанием». Также утверждается, что глава Anthropic допускает наличие сознания у ИИ.
Обеспечивать исполнение правил будет сама ИИ-модель, которая сможет прерывать своё использование при неподобающем с ней обращении.
К участию айтишников в «философской дискуссии» надо относиться с иронией. С тем же успехом философы могли бы заняться программированием.
У философов тяги к программированию, однако, нет. У IT-деятелей она наблюдается регулярно и в странных формах. Особенно отличается в этом деле руководство Palantir.
Никаким сознанием робот, разумеется, не обладает и обладать не может. Такое предположение давно высмеял, в частности, Станислав Лем, выведя в «Звёздных дневниках Ийона Тихого такой персонаж: «…Иеремия хотел принудить электричество двигать идеи. Часто эту мысль искажают – дескать, он призывал к избиению электромозгов, а его девизом будто бы было: «ЭВМ – по морде!» Это – злонамеренное извращение его идей; просто Иеремия имел несчастье опередить свое время». Вспомнить об Иеремии в связи с «жестокостью» по отношению к ИИ, согласитесь, уместно.
