Компания Anthropic, будучи поставщиком моделей искусственного интеллекта и систем генеративного ИИ, сообщила во вторник о подписании кодекса практик в сфере прозрачности сгенерированного ИИ контента (Code of Practice on Transparency of AI-Generated Content) в рамках европейского закона об ИИ.
Так, в сгенерированные тексты будут вставлены соответствующие «водяные знаки». Название условное, заимствовано из маркировки изображений. Как именно будет помечаться текст, не объясняется. Сказано о метаданных, однако их злоумышленник может изменить или удалить. Возможно, текст будет маркироваться с анализом его уникальных признаков (условный пример – характерные сочетания букв, повторяемость таких сочетаний). Так или иначе, в Anthropic утверждают, что помеченный текст может выдержать редактирование без утраты маркировки.
При создании изображений в поддерживаемом формате – .svg, .png, или jpg – к нему будут прикреплены заверенные метаданные о происхождении. Технология маркировки изображений, в отличие от маркировки текстов, не инновационна.
В настоящее время идут работы над тем, чтобы дать возможность пользователям видеть водяные знаки и метаданные. Результаты обещают опубликовать позже.
Наличие специальной маркировки может лишь свидетельствовать о том, что материал обрабатывался моделью Claude, но это не значит, что определённые идеи, тексты или данные были обязательно сгенерированы Claude, а не взяты из другого источника.
Отсутствие маркировки также не всегда означает, что контент не был сгенерирован, оговаривается разработчик.
См. также: Еврокомиссия заявила о необходимости маркировки сгенерированных ИИ текстов и произведений
