ИИ не справился с модерацией контента YouTube – люди возвращаются к работе

271

Видеосервис YouTube сообщил, что возвращает на работу сотрудников, занимавшихся модерацией контента до пандемии, поскольку искусственный интеллект не смог столь же корректно оценивать содержание видеороликов, сообщает The Verge.

В марте YouTube заявил, что откажется от людей-модераторов и будет максимально полагаться на системы машинного обучения, чтобы отмечать и удалять контент, нарушающий его политику, в частности, запрет на враждебные высказывания (hate speech) и распространение дезинформации. Однако теперь сервис признался, что использование ИИ привело к значительному росту случаев удаления видео и некорректных решений.

В период с апреля по июнь с YouTube было удалено порядка 11 миллионов видео – примерно в два раза больше обычного среднего значения. Около 320 тысяч из этих миллионов удалений были оспорены – и примерно половина апелляций была одобрена – и ролики восстановлены. Это, опять же, в два раза больше, чем в «до-ИИ период», то есть искусственный интеллект показал себя весьма жестоким и гиперусердным цензором.

Издание отмечает, что все крупные социальные медиаплатформы вроде Twitter, Facebook и YouTube в последнее время находятся под постоянным давлением – их заставляют следить за «чистотой» контента и не допускать распространения ложных новостей и риторики ненависти. И все они возлагали надежды на ИИ-алгоритмы, которые, по их мнению, в силах справиться с модерацией огромного количества пользовательского контента.

Однако эксперты в ИИ-технологиях и модерации регулярно подвергают сомнению эту идею. Решить, содержит ли видео элементы популяризации теории заговора или, например, намёк на расизм, сложно даже опытному человеку, а компьютеры лишены способности понимать конкретный культурный контекст и нюансы ситуации, указывают они. Автоматические системы могут «засечь» явных правонарушителей – что, безусловно, полезно, – однако без людей обойтись пока невозможно.

Впрочем, опыт YouTube показал, что для удаления действительно опасных роликов ИИ оказался весьма эффективным. По данным сервиса, более 50% из этих 11 миллионов видео были удалены до того, как их просмотрел хотя бы один человек; более 80% до удаления были просмотрены менее десяти раз.

Следите за нашим Телеграм-каналом, чтобы не пропускать самое важное!

Поделиться: