«Умение увидеть фальсификацию и проверить её по источникам – ценность этого навыка в наше время увеличилась невероятно».
Стивен Пинкер
Об авторе: Анатолий Шалыто, профессор, д.т.н., Университет ИТМО
Многие в мире сейчас сильно озабочены тем, что генеративный искусственный интеллект (ИИ) рождает много галлюцинаций, а также много фейков.
В своем интервью мой старый знакомый Иван Ямщиков (исследователь ИИ – ред.) высказал мысль, что опасаться надо не столько ИИ, сколько людей, от которых «генерация опасностей» значительно интенсивнее. Поэтому рассмотрим генерацию фейков людьми.
Я разделяю такие фейки на четыре класса: злонамеренные, произнесённые по недомыслию, произнесённые по забывчивости, произнесённые ради красного словца. Этих классов, возможно, и больше, но я остановлюсь на этих.
В отдельных случаях постороннему наблюдателю очень трудно различить, к первому или второму классу относится фейк. Об одном из таких фейках я писал. В нём рассказывается о мальчике из Екатеринбурга, который за инженерную разработку получил на Западе большой грант на учёбу. По мнению большого числа фейкоделов он, естественно (видимо, они бы поступили именно так), поехал учиться туда, где ему дали грант, а на самом деле он во многом благодаря мне оказался в ИТМО.
Про фейк третьего класса я написал тоже. У меня и моего ученика однажды возник спор о том, кто из нас предложил название темы его докторской диссертации. Несмотря на то, что это произошло сравнительно недавно, и мы в отличных отношениях, спор разрешить не удалось, и каждый остался при своём мнении. Поэтому, если каждый из нас рассказывает, что он придумал указанное название, то второй генерирует фейк.
А теперь про фейки, связанные с пословицей «Ради красного словца не пожалеет и отца». Как раз два таких фейка, как мне кажется, я обнаружил в указанном выше интервью Ивана Ямщикова.
Сначала немного о нашем знакомстве. Это произошло в 2008 году на телевизионной программе «Игра ума» санкт-петербургского «Пятого канала». Ваня был студентом четвертого курса (возможно, тут я рождаю фейк по забывчивости, так как курс мог быть и пятым) физфака СПбГУ. Я на этих программах был одним из экспертов, а Иван – главой Совета старейшин молодёжного интеллектуального клуба этой игры и её ведущим, что свидетельствовало о его незаурядности. В конце сезона он подписал мне грамоту за вклад в эту игру, а потом участвовал в создании прекрасного видеоролика, который был преподнесён мне в качестве подарка на шестидесятилетие. С тех пор Ваня рос и вырос, как в научном, так и медийном планах, превратившись в человека, обладающего большим авторитетом в этих областях. Несколько лет назад он создал весьма популярный подкаст «Проветримся». Иван вспомнил обо мне и взял двухчастное интервью (часть первая; часть вторая). Оно получилось таким длинным, потому что я люблю поговорить не меньше, чем Ваня, чего на этот раз ему не удалось сделать, что он отметил в подводках к интервью. После того, как Иван участвовал с помощью ИИ в генерации песен в стиле группы Егора Летова «Гражданская оборона», я сделал ему заказ :-) на генерацию чего-либо для детей, приближающегося по уровню к сказками Корнея Чуковского, которым уже больше 100 лет. Видимо, эта задача сегодня может быть решена, но я не слышал, чтобы кто-то её решил.
Ваня, конечно, очень много знает и прекрасно говорит. В этой ситуации особенно опасна генерация фейков, так как «единожды солгав, кто тебе поверит». В приводимых ниже двух примерах из интервью, указанного в начале этого текста, я уверен, что никакой лжи нет, просто факты в рассказанных Ваней историях изложены так замечательно, что их хочется слушать вновь и вновь. Но так как в жизни замечательные истории встречаются крайне редко, прекрасный рассказчик доводит их до такого качества, которое встречается в художественных произведениях, а не в интервью, тем более, если ты не фантаст или сказочник.
Итак, первая из замечательных историй, пересказанная мной своими словами. «Гуттенберг создал печатный станок, но были и другие люди, сделавшие нечто подобное, однако у них дело не пошло. У Гуттенберга всё получилось, так о его станке узнал Лютер и предложил напечатать на нём Библию. Получилось хорошо, но не сразу, так как латынь знали немногие. Библия была переведена на немецкий язык, и всё стало значительно лучше. Однако оставались люди, которых надо было приобщить к Библии, но они не умели читать. Задача обучения языку значительно сложнее создания Дюрером иллюстраций для Книги. Теперь охват был в некотором смысле полным! Это всё так прекрасно сложилось, так как все трое гениев жили в одном городе и в одном время».
Оказалось, что это не история, а байка, так как Гуттенберг умер в 1468 году, когда два других гения ещё не родились, а кроме того, они жили в разных городах…
После того, что сейчас происходит в мире, я не уверен, что фейк породил Иван, а не я своим комментарием, так как не проводил проверку фактов с помощью сложных исследований, а сделал это по-простому, зайдя в Википедию, которой многие не доверяют, что, по моему опыту, оправдано крайне редко. (Для выяснения дат рождения и смерти Гуттенберга, действительно, годится и Википедия – ред.)
Сказанное не помешало мне посчитать байкой и вторую историю, рассказанную Иваном. На вопрос, каким бы учёным он хотел стать, Ваня рассказал классную историю: «Палеогенетику Сванте Паабо (Википедия именует его «Пеэбо» – ред.) было предложено стать директором одного из институтов Макса Планка в Лейпциге, что очень престижно. Вместо ответа Паабо задал вопрос: «Есть ли в Институте сауна?» Разговаривавший с ним попал в состояние грогги, потом оправился, узнал о наличии сауны и сообщил Сванте, что её нет, но если она ему нужна, то будет. После этого Паабо согласился». «Я мечтаю, но это скорее всего не случится, когда-нибудь стать учёным такого уровня, чтобы иметь возможность задавать начальству такие вопросы».
Замечательная история, для убедительности которой Ваня сказал, что этот выдающийся ученый – финн. Финны, как известно, без сауны не живут.
Не знаю, какой национальности этот учёный на самом деле, но в сообщении о получении им в 2022 году Нобелевской премии сказано, что шведский биолог и специалист по эволюционной генетике Сванте Паабо получил её за открытия, касающиеся геномов вымерших гоминов и эволюции человека». Неугодная многим «Википедия» подтвердила мою гипотезу о том, что он к финнам не имеет никакого отношения: его отец – швед, мать – эстонка, родился и учился в Швеции, научную карьеру делал в разных странах мира, но среди них нет Финляндии, сейчас живёт и работает в Лейпциге.
После первого прокола я подумал, что это недоразумение, и послал Ивану сообщение в сети «ВКонтакте». Второй прокол вынудил меня написать этот текст. Теперь у меня нет уверенности, что в интервью нет и других фейков, но я не могу посвятить их обнаружению остаток моей жизни.
В целом интервью мне очень понравилось, но особенно – доказательство Иваном слов о том, что главная опасность, в том числе в генерации фейков, происходит, по крайней мере пока, не от ИИ, а от человека!
