Эффект Манделы для роботов: Почему ИИ выдумывает факты и почему мы делаем то же самое

Вы помните человечка с логотипа игры «Монополия»? Богатый дядюшка в цилиндре и с моноклем. Если вы ярко представили этот монокль, у меня для вас новость: его никогда не было. Дядюшка Пеннибэгс никогда не носил монокль.

Это – Эффект Манделы. Ситуация, когда миллионы людей «помнят» то, чего не происходило.

Когда ChatGPT выдумывает несуществующий судебный прецедент или цитату, мы называем это «галлюцинацией» и смеемся над глупой машиной. Но правда в том, что ИИ галлюцинирует ровно по той же причине, по которой галлюцинируем мы.

В этой статье мы разберем, почему память – это не жесткий диск, а творческая мастерская.

Рис 1. Мы не помним прошлое. Мы каждый раз создаем его заново.

Иллюзия видеокамеры

Нам приятно думать, что наш мозг – это архив. Что где-то на полочке лежит папка «Воспоминание о выпускном», и когда мы хотим вспомнить, мы просто достаем её и сдуваем пыль.

Нейробиология разрушила этот миф еще в 90-х. Память – это процесс реконструкции. Каждый раз, когда вы вспоминаете событие, вы не «воспроизводите запись». Вы пересобираете сцену заново из разрозненных нейронных связей: запах, звук, эмоция.

И в этот момент сборки мозг часто «дорисовывает» недостающие детали, беря их из других событий или фильмов. Этот процесс называется реконсолидацией. По сути, каждое наше воспоминание – это «галлюцинация», основанная на реальных событиях.

Почему врет ChatGPT?

Большие языковые модели (LLM) работают удивительно похоже на человеческий мозг. У ChatGPT нет базы данных фактов. Внутри него нет файла с текстом «Войны и мира». Там есть только вероятности.

ИИ – это машина, которая всегда играет в игру «Угадай следующее слово». Когда вы спрашиваете: «Кто написал "Муму"?», модель не ищет ответ в энциклопедии. Она «чувствует», что после слов «написал Муму» с вероятностью 99% идет токен «Тургенев».

Но если вы спросите про редкий факт, вероятности размываются. Модель начинает «творить». Она подставляет слово, которое звучит правдоподобно, но не является правдой.

Она ведет себя как студент на экзамене, который не знает билет, но очень уверенно льет воду, используя умные слова.

Рис 2. ИИ не врет намеренно. Он просто пытается заполнить пустоту смыслом.

Галлюцинация = Креативность

Инженеры бьются над тем, чтобы убрать галлюцинации. Но есть философский вопрос: хотим ли мы убрать их полностью?

Способность «придумывать то, чего нет» – это основа творчества. Если бы человеческий мозг работал как база данных SQL (только 100% факты), мы бы не придумали ни драконов, ни космических кораблей, ни метафор.

То же самое с ИИ. Если зажать его параметры в тиски строгой фактологии (Temperature = 0), он перестанет врать, но станет скучным, как телефонный справочник. Та самая «искра», которая позволяет нейросети писать стихи или придумывать идеи для маркетинга – это тот же самый механизм, который заставляет её выдумывать факты.

Резюме

Когда в следующий раз ИИ ошибется и придумает несуществующую книгу, не спешите его ругать. В этот момент он максимально похож на человека. Он проявил фантазию там, где ему не хватило знаний.

Прямо как вы с моноклем дядюшки Пеннибэгса.