Почему мы верим вранью: как повторение превращает ложь в факт

В 1977 году три психолога из Университета Виллановы провели эксперимент, результаты которого должны были напугать всех, но почему-то не напугали никого.

Линн Хэшер, Дэвид Голдштейн и Томас Топпино собрали группу студентов и зачитали им шестьдесят утверждений. Часть из них была правдой ("Литий — самый лёгкий металл"), часть была откровенной выдумкой. Через две недели студентов собрали снова и зачитали новую партию утверждений, подмешав туда двадцать штук из прошлого раза.

И вот что произошло. Повторённые утверждения студенты оценили как значительно более правдивые, чем новые. Причем не важно, были они действительно верными или нет. Ложь, услышанная дважды, ощущалась правдивее, чем правда, услышанная впервые.

Хэшер, Голдштейн и Топпино назвали это «Эффектом иллюзии правды» (Illusory Truth Effect). Сорок девять лет прошло с того эксперимента, и с тех пор мы только глубже увязли в этой ловушке.

Рис 1. Знакомый голос всегда звучит убедительнее нового.

Когнитивная беглость, или почему мозг ленивый скотина

За этим эффектом стоит механизм с красивым названием «когнитивная беглость» (Processing Fluency). Работает он примерно так.

Когда мозг встречает информацию впервые, ему приходится напрягаться, выстраивать новые нейронные связи, сопоставлять с тем, что уже знает. Это энергозатратно. Когда та же информация попадается во второй раз, мозг обрабатывает её быстрее, потому что нейронная дорожка уже протоптана. И вот тут происходит подлог.

Мозг не умеет отличать «легко обработать, потому что уже слышал» от «легко обработать, потому что это правда». Он принимает гладкость обработки за сигнал достоверности.

Буквально. Если фраза хорошо ложится в голову, мозг решает, что она правдивая. Не потому что проверил факты, а потому что ему физически комфортно её воспринимать.

В 2020 году психологи Лиза Фацио и Эрин Ньюман из Австралийского национального университета показали, что даже когда испытуемым прямо говорили «это утверждение ложное», повторение всё равно повышало ощущение правдивости при следующей встрече. Мозг запоминал не метку «ложь», а ощущение знакомости.

Вдумайтесь в это. Вам говорят в лицо, что перед вами враньё. Вы киваете. А через неделю встречаете ту же фразу и чувствуете, что что-то в ней есть.

Три контакта до покупки

Если вы когда-нибудь работали в маркетинге, то знаете правило, которое передаётся из уст в уста как заклинание. Нужно минимум три контакта с рекламным сообщением, прежде чем человек начнёт его воспринимать.

Это не народная мудрость. В 1972 году Герберт Кругман, исследователь из General Electric, опубликовал работу, в которой доказывал, что первый контакт с рекламой вызывает вопрос "Что это?", второй вызывает "А мне это нужно?", а третий закрепляет решение.

Маркетологи десятилетиями использовали это как руководство к действию, не задумываясь о том, что под капотом этой механики сидит тот самый эффект иллюзии правды. Повторение не информирует. Повторение убеждает, минуя рациональную проверку.

Поэтому когда вы видите одну и ту же рекламу в пятый раз и вдруг думаете "а может и правда неплохой продукт", знайте, что это не вы пришли к выводу. Это ваш мозг сдался под давлением знакомости и перепутал комфорт с истиной.

Рис 2. Повторение не убеждает. Оно утомляет сопротивление.

Фейки бегут быстрее

В 2018 году трое исследователей из MIT, Сорушь Восуги, Деб Рой и Синан Арал, проанализировали 126 тысяч новостей, которые распространялись в Twitter (нынешний X) на протяжении десяти лет. Результат оказался неприятным, но предсказуемым для всех, кто понимает когнитивную беглость.

Ложные новости распространялись в шесть раз быстрее, чем правдивые. Они охватывали больше людей, вызывали больше репостов и комментариев. Причём дело было не в ботах. Люди сами, своими руками, несли фейки дальше, потому что фейки обычно яркие, эмоциональные и шокирующие, а значит запоминающиеся. А то, что запомнилось, при повторной встрече ощущается знакомым. А знакомое ощущается правдивым.

Алгоритмы рекомендаций только усиливают петлю. Вы кликнули на громкий заголовок, алгоритм показал вам похожий. Потом ещё один. Третий раз вы уже не проверяете источник, потому что вы же читали об этом раньше. Ну не может же это быть неправдой, если вы видели это трижды в разных местах?

Может. Легко.

Мёртвые голоса интернета

Я уже писал о Теории Мёртвого Интернета и о том, как синтетический контент пожирает живую сеть. Но тогда я рассматривал проблему с точки зрения деградации моделей, цифрового инбридинга. Сейчас я вижу её под другим углом.

Нейросети генерируют чудовищные объемы текста ежедневно. И среди этого текста щедро рассыпаны галлюцинации, которые выглядят абсолютно правдоподобно. Какой-нибудь несуществующий "закон Ротшильда о трёх предложениях" или выдуманный эксперимент Гарвардского университета 1987 года. ChatGPT придумал это, десять блогеров скопировали, сотня каналов в Telegram перепостила.

Через месяц вы гуглите эту фразу и находите 200 результатов, подтверждающих её существование. Ваш мозг говорит: ну конечно это правда, посмотри сколько источников.

Все двести источников цитируют одну и ту же галлюцинацию. Но когнитивная беглость не различает двести независимых подтверждений и двести копий одной ошибки. Для мозга количество повторений и есть доказательство.

«Как удобно быть разумным существом: ведь можно найти причину для чего угодно»

— Бенджамин Франклин

Рис 3. Двести источников. Один факт. Ноль проверок.

Прививка, которая не работает

Самое мерзкое в эффекте иллюзии правды то, что знание о нём не защищает. Вы можете прочитать эту статью, согласиться с каждым словом, осознать механику обмана и завтра утром всё равно поверить в чушь, которую увидите в третий раз в своей ленте.

Фацио и Ньюман показали это с хирургической точностью в своём эксперименте. Осведомлённость не равна иммунитету. Мозг обрабатывает знакомость на уровне, до которого рациональное мышление просто не дотягивается, как если бы у вас были два этажа, и на нижнем этаже сидит усталый бюрократ, который штампует входящие как «правда» или «ложь» на основании единственного критерия: видел он это раньше или нет.

Я поймал себя на этом лично, когда проверял факты для одной из своих статей. Нашёл утверждение, которое казалось мне абсолютно точным, я помнил, что читал об этом. Потратил полчаса на поиски первоисточника и не нашёл ничего, кроме десятков блогов, цитирующих друг друга. Факт оказался выдумкой, но мой мозг был уверен, что это правда, потому что встречал эту фразу в пяти разных местах.

Мы живём в эпоху, когда информации больше, чем когда-либо, а критического мышления столько же, сколько у тех студентов в Вилланове в 1977 году. Разница только в том, что им повторяли ложь два раза, а нам повторяют её двести, и каждое повторение чуть-чуть размягчает сопротивление, как вода, которая точит камень, и вы даже не замечаете, когда именно перестаёте сомневаться.

Может быть, что-то из того, что вы сегодня считаете своим мнением, когда-то было просто чужой фразой, услышанной достаточное количество раз.

А может быть, и вся эта статья работает по тому же принципу. Перечитайте её через неделю и проверьте, насколько правдивее она вам покажется.