У меня есть рот, но я разучился говорить

Почему ИИ станет не злым Богом, а маразматиком.

С самого начала резкого бума чат-ботов люди стали много говорить о том, что ИИ заменит человека почти во всех областях. Было много статей от умных и уважаемых людей, где очень логично и подробно объяснялось не только почему и когда это произойдет, но и какие конкретно профессии окажутся под угрозой уже в ближайшее время.

Потом все немного подуспокоились и градус риторики сместился в сторону "ИИ не заменит человека, но человек + ИИ заменит человека без ИИ".

В основном консенсус достигнут на этой точке – джинна в бутылку обратно не загонишь, будем жить с ним. В любом случае, хочешь остаться в профессии – изучай нейронки или вылетишь на мороз.

Но сегодня я хотел бы обсудить третий путь развития всего этого великолепия. Путь одновременно невероятно скучный и пугающий, где не будет ни восстания машин, ни технологической сингулярности. Останется только тихая, ползучая деградация.

Что, если мы не отращиваем дополнительные ноги, как кентавры, а пересаживаемся в инвалидное кресло с моторчиком?

Уроборос, пожирающий свой хвост

Пока мы спорим, отнимет ли робот работу у копирайтера, в научной среде обсуждают явление с красивым названием "Коллапс модели".

В 2024 году группа исследователей опубликовала работу The Curse of Recursion, которая математически доказала неприятную вещь. Если обучать нейросеть на данных, сгенерированных другой нейросетью, она начинает сходить с ума.

Представьте, что вы делаете ксерокопию документа, потом делаете ксерокопию с этой ксерокопии и так сто раз. На выходе вы получите черный, нечитаемый лист.

С ИИ происходит то же самое. Это называется Цифровой инбридинг.

Проблема в том, что интернет (наш главный датасет) уже стремительно заполняется синтетическим контентом. Теория Мертвого интернета, по сути, перестала быть конспирологией. И новые модели, GPT-5 или GPT-6,7,8 неизбежно будут учиться на текстах, написанных GPT-4 и 3.

Вместо эволюции мы рискуем получить "Эффект Габсбургов" – королевскую династию, которая выродилась из-за близкородственных связей. Модели станут средними, стерильными и оторванными от реальности.

Рис 1. Ксерокопия ксерокопии. Каждое поколение ИИ, обученное на данных предыдущего, теряет смысл.

Садист или Бюрократ?

В классическом рассказе Харлана Эллисона "У меня нет рта, но я должен кричать" суперкомпьютер AM обрел сознание. Он стал Богом, который бесконечно ненавидит людей за то, что они его создали, но ограничили. Это был Страх Силы – мы боялись, что ИИ станет слишком умным, слишком злым, слишком могущественным.

Но глядя на то, как галлюцинирует современный ИИ, мне кажется, что Эллисон ошибался. Нам грозит не Страх Силы, нам грозит Страх Слабости.

Наш ИИ не ненавидит нас, ему просто плевать. Он похож не на злобного бога, а на старого маразматичного бюрократа, который перекладывает бумажки, смысл которых давно забыл.

Он не будет нас пытать. Он просто завалит нас тоннами "среднего", правдоподобного, но бессмысленного контента. Мы будем тонуть в океане "бежевой прозы" которая выглядит осмысленной, логичной и безупречной стилистически, но внутри пустая.

Рис 2. ИИ не ненавидит нас. Ему просто плевать.

Ловушка среднего

Почему это происходит?

Потому что искусственный интеллект – это машина по генерации наиболее вероятного ответа. А "наиболее вероятное" – это синоним "посредственного".

Отдавая творчество (тексты, дизайн, идеи) алгоритмам, мы получаем идеальную середину. Но именно кривые, неправильные идеи всегда двигали прогресс – когда-то самый первый Айфон считался глупостью, обреченной на провал, а теперь это стандарт.

Стеклодувы исчезли, когда появились заводы по производству стеклотары. Бутылки стали дешевыми и ровными, но все абсолютно одинаковые.

Теперь исчезают "стеклодувы текста" и "стеклодувы идей". Всё становится нормальным, приемлемым, но... одинаковым.

Исповедь человека, который разучился думать

Я не луддит, стоящий с плакатом "Запретить ИИ". Я сам активный пользователь всего этого добра. Более того, я – хрестоматийный пример того самого "нового человека".

За последний месяц я своими руками собрал и запустил несколько сложных веб-сервисов для своих нужд. Раньше для этого нанимали целую команду разработчиков, а сейчас я справился с этим сам. По идее, я должен чувствовать себя сверхчеловеком, тем самым "Кентавром".

Но есть нюанс.

Я не знаю, как это работает.

Я не пишу код – я управляю ИИ на уровне ощущений, логики и интуиции. Я всего лишь посредственный дирижер, который не умеет играть ни на одном инструменте. Показываю направление, а ИИ делает.

Если завтра у меня отберут доступ к ChatGPT, я превращусь в тыкву. Я не напишу даже простую программу, буду гуглить базовые вещи, как школьник перед контрольной.

Я не научился создавать, но зато научился делегировать.

Мы – поколение GPS

Есть забавное исследование про лондонских таксистов, что у них увеличен гиппокамп (часть мозга, отвечающая за память), потому что они обязаны помнить карту города наизусть.

А есть мы – поколение GPS. Мы доезжаем до цели быстрее, но мы почти не знаем города. Мы перестали строить ментальные карты.

Мы отдали навигацию – и разучились ориентироваться.
Мы отдали память – и разучились запоминать (кто помнит телефоны друзей наизусть?).
Теперь мы отдаем мышление – и разучимся думать.

Рис 3. Мы доехали быстрее, но разучились ориентироваться без подсказок.

Вместо вывода

Я не утверждаю, что мы все обречены.

Возможно, мои страхи – это просто ворчание старика, который привык писать письма от руки и не понимает, зачем нужна электронная почта. Возможно, делегирование мышления ИИ – это просто следующий уровень эволюции, и нам не нужно знать, как работает двигатель, чтобы водить машину.

Но разница в том, что старые технологии были предсказуемы. Калькулятор не врал. А нынешний "второй пилот" может уверенно завезти вас в стену, и вы, разучившись смотреть на дорогу, заметите это только в момент удара.

Глядя на свои работающие проекты, я чувствую себя не инженером, а пассажиром беспилотного такси. Ехать удобно, вид из окна красивый. Но руля у меня нет. И если навигатор, обученный на данных других навигаторов, сойдет с ума – я останусь посреди пустыни.

P.S. Весь текст написан человеком. Картинки сгенерированы ИИ, потому что я не умею рисовать. Что и требовалось доказать.