«Большой скачок» в мире AI: история повторяется

«Большой скачок» в мире AI: история повторяется

В 1958 году Мао приказал каждой деревне в Китае выплавлять сталь. Крестьяне бросали кухонную утварь в самодельные домны и рапортовали о феноменальных показателях. Полученная сталь была непригодной. Урожай сгнил. От голода погибло около тридцати миллионов человек.

В 2026 году каждая вторая компания проводит масштабную AI-трансформацию сверху вниз.

Тот же вайб.

Дворовые домны

Лозунгом Большого скачка было «超英趕美» — обогнать Англию, догнать Америку. Каждая провинция, деревня и домохозяйство должны были ликвидировать разрыв с Западом силой воли. Крестьянам, никогда не видевшим сталелитейного завода, выдавали квоты на производство стали. Убеждённость заменяла экспертизу.

Сегодня мандат звучит так же — просто поменялись слова. Каждая компания, подразделение и сотрудник обязаны ликвидировать «AI-разрыв». Выпускать AI-фичи. Строить агентов. Автоматизировать воркфлоу. То, что никто в команде не обучал модели, не проектировал систем оценки и не отлаживал retrieval — не важно. Главное — убеждённость.

Все начинают строить. Продуктовые менеджеры делают AI-дашборды. Маркетологи — генераторы контента. Sales ops — скореры лидов. Инженеры создают решения, которые выглядят безупречно, но работают ужасно. UI чистый. API RESTful. Архитектура красивая. Результаты — неверные. Никто не проверяет: никто не знает, как должен выглядеть правильный ответ. Они никогда не смотрели на данные. Они не считали baseline.

Целые отделы собирают цепочки в n8n и называют это AI. Десятки автоматизированных воркфлоу гоняют промпты по LLM, ни одна не проходила evaluation. Drag-and-drop канвас позволяет легко соединить десять вызовов моделей, которые невозможно отладить. Невозможно понять, почему восьмой из них галлюцинирует именно по вторникам. Люди, строящие эти системы, не знают, что такое pipeline оценки, дрейф модели или A/B тестирование промптов. Им не нужно — канвас выглядит чисто, стрелки идут вперёд, зелёные галочки стоят.

Дворовая сталь 1958 года выглядела как сталь. Но ею не была. Сегодняшний «дворовый AI» выглядит как искусственный интеллект. Но им не является. TypeScript-воркфлоу с захардкоженными if-else — не агент. Шаблон промпта за REST-эндпоинтом — не модель. Называть это AI — всё равно что называть чугун из дворовой домны высококачественной сталью. Всё это закрывает отчётный показатель, но оказывается бесполезным при первом реальном использовании.

Самая опасная домна — та, что производит что-то функциональное. Команды создают красивые прототипы: впечатляющий интерфейс, рабочий endpoint, эффектный демо-ролик — без внутренней валидации. Некоторые заменяют SaaS-продукты, вайб-кодируя фронтенд с помощью AI-агентов. Оно работает. Есть дашборд. Дешевле вендора.

Klarna в 2024 году объявила, что заменит Salesforce и других SaaS-провайдеров внутренними AI-решениями. Чего у этих решений нет — так это data infrastructure, обработки ошибок, мониторинга, on-call поддержки, патчинга безопасности и людей, которые будут их поддерживать, когда вайбкодер получит повышение и уйдёт.

Эти приложения получат награды на корпоративном собрании. Через два года они станут неподдерживаемым техдолгом, который кто-то перепишет с нуля. Домна произвела чугун. Кто-то поставил на него штамп «сталь». Теперь всё держится на нём.

А реальный продукт, за который платят клиенты, гниёт на полях. Но ничего, 超英趕美. Дашборд AI-внедрения — зелёный.

Доклад об урожае в Центральный комитет

Во время Большого скачка провинции соревновались в отчётах о рекордных урожаях. Хубэй заявлял 10 000 цзинь с му. Гуандун — 50 000. Некоторые уезды — более 100 000, что физически невозможно. Говорили, что рисовые стебли такие густые, что дети могут стоять на них. Чиновники устраивали фотосессии. Все знали, что цифры фальшивые. Но все их рапортовали — иначе можно было попасть под обвинение в саботаже. Центральное правительство, довольное изобилием, увеличивало реквизиции зерна. Крестьяне умирали, съедая разницу между реальностью и фантазией.

Одна команда рапортует: их AI-копилот «сократил время разработки на 40%». Следующая — 60%. Третья заявляет, что их AI-агент «автоматизировал 80% аналитических воркфлоу». Никто не спрашивает, как это измерялось. Никто не проверяет методологию. Никто не замечает, что команда, заявляющая о 80% автоматизации, по-прежнему работает в том же составе и делает ту же работу. Цифры попадают на слайды. Слайды — к совету директоров. Совет доволен. Совет увеличивает инвестиции.

Потом кто-то строит лидерборд: сколько промптов ты написал, сколько кода сгенерировал AI, твой рейтинг в команде, отделе, компании. Однажды объявляют: «AI Week». Стройте что-нибудь с AI. Покажите, что умеете.

Думаете, после хакатона всё закончится? Нет. Теперь нужно продвигать это. Ежедневные посты: «Смотрите, что я создал», «Вот сколько агентов я использовал». Привлекайте коллег. Просите обратную связь. «Со смирением».

Использование AI стало KPI. Теперь вас оценивают не по реальному вкладу, а по тому, сколько зерна вы задекларировали. Это закон Гудхарта на уровне организации: когда метрика становится целью, она перестаёт быть хорошей метрикой. Метрика должна была показывать, улучшает ли AI компанию. Вместо этого вся компания теперь оптимизирует метрику.

Убить воробьёв

Одна из самых трагикомичных страниц Большого скачка — кампания «Уничтожение четырёх вредителей». Мао объявил воробьёв врагами народа: они едят зёрна, значит, их уничтожение увеличит урожай. Граждане стучали в кастрюли, не давая птицам садиться, пока те не падали замертво от усталости. Дети разоряли гнёзда. Деревни соревновались за счёт убитых.

Это сработало. Воробьёв почти уничтожили.

Потом пришла саранча.

Воробьи ели саранчу. Без них её популяция взлетела. Стаи съели больше зерна, чем когда-либо ели воробьи. Кампания по спасению урожая его уничтожила. Мао тихо заменил воробьёв клопами в списке вредителей и больше об этом не говорил.

У каждого AI-скачка есть своя кампания по уничтожению воробьёв.

Менеджеры среднего звена — воробьи. Их объявляют вредителями: слишком медленные, слишком дорогие. Уплощайте структуру! Пусть AI координирует! Компании упраздняют младших менеджеров, превращают руководителей в tech lead-ов и позволяют командам самоорганизовываться с помощью AI.

Потом приходит саранча. Эти менеджеры хранили институциональные знания: у какого клиента была странная интеграция, почему в модели данных есть странный столбец, недокументированное правило, из-за которого каждая третья транзакция не уходила на ручную проверку. Этот контекст жил в их головах. Теперь их нет. А AI-система, которая их заменила, как раз в этом контексте и нуждается.

QA — тоже воробей. «AI теперь пишет тесты». Увольняем QA. Но тесты пишет та же модель, которую проверяют — машина проверяет свою домашнюю работу. Старшие инженеры, менторившие джунов? Воробьи. Технические писатели? Воробьи. Команда ops, знавшая, как перезапустить легаси-сервис в 2 часа ночи? Определённо воробьи.

Каждое сокращение выглядит разумным в изоляции. Вторичные эффекты приходят через полгода. К тому времени никто не связывает нашествие саранчи с мёртвыми воробьями.

Пусть сотни цветов расцветут

В 1956 году Мао запустил «Движение ста цветов»: «Пусть расцветают сто цветов, пусть соперничают сто школ мысли». Говорите честно. Партия хочет слышать ваши мысли.

Интеллигенция поверила. Они заговорили открыто.

Затем началась кампания «Против правых». Каждый, кто говорил честно, был репрессирован. «Сто цветов» оказались ловушкой — способом выявить тех, кто что-то знает, и устранить их. Урок: никогда не раскрывай, что ты знаешь.

Сейчас Meta и другие компании запускают свои «Сто цветов». Мандат: каждый сотрудник должен создавать «agent skills» — дистиллировать свою экспертизу в промпты и воркфлоу, которые сможет использовать AI. Или строить «агентов» через drag-and-drop интерфейсы, которые давно оставлены передовыми лабораториями.

Заявленная цель — сохранить знания. Реальная цель — превратить индивидуальный человеческий капитал в организационный, который переживёт уход сотрудника.

Сотрудники видят игру. Если я превращу десять лет экспертизы в skill, который любой джун может вызвать — я автоматизировал свою замену. Мои знания — моя защита. Вы просите меня их слить.

Поэтому они строят anti-distillation skills — точно так же, как интеллигенция научилась молчать после 1957 года.

  • Показушные: выглядят исчерпывающе, но намеренно опускают 20% знаний о граничных случаях — без них система падает в проде, и ты становишься ещё более незаменим.
  • С миной замедленного действия: экспертиза закодирована честно, но с зависимостями от твоего личного контекста — твоих вики, терминов, пайплайнов. Без тебя результаты тихо деградируют.
  • Архитектурные капканы: skill настолько завязан на твою деятельность, что извлечь знания сложнее, чем оставить тебя в проекте.

Кампания, призванная снизить зависимость от экспертов, создала стратегически незаменимых сотрудников — не из-за знаний, а из-за того, как они заминировали систему, чтобы она в них нуждалась. Цветы расцвели. Но теперь они полны шипов.

Тем временем мандат «все строят с AI» превратился в войну за территорию. Инженеры генерируют дизайн без дизайнеров. PM-ы пишут код без тикетов. Дизайнеры проводят исследования без продактов. Каждый лезет в чужую зону — не потому что лучше справляется, а потому что AI делает это возможным, а система поощряет.

Формально — сотрудничество. По факту — каждый пытается доказать, что его роль важнее.

Голод приходит позже

Голод при Большом скачке не наступил сразу. Сначала цифры были феноменальными. Руководство было довольным. Реквизиции росли.

Голод пришёл, когда реальное зерно закончилось, а задекларированное продолжало утекать вверх.

Мы пока в фазе рапортов. Дашборды зелёные. Адопция растёт. Каждая команда рапортует о приросте производительности, который в сумме означал бы, что инженеры работают с эффективностью 300%, но всё равно срывают те же дедлайны.

Под метриками — гонка ко дну. Один строит skill, другой — лучше. Один демонстрирует прототип, другой — бенчмарки. Все соревнуются в том, чтобы убедительно доказать: их роль заменима. Всё ускоряется. Всё тонет.

Воробьи мертвы. Саранча ещё не пришла. Цветы расцвели, но полны отравленных пилюль. Домны произвели чугун со штампом «сталь», и он теперь несущий. Цифры по зерну выглядят фантастически.

Но всё нормально. Мы догоняем и перегоняем.

Ах да, Klarna? Компания, громко объявившая о замене Salesforce внутренними AI-решениями? Она тихо перешла на другого SaaS-провайдера. Дворовая домна не смогла произвести сталь. Они купили её на заводе.

Вопрос, который никто не задаёт: что всё это в итоге произвело?

Ответ, когда придёт, будет неудобным.

Читать оригинал