CEO Nvidia и профессиональный ИИ-энтузиаст Дженсен Хуанг недавно заявил,что мы уже достигли AGI(искусственного общего интеллекта). Во-первых, это вызывает серьёзные вопросы к его пониманию интеллекта. Современные ИИ-системы больше напоминают глубоко галлюцинирующего плагиатора-подхалима, чем что-либо похожее на связный интеллект. Беззубый дедок в потрёпанной шапке, подпирающий барную стойку моего местного паба с 11 утра каждый день, обладает бесконечно большим интеллектом, чем эти «статистические машины по сглаживанию кривой». С ним, кстати, и поговорить куда интереснее.
Но, во-вторых, это простоне происходит, шеф! И Дженсен бы это знал, если бы отвлёкся от подсчёта миллиардов долларов, заработанных на круговом финансировании, и взглянул на реальные возможности генеративного ИИ в настоящем мире. Знаете, там, где интеллект — это не какая-то псевдоинтеллектуальная спекулятивная концепция, а критически важная штука для реальных результатов.
Возьмём, к примеру, Amazon. В третий раз они усвоили болезненный урок: генеративный ИИне обладает интеллектом, не может заменить человеческий интеллект и не является инструментом продуктивности.
Впрочем, я говорю «усвоили»… Что там та фальшивая цитата Эйнштейна об определении безумия? Что-то про повторение одних и тех же действий в ожидании разных результатов?
Свежий «урок»
В начале этого месяцаFinancial Timesсообщила, что любимая маленькая монополия Безоса фактически созвала экстренное собрание оставшихся инженеров, чтобы попытаться исправить стремительно растущее число сбоев, обрушивающих Amazon.com.
И это не мелкие глюки. За неделю до этого собрания главный торговый сайт Amazon был недоступеншесть часов подряд! Только один этот сбой мог стоить Amazon более490 миллионов долларовупущенных продаж, учитывая,что на Amazon.com в 2025 году потратили $717 миллиардов. Скажем так, лысый человек, имеющий больше общего со Смаугом, чем с остальным человечеством, был не слишком доволен.
Это было собрание по принципу «все руки на палубу». Инженеры должны были найти источник проблемы и исправить его.
И угадайте, в чём была проблема?
Собственный ИИ Amazon.
По официальной версии, генеративный ИИ был «способствующим фактором» в провальной «разработке программного кода», вызвавшей эти сбои. Но это примерно как сказать, что несвоевременная смерть эрцгерцога Франца Фердинанда была способствующим фактором Первой мировой войны. Всё это попахивает PR-спином, призванным скрыть конфуз собственного гола под названием ИИ-«переход» Amazon — особенно если учесть реальные проблемы, вызывавшие эти сбои, решения инженеров для их предотвращения и более широкий контекст недавних бизнес-решений Amazon.
Всё указывает на то, что виновник — ИИ.
Возьмём 13-часовой сбой AWS в декабре прошлого года. В прошлом месяцеFinancial Timesсообщила, что виновником был собственный «агентный» инструмент кодирования Amazon — Kiro AI. Инженеры позволили Kiro вносить изменения в код AWS и принимать «автономные решения». Как оказалось, Kiro не такой умный — он повторил маск-манёвр: удалил всю рабочую среду кода, а затем воссоздал её с нуля, напичкав фатальными багами. Более того, FT выяснила, что Kiro вызвал подобные сбоине один, а дважды!
Похоже, что виновниками сбоев Amazon являются и дикий «агентный» ИИ, и ИИ-помои в коде. А дымящийся пистолет — это экстренное решение, которое придумали инженеры. Готовы? Их решение:требовать от младших и средних инженеров получать одобрение старших инженеров на любые ИИ-ассистированные изменения.
Это практически полное признание, что ИИ стал причиной всех этих сбоев.
Но почему эти инженеры вообще так используют ИИ? В конце концов,96% профессиональных программистов явно не доверяют ИИ-генерированному коду. Эти ребята знали, что отдавать ему ключи от королевства — плохая идея.
Что ж, их, по сути,заставили.
Кстати об инструментах. Пока одни пытаются заменить инженеров ИИ и получают шестичасовые аутфоллы, другие используют ИИ как инструмент — не как замену мозга. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini и другим — без иллюзий о «замене человека», посмотрите наBotHub.
Для доступа не требуется VPN, можно использовать российскую карту.
По ссылке вы можете получить 300 000 бесплатных токеновдля первых задач и приступить к работе с нейросетями прямо сейчас!
Amazonуволила тысячи инженеров и планирует вскоре уволить около 30 000 сотрудников — при том, что их крупные сервисы, вроде AWS, резко расширяются. Эти сервисы просто невозможно запускать на скелетном экипаже, что делает это очевидной попыткой заменить работников ИИ-автоматизацией.
Более того, в прошлом году, пока шли эти увольнения, утёкшие документы показали планыAmazon заменить75% своих сотрудниковавтоматизацией и ИИ.
Короче говоря, эти инженеры, вероятно, настолько растянуты, что вынуждены обращаться к ИИ для ускорения работы. Вдобавок Amazon недавно потребовала, чтобы80% её инженеров использовали Kiro хотя бы раз в неделю. Само по себе это не проблема, но поскольку они настолько перегружены, у них нет времени проверять результаты ИИ — а это практически гарантирует, что фатальные ошибки будут повторяться снова и снова.
Иными словами, ИИ, несмотря на название, на самом делене обладает интеллектоми не может заменить настоящий человеческий интеллект в реальном мире. (Надеюсь, Хуанг, вы записываете.)
Но, опять же, Amazon также доказала, что ИИ — этоне инструмент продуктивности.
Требовать от младших и средних инженеров получать одобрение старших на ИИ-ассистированные изменения —полностью убивает продуктивность.Инженеры Amazon обязаны использовать инструменты ИИ-кодирования вроде Kiro. Это означает, что почти каждая строка кода теперь должна быть проверена и одобрена старшим инженером.
Быть прокачанным отладчиком —не входитв должностную инструкцию старшего инженера! Это огромное бутылочное горлышко для младших и средних программистов, которые и так уже крайне недоукомплектованы, и это нагружает старших инженеров более тяжёлой работой и размытием ответственности — что отвлекает их от главной задачи: обеспечивать, чтобы весь проект реально функционировал в более широком масштабе.
Иными словами, этот ИИ внедрили, чтобы сделать эти отделы более продуктивными, но это решение привело крезкому и разрушительному падению качества. Поэтому решение Amazon — сделать эти командыкуда менее продуктивнымисверху донизу через принудительное микроменеджмент.
Однажды укушенный, дважды… укушенный?
Впредыдущей статьея рассказывал о жутко похожей ситуации, которая произошла в Amazon ещё в октябре 2025 года. AWS полностью рухнул и ненадолго обрушил половину интернета. Почти весь AWS был недоступен16 часов подрядиз-за простой проблемы DNS-резолюции, что затронуло тысячи бизнесов, включая Medium и Substack. Я живо помню, как не мог залогиниться ни в один из своих аккаунтов в тот день.
Почему исправление такой простой, но разрушительной проблемы заняло так много времени?
За несколько месяцев до этого Amazon уволила значительное число инженеров AWS, чья работаспециально состоялав решении подобных проблем. Официально эти увольнения не имели отношения к попыткам Amazon заменить работников ИИ. Но, опять же, такую задачу не выполнить таким малочисленным скелетным экипажем — а это было как раз тогда,когда Amazon начала навязывать использование ИИ своим AWS-инженерам и разворачивать автономных «агентных» программистов.
Я не могу это доказать, но вполне очевидно: они попытались заменить этих инженеров ИИ, а ИИ не смог выполнить роль из-заотсутствия интеллекта— что и вызвало катастрофический сбой.
Можно подумать, что такой публичный и унизительный провал научил бы их уму-разуму. Но вот мы, всего несколько месяцев спустя, и они сделали ту же ошибку снова!
По правде говоря, они должны были усвоить этот урок ещё в начале 2024 года.
Они должны были знать…
Я писал об этом провале в однойиз прошлых статей. Помните продуктовые магазины Amazon «Just Walk Out»? Идея была в том, что камеры распознавания лиц, полочные сенсоры и ИИ будут отслеживать, какие товары взял покупатель, и списывать оплату с его Amazon-аккаунта при выходе — устраняя необходимость в кассирах или самообслуживании.
Эту инновацию превозносили как один из первых случаев прямой замены ИИ человеческих работников и способ снизить стоимость работы магазина.
Но в реальности это было совсем не так.Отчётпоказал, что пришлось нанять болеетысячи удалённых работниковдля мониторинга видеопотоков и проверки70% покупок клиентов, поскольку ИИ систематически ошибался. Такой объём труда недёшев, даже если он аутсорсится за рубеж, и «Just Walk Out» от Amazon сталзначительно дороже, чем просто наём обычных кассиров.
В итоге Amazon не удалось продатьсистему третьим сторонам, что привело к закрытию почти всех этих магазинов и замене на обычные не-ИИ системы самообслуживания.
Опять же, ИИне обладает интеллектоми не может надёжно выполнять простые задачи. Это потому, что это статистическая машина, а значит, она статистически будетошибаться. Поэтому объём человеческого надзора, необходимый для исправления её простых, но потенциально разрушительных ошибок, почти всегда превышает работу, сэкономленную внедрением ИИ.
Какой урок из этого извлечь? Эти системыне обладают интеллектом, они даже не могут заменить базовый человеческий интеллект, и онине являются инструментом продуктивности.
Настоящий вопрос: после третьей попытки, как вы думаете, есть ли у Безоса и его стаи ненасытных руководителей достаточно осознанности, эмпатии или понимания, чтобы усвоить этот урок?
Это не наводящий вопрос — я искренне хочу, чтобы вы ответили на него сами.
Они должны были знать заранее…
Можно было бы возразить, что это столкновение теории и практики. ИИ работает в теории, в лабораториях, в контролируемых условиях, а Amazon просто устраняет шероховатости перехода от теории к реальности.
Я с радостью укажу, что Amazon вполне могла протестировать ИИ в реальном миреконтролируемым и ограниченным образом, а не выпускать его практически непроверенным и неограниченным на фундамент своего бизнеса — всё потому, что какой-то консультант в свитере с ромбиками считает, что это самый лёгкий путь к покупке третьей яхты.
Но вот в чём дело: генеративный ИИне работает в теории. И мы это знали уже давно.
Возьмём исследование Университета Карнеги-Меллон, которое показало, что даже лучшие «агентные» ИИполностью проваливают базовые задачи в 70% случаевиз-за галлюцинаций и явно неправильных ответов.
Или недавнее исследование, обнаружившее, что лучшие современные ИИ провалили97,5% реалистичных фриланс-заданийиз-за галлюцинаций и полных отказов.
Или исследование Университета Ватерлоо, показавшее, что даже лучшие генеративные ИИ-программисты имеют точностьвсего 75%при выполнении очень базовых задач кодирования? Иными словами, даже базовый ИИ-кодне работает в четверти случаев!
Или исследование от Veracode, обнаружившее, что45% ИИ-кода содержат уязвимости безопасности?
Или исследование от Coderabbit, показавшее, что в ИИ-кодена 70% больше багов, чем в коде, написанном людьми?
Все эти факторы вместе объясняют, почему недавнийотчёт Harvard Business Reviewобнаружил, что ИИне повышает продуктивность, аинтенсифицирует работу. В конечном счёте ИИ больше похож на машину выгорания, чем на инструмент продуктивности. Время, сэкономленное использованием ИИ, сильно затмевается временем, потраченным на микроменеджмент маленького плагиатора-генератора помоев.
Возможно, мой любимый пример — исследование Университета Мельбурна. Они обнаружили, что ИИ повышает продуктивность только в«низкоквалифицированных» задачах, таких как ведение протоколов встреч или обслуживание клиентов. Здесь они обнаружили, что ИИ может помочь сгладить результаты работников, у которых могут быть плохие языковые навыки или которые изучают новые задачи.
Для высококвалифицированных работ, где точность критична, ИИ делают ошибки настолько часто, что обширный человеческий надзор, требуемый для их выявления, делает всё усилиеменее продуктивным, чем вообще не использовать ИИ.
В чём проблема? Работники, которые больше всего выигрывают от ИИ — «низкоквалифицированные» —не обладают навыками или осознанностьюдля надзора за ИИ и выявления и исправления его частых ошибок. Поэтому, даже когда он «повышает продуктивность», потенциально критичные ошибки остаются незамеченными — что создаёт обязательство микроменеджить его результаты, а значит,он не повышает общую продуктивность.
И да! Становится ещё хуже.
Вы могли бы возразить, заявив, что мы предоставляем этим ИИ больше данных и вычислительной мощности, что заставляет их улучшаться, а значит, они могли уже преодолеть все эти ограничения.
Не так быстро.
Как я уже писал ранее,последняя исследовательская статья OpenAIобнаружила, что «галлюцинации» (когда ИИ ошибается) — этофундаментальная часть технологии генеративного ИИи в ближайшее время никуда не денутся. Они математически доказали, что добавление большего количества обучающих данных, обеспечение идеальных обучающих данных и предоставление моделям большей вычислительной мощностине снизяттекущий уровень галлюцинаций. Более того, статья заключила, чтонет жизнеспособных вариантовдля улучшения общей точности.
Корпус исследованийочень ясен— генеративный ИИ не обладает интеллектом; он ненадёжен; он не может заменить людей; его нельзя широко использовать как инструмент продуктивности; и так будетещё долгое время.
Amazon должна была знать это с самого начала — и именно поэтому те, кто «в теме», показывают пальцем и смеются над замечаниями Хуанга про AGI.
Так что — молодец, Джефф, ты напоролся на собственный искусственный меч стоимостью в миллиарды долларов. Центральный продукт твоей империи мерцает, как перегоревшая лампочка, и ты уволил весь талант, который мог бы это исправить — потому что хотел поиграть в Тони Старка и J.A.R.V.I.S. (не говоря уже о том, что твой ИИ имеет больше общего со старческим Холли из Red Dwarf)…
Интересно, кто-нибудь из тех сотрудников захочет вернуться, чтобы убрать твой бардак после того, как их так грубо выкинули на мороз?
Интересно, научатся ли техбро вместо погони за спекулятивной ценностью ценитьреальный, блестящий человеческий интеллект?
Всё, что я знаю — я могу надеяться.
