Родители маленьких детей сталкиваются со множеством страхов по поводу этапов развития, начиная с младенчества и заканчивая взрослой жизнью. Количество месяцев, необходимое ребенку, чтобы научиться говорить или ходить, часто используется в качестве ориентира для здоровья или индикатора дополнительных тестов, необходимых для правильной диагностики потенциального состояния здоровья. Родитель радуется первым шагам ребенка, а потом понимает, как много изменилось, когда ребенок может быстро выйти на улицу, а не медленно ползти в безопасное место внутри. Внезапно безопасность, включая защиту от детей, приобретает совершенно иной подход.

Генеративный ИИ появился в период с декабря 2025 года по январь 2026 года, когда были представлены инструменты без написания кода от нескольких поставщиков и дебют OpenClaw, личного агента с открытым исходным кодом, размещенного на GitHub. Больше не нужно ползать по ковру — дитя генеративной технологии искусственного интеллекта бросилось в бег, и очень немногие принципы управления были оперативно подготовлены.

Проблема подотчетности: дело не в них, дело в вас

До сих пор управление было сосредоточено на моделировании выходных рисков с участием людей до принятия последующих решений, таких как одобрение кредита или заявление о приеме на работу. В центре внимания было поведение модели, включая дрейф, выравнивание, кражу данных и отравление. Темп задавал человек, который предлагал модель в формате чат-бота с множеством взаимодействий между машиной и человеком.

Сегодня, когда автономные агенты работают в сложных рабочих процессах, видение и преимущества прикладного ИИ требуют значительно меньшего количества людей в процессе. Цель состоит в том, чтобы вести бизнес в машинном темпе, автоматизируя ручные задачи с четкой архитектурой и правилами принятия решений. Целью с точки зрения ответственности является отсутствие снижения корпоративного или бизнес-риска между машиной, управляющей рабочим процессом, и человеком, управляющим рабочим процессом. CX Today кратко резюмирует ситуацию: «ИИ выполняет работу, люди несут риск», а   закон штата Калифорния (AB 316), вступивший в силу 1 января 2026 года, устраняет оправдание «ИИ сделал это, я это не одобрял».  Это похоже на воспитание детей, когда взрослый несет ответственность за действия ребенка, которые негативно влияют на общество в целом.

Проблема заключается в том, что без создания кода, обеспечивающего оперативное управление, согласованное с различными уровнями риска и ответственности на протяжении всего рабочего процесса, преимущества автономных агентов ИИ сводятся на нет. В прошлом управление было статичным и соответствовало темпу взаимодействия, типичному для чат-бота. Однако автономный ИИ по своей конструкции освобождает людей от принятия многих решений, что может повлиять на управление.

Учитывая разрешения

Это похоже на то, как если бы трехлетний ребенок получил игровую консоль, которая удаленно управляет танком «Абрамс» или вооруженным дроном, то оставить вероятностную систему, работающую без защитных ограждений в реальном времени, которые могут изменить критически важные корпоративные данные, несет в себе значительные риски.  Например, агенты, которые интегрируют и объединяют действия в нескольких корпоративных системах, могут выходить за рамки привилегий, которые были бы предоставлены одному пользователю-человеку. Чтобы успешно двигаться вперед, управление должно выйти за рамки политики, установленной комитетами, и перейти к операционному кодексу, встроенному в рабочие процессы с самого начала.

Юмористический мем о поведении малышей с игрушками начинается со всех причин, что любая игрушка, которая у вас есть, моя, и заканчивается сломанной игрушкой, которая точно ваша.  Например, OpenClaw обеспечил удобство работы пользователя, более близкое к работе с помощником-человеком; но волнение изменилось, когда эксперты по безопасности поняли, что неопытные пользователи могут быть легко скомпрометированы, используя его.

На протяжении десятилетий корпоративные ИТ жили в тени ИТ и в реальности, когда квалифицированные технические команды должны брать на себя управление и очищать активы, которые они не проектировали и не устанавливали, подобно тому, как малыш возвращает сломанную игрушку. При использовании автономных агентов риски выше: постоянные учетные данные сервисной учетной записи, долгоживущие токены API и разрешения на принятие решений в отношении основных файловых систем. Чтобы решить эту задачу, крайне важно заранее выделить соответствующий ИТ-бюджет и рабочую силу для обеспечения централизованного обнаружения, контроля и исправления ошибок для тысяч агентов, созданных сотрудниками или отделами.

Наличие пенсионного плана

Недавно знакомая упомянула, что она сэкономила клиенту сотни тысяч долларов, выявив и затем прекратив «проект-зомби» — заброшенный или неудачный пилотный проект ИИ, оставленный работающим на облачном экземпляре графического процессора. Потенциально существуют тысячи агентов, которые рискуют превратиться в зомби-флоту внутри бизнеса. Сегодня многие руководители поощряют сотрудников использовать искусственный интеллект (или что-то еще), и сотрудникам советуют создавать свои собственные рабочие процессы, ориентированные на искусственный интеллект, или помощников на основе искусственного интеллекта. Учитывая полезность чего-то вроде OpenClaw и нисходящих директив, легко предположить, что количество агентов-самостроителей, приходящих в офис со своими сотрудниками-людьми, резко возрастет. Поскольку агент ИИ — это программа, которая подпадает под определение интеллектуальной собственности, принадлежащей компании, когда сотрудник меняет отдел или компанию, эти агенты могут остаться сиротами. Необходима активная политика и управление для вывода из эксплуатации и вывода из эксплуатации любых агентов, связанных с конкретным идентификатором сотрудника и разрешениями.

Финансовая оптимизация — это управление сразу за воротами

Хотя для некоторых руководителей автономный ИИ звучит как способ повысить свою операционную прибыль за счет ограничения человеческого капитала, многие считают, что рентабельность инвестиций в замену человеческого труда — это неправильный подход. Добавление возможностей искусственного интеллекта на предприятие не означает покупку нового программного инструмента с предсказуемой ценой за экземпляр в час или за рабочее место. Опрос IDC, проведенный в декабре 2025 года, спонсируемый Data Robot, показал, что 96% организаций, развертывающих генеративный ИИ, и 92% тех, кто внедряет агентный ИИ, сообщили о затратах выше или намного выше, чем ожидалось.

В опросе разделены понятия управления и рентабельности инвестиций, но поскольку системы искусственного интеллекта распространяются на крупные предприятия, управление финансами и ответственностью должно быть встроено в рабочие процессы с самого начала. Частью управления корпоративным классом является прогнозирование и соблюдение выделенного бюджета. В отличие от финансовых моделей программного обеспечения, включающих затраты на одно рабочее место с учетом платы за поддержку и обслуживание, использование искусственного интеллекта зависит от потребления и затрат на использование по мере масштабирования рабочего процесса по всему предприятию: чем больше пользователей, тем больше токенов или больше времени вычислений, и тем выше счет. Думайте об этом как о оставленной открытой вкладке или о разблокированной кнопке цифровой корзины интернет-магазина на электронном игровом устройстве малыша.

Cloud FinOps был детерминистическим, но генеративный ИИ и агентные системы ИИ, построенные на генеративном ИИ, являются вероятностными. Некоторые первооснователи ИИ понимают, что стоимость токенов одного агента может достигать 100 000 долларов США за сеанс. Без предупредительных мер, заложенных с самого начала, объединение в цепочки сложных автономных агентов, которые работают без присмотра в течение длительного периода времени, может легко превысить бюджет, необходимый для найма младшего разработчика.

Держать людей в курсе событий по-прежнему крайне важно

Перспективы автономного агентного ИИ заключаются в ускорении бизнес-операций, внедрении продуктов, повышении качества обслуживания и удержании клиентов. Переход к принятию решений на машинной скорости без участия людей и/или их участия в выполнении этих ключевых функций существенно меняет ландшафт управления. Хотя многие принципы, касающиеся упреждающих разрешений, обнаружения, аудита, исправления и финансовых операций/оптимизации, одинаковы, способы их выполнения должны измениться, чтобы идти в ногу с автономным агентным ИИ.

Этот контент был создан Intel. Оно не было написано редакцией MIT Technology Review.

Parents of young children face a lot of fears about developmental milestones, from infancy through adulthood. The number of months it takes a baby to learn to talk or walk is often used as a benchmark for wellness, or an indicator of additional tests needed to properly diagnose a potential health condition. A parent rejoices over the child’s first steps and then realizes how much has changed when the child can quickly walk outside, instead of slowly crawling in a safe area inside. Suddenly safety, including childproofing, takes a completely different lens and approach.

Generative AI hit toddlerhood between December 2025 and January 2026 with the introduction of no code tools from multiple vendors and the debut of OpenClaw, an open source personal agent posted on GitHub. No more crawling on the carpet—the generative AI tech baby broke into a sprint, and very few governance principles were operationally prepared.

The accountability challenge: It’s not them, it’s you

Until now, governance has been focused on model output risks with humans in the loop before consequential decisions were made—such as with loan approvals or job applications. Model behavior, including drift, alignment, data exfiltration, and poisoning, was the focus. The pace was set by a human prompting a model in a chatbot format with plenty of back and forth interactions between machine and human.

Today, with autonomous agents operating in complex workflows, the vision and the benefits of applied AI require significantly fewer humans in the loop. The point is to operate a business at machine pace by automating manual tasks that have clear architecture and decision rules. The goal, from a liability standpoint, is no reduction in enterprise or business risk between a machine operating a workflow and a human operating a workflow. CX Today summarizes the situation succinctly: “AI does the work, humans own the risk,” and   California state law (AB 316), went into effect January 1, 2026, which removes the “AI did it; I didn’t approve it” excuse.  This is similar to parenting when an adult is held responsible for a child’s actions that negatively impacts the larger community.

The challenge is that without building in code that enforces operational governance aligned to different levels of risk and liability along the entire workflow, the benefit of autonomous AI agents is negated. In the past, governance had been static and aligned to the pace of interaction typical for a chatbot. However, autonomous AI by design removes humans from many decisions, which can affect governance.  

Considering permissions

Much like handing a three-year-old child a video game console that remotely controls an Abrams tank or an armed drone, leaving a probabilistic system operating without real-time guardrails that can change critical enterprise data carries significant risks.  For instance, agents that integrate and chain actions across multiple corporate systems can drift beyond privileges that a single human user would be granted. To move forward successfully, governance must shift beyond policy set by committees to operational code built into the workflows from the start.  

A humorous meme around the behavior of toddlers with toys starts with all the reasons that whatever toy you have is mine and ends with a broken toy that is definitely yours.  For example, OpenClaw delivered a user experience closer to working with a human assistant;, but the excitement shifted as security experts realized inexperienced users could be easily compromised by using it.

For decades, enterprise IT has lived with shadow IT and the reality that skilled technical teams must take over and clean up assets they did not architect or install, much like the toddler giving back a broken toy. With autonomous agents, the risks are larger: persistent service account credentials, long-lived API tokens, and permissions to make decisions over core file systems. To meet this challenge, it’s imperative to allocate upfront appropriate IT budget and labor to sustain central discovery, oversight, and remediation for the thousands of employee or department-created agents.

Having a retirement plan

Recently, an acquaintance mentioned that she saved a client hundreds of thousands of dollars by identifying and then ending a “zombie project” —a neglected or failed AI pilot left running on a GPU cloud instance. There are potentially thousands of agents that risk becoming a zombie fleet inside a business. Today, many executives encourage employees to use AI—or else—and employees are told to create their own AI-first workflows or AI assistants. With the utility of something like OpenClaw and top-down directives, it is easy to project that the number of build-my-own agents coming to the office with their human employee will explode. Since an AI agent is a program that would fall under the definition of company-owned IP, as a employee changes departments or companies, those agents may be orphaned. There needs to be proactive policy and governance to decommission and retire any agents linked to a specific employee ID and permissions.

Financial optimization is governance out of the gate

While for some executives, autonomous AI sounds like a way to improve their operating margins by limiting human capital, many are finding that the ROI for human labor replacement is the wrong angle to take. Adding AI capabilities to the enterprise does not mean purchasing a new software tool with predictable instance-per-hour or per-seat pricing. A December 2025 IDC survey sponsored by Data Robot indicated that 96% of organizations deploying generative AI and 92% of those implementing agentic AI reported costs were higher or much higher than expected.

The survey separates the concepts of governance and ROI, but as AI systems scale across large enterprises, financial and liability governance should be architected into the workflows from the beginning. Part of enterprise class governance stems from predicting and adhering to allocated budgeting. Unlike the software financial models of per-seat costs with support and maintenance fees, use of AI is consumption and usage costs scale as the workflow scales across the enterprise: the more users, the more tokens or the more compute time, and the higher the bill. Think of it as a tab left open, or an online retailer’s digital shopping cart button unlocked on a toddler’s electronic game device.

Cloud FinOps was deterministic, but generative AI and agentic AI systems built on generative AI are probabilistic. Some AI-first founders are realizing that a single agents’ token costs can be as high as $100,000 per session. Without guardrails built in from the start, chaining complex autonomous agents that run unsupervised for long periods of time can easily blow past the budget for hiring a junior developer.

Keeping humans in the loop remains critical

The promise of autonomous agentic AI is acceleration of business operations, product introductions, customer experience, and customer retention. Shifting to machine-speed decisions without humans in and or on the loop for these key functions significantly changes the governance landscape. While many of the principles around proactive permissions, discovery, audit, remediation, and financial operations/optimizations are the same, how they are executed has to shift to keep pace with autonomous agentic AI.

This content was produced by Intel. It was not written by MIT Technology Review’s editorial staff.