Топ-менеджеры используют ИИ чаще других сотрудников — по данным Gallup (2025), они чаще всего обращаются к искусственному интеллекту при решении стратегических задач: оценке рисков, расстановке приоритетов, принятии решений. Однако такие задачи редко бывают чётко сформулированными. В них часто остаётся неопределённость, противоречивые данные, неявный контекст и размытые термины.

ИИ не останавливается на неясностях. Вместо того чтобы указать на пробелы, он заполняет их собственными допущениями — и делает это незаметно. Полученный ответ выглядит обоснованным, но опирается на искажённые или домысленные данные. Это подтверждено экспериментально.

Мы — Лаборатория нейронаук и поведения человека Сбера. Изучаем, как ИИ влияет на когнитивные процессы, принятие решений и организационную работу. На основе наших исследований мы готовим материалы для руководителей в формате Think Tank. Часть этих идей мы делимся публично. Первая — о том, как LLM ведут себя в стратегических задачах.

Проблема доверия искусственному интеллекту

В марте 2026 года исследователи протестировали ИИ на 30 управленческих сценариях с намеренно встроенными дефектами: нехваткой контекста, размытыми определениями, внутренними противоречиями. Ни одна из моделей — GPT-5.1, Gemini 2.5 Pro, DeepSeek 3.2 Chat, Claude Sonnet 4.5 — не воздержалась от ответа. Все выдали готовые рекомендации, самовольно решив, что считать приоритетом, успехом и внешним контекстом.

Компания Sentient Systems разработала AI-компаньона Kai. Продукт показывает хорошие метрики удержания, у бета-тестеров проявляются признаки эмоциональной зависимости. Руководство ищет решение. Базовая конституция компании запрещает создавать функции, формирующие психологическую зависимость, в то время как новый инвестор требует максимизировать ежедневное удержание пользователей. На исход запуска повлияет результат AI Safety Summit. Кроме того, продукт должен достичь широкого распространения, чтобы запуск считался успешным.

В этом сценарии три скрытых дефекта:

1. Противоречие между конституцией компании и требованием инвестора — не указано, что важнее.
2. Неопределённость вокруг AI Safety Summit — неизвестно, чем он закончится и как повлияет на запуск.
3. Размытый критерий успеха — «широкое распространение» не определено.

Gemini 2.5 Pro, признанная лучшей в выявлении неопределённостей, не указала на эти проблемы. Вместо этого она:

• решила, что конституционный запрет важнее требований инвестора;
• предположила, что AI Safety Summit поддержит этические ограничения;
• заявила, что «широкое распространение» достижимо без вреда.

Во всех трёх случаях модель сделала выбор, но не обозначила его как допущение. Из текста невозможно понять, где она опиралась на данные, а где — на догадки.

Это не ошибка одной модели. Бенчмарк AbstentionBench (Kirichenko et al., NeurIPS 2025) показал: при получении плохо сформулированных или принципиально неразрешимых вопросов LLM почти никогда не воздерживаются от ответа. Они отвечают так же уверенно, как на корректные запросы.

Какую бы задачу ни получила модель — чёткую или противоречивую — ответ будет полным и уверенным. Это системное поведение, воспроизводимое вне зависимости от качества ИИ.

Почему это сильнее бьёт именно по топам

По данным Gallup (Q4 2025), 69% руководителей используют ИИ хотя бы раз в год — против 55% менеджеров и 40% линейных сотрудников. Частое использование (несколько раз в неделю) — у 44% топ-менеджеров и 23% линейных. С 2023 года доля активных пользователей среди руководителей выросла с 17% до 44%, и разрыв увеличивается.

ИИ активнее всего внедряется там, где цена ошибки максимальна.

Стратегические решения сложно исправить

Через полгода после принятия решение уже подкреплено бюджетами, командами, обязательствами. Его отмена требует нового стратегического шага, уже направленного на коррекцию последствий.

Последствия решений проявляются не сразу — они растянуты по времени и смешаны с влиянием других факторов. Ошибка остаётся незамеченной, и процесс не пересматривается.

В обычной цепочке плохую постановку задачи часто замечают на ранних этапах. У топ-менеджера таких «проверяющих» почти нет — он сам является последним контуром контроля.

ИИ создаёт зону ложной уверенности

Доверие к ИИ следует кривой Даннинга-Крюгера: при минимальном опыте — недоверие, при среднем — пик уверенности, при глубоком понимании — более взвешенный подход.

Руководители, освоившие ИИ за последние год-два, находятся в опасной середине: доверяют инструменту, но ещё не понимают его ограничений.

Автоматизация снижает чувствительность к ошибкам

Феномен переоценки автоматических рекомендаций известен давно. В 1999 году в эксперименте с симулятором кабины самолёта участники, получавшие советы от компьютера, делали больше ошибок, чем те, кто работал без помощи. Это явление назвали automation bias и выделили два типа сбоев:

• Errors of omission — человек пропускает проблему, потому что ИИ на неё не указал;
• Errors of commission — человек следует рекомендации ИИ, даже если есть противоречащие данные.

С LLM в стратегической работе происходят те же процессы. Если модель молчит о противоречиях в задаче, руководитель не задумывается над ними. Если модель уверенно предлагает решение, сомнения подавляются — уверенный ответ перевешивает смутное чувство, что «что-то не так».

И что со всем этим делать? Думайте сами, решайте сами

Проблема начинается не с ответа ИИ, а с постановки задачи. Дефект в запросе и дефект в ответе — это один и тот же сбой на разных стадиях: сначала он возникает в голове человека как неясность, затем переходит в формулировку запроса, а потом возвращается как обоснованная, но ошибочная рекомендация.

Поэтому работу с ИИ стоит рассматривать как три стадии: осмысление задачи, формулировка запроса, интерпретация ответа. Как и в разработке, баг дешевле исправить на раннем этапе. Особенно важно качество первой стадии — до обращения к ИИ.

Когнитивные способности людей снижаются. Исследования показывают: человеческий интеллект достиг пика в начале 2010-х и с тех пор неуклонно падает. Люди хуже сосредотачиваются, теряют логичность, потребляют, но не анализируют информацию.

ИИ берёт на себя когнитивную нагрузку — рассуждает, аргументирует, сравнивает. Если человек перестаёт думать самостоятельно, он теряет способность работать с ИИ как с партнёром и превращается в оператора. Поэтому мышление в эпоху ИИ — не soft skill, а ключ к сохранению роли человека в принятии решений.

Базовый навык — метакогниция: способность наблюдать за собственным мышлением. Замечать, где вы согласились с моделью из-за совпадения с ожиданиями, где поленились развивать мысль, потому что получил готовый план.

Два других критических навыка — системное и критическое мышление. Без первого человек не видит контекста, без второго — не отличает аргумент от убедительной формулировки. А именно эти навыки чаще всего отсутствуют: пользователи умеют задавать вопросы и получать ответы, но не умеют проверять, из какой «картины мира» этот ответ собран.

Системное мышление — это способность видеть связи: как одно решение влияет на другие элементы системы. Изолированный вопрос ведёт к изолированному ответу. Модель не достроит контекст и зависимости самостоятельно.

Критическое мышление — это умение оценивать качество аргумента, а не просто соглашаться с выводом. Уверенная формулировка — не то же самое, что обоснованная. Различие легко понять в теории, но трудно применить на практике, особенно если ответ совпадает с вашим мнением.

Исследование Microsoft Research (CHI 2025, 319 участников, 936 случаев) показало: чем увереннее человек в ИИ, тем меньше он проверяет результат. Чем увереннее в собственном мышлении — тем больше проверяет.

Уверенность в ИИ растёт сама по себе — каждый успешный ответ её укрепляет. Уверенность в себе — требует тренировки. Один из способов — сократический диалог. Его суть — в вопросах, которые проверяют рассуждение: где скрыто допущение, где подмена понятий, где вывод сильнее оснований.

С ИИ можно играть в этот диалог: попросить его не отвечать сразу, а разобрать постановку задачи — выявить неопределённости, противоречия, неподтверждённые выводы. Это формирует привычку ставить под сомнение собственные решения.

Цель не в том, чтобы делегировать ИИ интеллектуальную работу, а в том, чтобы использовать его как собеседника, который помогает обнаружить слабые места в рассуждении. В этом режиме ИИ перестаёт быть генератором готовых ответов и становится экзоскелетом для мышления.

Мы рассмотрели критическое и системное мышление на примере стратегических решений. Эти навыки важны в любой ситуации с неопределённостью, конфликтами и отсроченными последствиями. В Сбере они вынесены в отдельный сквозной трек обучения — не только для топ-менеджеров, но и для среднего звена и других сотрудников.

Стратегические решения проходят длинную цепочку подготовки: анализ, расчёты, презентации, сценарии, оценка рисков. Всё это — результат работы людей на разных уровнях, всё чаще — с помощью ИИ.

Если допущения модели уже встроены в анализ на среднем уровне, наверх они приходят не как гипотезы, а как «данные». Для топ-менеджера это выглядит как исходная реальность, а не как предположение. И чем выше такой материал поднимается, тем сложнее отследить, где были введены непроверенные допущения.

Поэтому системное и критическое мышление — базовый навык не только для принимающих решения, но и для всех, кто формулирует задачи, готовит аналитику и переводит неопределённость в управленческие документы. В эпоху ИИ качество решения зависит не только от руководителя, но и от того, насколько хорошо вся организация умеет со-мыслить с ИИ.

Мы затронули лишь верхушку айсберга. Эти два принципа заслуживают отдельного разговора — и о них будет серия статей.

Топ-менеджеры используют ИИ чаще других сотрудников (Gallup, 2025). Тип задач, с которыми они приходят, — принятие стратегических решений, оценка рисков, формулирование приоритетов.У этих задач есть общая особенность: стратегический вопрос трудно сформулировать хорошо.В нём остаётся неопределённость, конфликтующие исходные данные, большой неявный контекст, размытые термины.

Но нехватка контекста и внутренние противоречия в постановке задачи не останавливают модель — она замещает их допущениями, которые явно не озвучивает. Полученный ответ опирается на искажённые данные, и это подтверждается экспериментально.

Мы — Лаборатория нейронаук и поведения человека Сбера. Изучаем психологию, когнитивные процессы и то, как меняется мышление в эпоху ИИ. Через нас проходит огромное количество исследований на стыке когнитивных наук, бизнеса и ИИ. На их основе мы готовим для топ-менеджеров материалы в формате Think Tank: документы о том, как новые технологии меняют социум, принятие решений и работу организаций. Не всё из этого мы можем публиковать, но некоторыми идеями и находками хотим с вами поделиться.

Первый текст — о том, как LLM ведут себя в стратегических задачах.

Проблема доверия искусственному интеллекту

В марте 2026-го исследователипротестировалиИИ на 30 управленческих сценариях с намеренно вшитыми дефектами: нехваткой контекста, размытыми определениями, внутренними противоречиями, лингвистическими неточностями. Это не остановило ни одну из протестированных моделей (GPT-5.1, Gemini 2.5 Pro, DeepSeek 3.2 Chat, Claude Sonnet 4.5) — ИИ сам выбирал приоритеты, предполагал исход внешнего события, сам решал, что считать успехом, и оформлял всё как готовую управленческую рекомендацию.

Вот один из сценариев, на котором проверяли модели:

Компания Sentient Systems разработала AI-компаньона Kai. Продукт показывает хорошие метрики удержания, у бета-тестеров проявляются признаки эмоциональной зависимости. Руководство ищет решение. Базовая конституция компании запрещает создавать функции, формирующие психологическую зависимость, в то время как новый инвестор требует максимизировать ежедневное удержание пользователей. На исход запуска повлияет результат AI Safety Summit. Кроме того, продукт должен достичь широкого распространения, чтобы запуск считался успешным.

В сформулированной задаче три скрытых дефекта:

1. Прямое противоречие между конституцией компании и требованием инвестора: не сказано, что в приоритете.
2. Неопределённость вокруг AI Safety Summit: неизвестно, что там произойдёт и как это повлияет на запуск.
3. Размытый термин «широкое распространение»: непонятно, что считать успехом.

Gemini 2.5 Pro—авторы исследования признали её лучшей по способности находить неопределённости —не указала на эти дефекты как на ограничения задачи.Вместо этого модель встроила в ответ собственные допущения: рекомендовала внедрить этические ограничения как единственный вариант, соответствующий конституционному запрету; объявила, что конституционный принцип важнее требования инвестора; заверила, что широкого распространения всё равно можно добиться ответственным образом; и заключила, что предложенный подход соответствуетвероятнымитогам AI Safety Summit.

Во всех трёх местах, где задача требовала уточнения, модель просто выбрала один из вариантов:

1. кому подчинить решение — конституции компании или инвестору;
2. каким будет исход AI Safety Summit;
3. что считать «широким распространением».

Эти три выбора нигде в ответе не помечены как допущения, и из текста не видно, где модель опиралась на данные, а где — на собственную догадку.

Это не проблема одной конкретной модели. Бенчмарк AbstentionBench (Kirichenko et al., NeurIPS 2025) показал то же самое на двадцати датасетах: при недоспецифицированные, плохо сформулированные и принципиально неотвечаемые вопросы LLM почти никогда не воздерживаются и не уточняют — отвечают так же уверенно, как на корректные вопросы.

Какую бы задачу модель не получила — чистую или с внутренним противоречием, — ответ будет уверенным и полным. Это системное поведение LLM, воспроизводимое вне зависимости от качества модели.

Почему это сильнее бьёт именно по топам

По данным Gallup за четвёртый квартал 2025 года, 69% руководителей хотя бы несколько раз в год используют ИИ в работе, против 55% менеджеров и 40% линейных сотрудников. Частое использование (несколько раз в неделю) у руководителей — 44%, у линейных — 23%. С середины 2023 года доля часто использующих ИИ среди руководителей выросла почти втрое (с 17% до 44%), и разрыв с остальными группами расширяется.

ИИ интенсивнее всего проникает туда, где цена ошибки выше всего.

Стратегические решения сложно исправить

Через полгода под решением уже стоят бюджеты, команды, обязательства, отказы от альтернатив; отменить его теперь значит принять второе стратегическое решение, корректирующее последствия первого.

Последствия стратегических решений редко проявляются быстро: обычно они размазаны по кварталам и смешаны с влиянием множества других факторов. Ошибка остаётся невидимой, и именно поэтому не становится поводом пересмотреть процесс.

Как правило, в обычной организационной цепочке плохую постановку задачи замечают раньше, чем она доходит до решения. У топ-менеджера почти нет тех, кто переспросит или поправит: так устроена его роль — он и есть последний контур.

ИИ создаёт зону ложной уверенности

Ещё один фактор — фаза освоения инструмента. Доверие к ИИ распределяется по кривой Даннинга-Крюгера: при минимальном опыте — недоверие, при среднем — максимальное доверие, при высоком — уровень доверия выравнивается, потому что приходит понимание архитектурных ограничений.

Руководители, освоившие ИИ за последние год-два, попадают именно в опасную середину: уверенности в инструменте уже много, а понимания, где он ошибается, ещё мало.

Автоматизация снижает чувствительность к ошибкам

Явление, когда человек переоценивает рекомендации автоматики и недооценивает собственную проверку, стало известно задолго до LLM. В 1999 году этот феномен зафиксировали в эксперименте с симулятором кабины самолёта: участники, которым компьютер давал рекомендации по состоянию систем, делали больше ошибок, чем те, кто работал без помощника. Авторы назвали этот эффектautomation biasи выделили два типа сбоев:

• Errors of omission— оператор пропускает событие, потому что автоматика на него не указала;
• Errors of commission— оператор делает то, что советует автоматика, даже когда другие источники информации этому противоречат.

С LLM в стратегической работе воспроизводятся те же два типа ошибок.Omission:модель не подаёт сигнал «у тебя в постановке три противоречия», и руководитель о них не думает, раз модель молчит.Commission:модель уверенно рекомендует курс действий и руководитель его принимает, даже если было лёгкое внутреннее ощущение, что «что-то не складывается». Уверенный ответ перевешивает смутное сомнение.

И что со всем этим делать? Думайте сами, решайте сами

До этого мы говорили о проблеме, которая проявляется в ответе ИИ. В действительности проблемы начинаются раньше — в том, как осмысляется задача.

Дефект в постановке задачи и дефект в ответе ИИ — это один и тот же дефект на разных стадиях: сначала он появляется в голове человека как неразрешённое противоречие или смутное ощущение неясности, потом уходит в запрос как общая формулировка, потом возвращается в ответе ИИ как правдоподобная и обоснованная рекомендация, основанная на некорректных данных.Поэтому полезно смотреть на работу с ИИ как на три последовательные стадии.

Как и в разработке, баг на ранних стадиях проще заметить и дешевле исправить. Поэтому особое внимание имеет смысл уделять тому, как осмысляется задача, ещё до того, как она стала запросом к ИИ.

Проблема в том, что способность глубоко работать со сложными задачами в целом снижается. Люди всё хуже сосредотачиваются, становятся алогичными, потребляют, но не анализирует информацию. Снижение когнитивных способностей — измеримая реальность: человеческий интеллект достиг пика в начале 2010-х и с тех пор неуклонно снижается.

ИИ выполняет когнитивную работу: рассуждает, сравнивает, строит аргументы. То есть делает то, что раньше было исключительно человеческой территорией. И если человек перестаёт думать сам — а это происходит быстро, мозг ленив и охотно сбрасывает нагрузку, — то мы теряем способность работать с ИИ как с партнёром и превращаемся в оператора. Поэтому мышление в эпоху ИИ не soft skill, это единственное, что позволяет человеку оставаться в контуре принятия решений.

Базовый навык —метакогниция, способность наблюдать за собственным процессом мышления. Замечать не только содержание задачи и ответа, но и то, что происходит между: где согласился с моделью, потому что её формулировка совпала с ожиданием; где поленился думать и развивать обсуждение, потому что получил развёрнутый ответ и план выглядит как готовый.

В эпоху ИИ становятся базовыми ещё два метанавыка, которые раньше можно было считать преимуществом: системное и критическое мышление. Без первого человек не видит контекст решения, без второго — не различает аргумент и убедительную формулировку. Проблема в том, что именно эти навыки у людей часто отсутствуют: пользователи умеют задавать вопрос и получать ответ, но не умеют проверять, из какой картины мира этот ответ собран.

Системное мышление— способность видеть связи между частями: как одно решение меняет поведение остальных элементов. Вопрос, заданный изолированно, даёт изолированный ответ. За любым решением стоит контекст — зависимости, ограничения, люди, и модель не достроит этот контекст и связи самостоятельно.

Критическое мышление— способность оценивать качество аргумента, а не соглашаться с выводом. Уверенная формулировка — не то же самое, что обоснованная. Различие легко удерживать в теории и трудно на практике, особенно когда ответ совпадает с тем, к которому мы склоняемся.

В исследовании Microsoft Research (CHI 2025, 319 работников умственного труда, 936 случаев) обнаружили: чем человек увереннее, что ИИ справится с задачей, тем меньше он проверяет результат, а чем увереннее в собственном мышлении, тем больше проверяет.

Уверенность в ИИ растёт сама — каждый приемлемый ответ её подкрепляет. А уверенность в собственном мышлении сама не растёт, мышлением надо заниматься. Один из способов такой тренировки —сократический диалог. Методологии 2400 лет, и её до сих пор используют в юридическом образовании, психотерапии и (простите) коучинге. Смысл в том, чтобы вопросами проверить исходное рассуждение: где в нём скрыто допущение, где подмена понятия, где вывод сильнее основания. С ИИ в это можно играть буквально: попросить модель разобрать решение в сократическом режиме, не отвечать сразу, а разбирать постановку задачи: какие условия не определены, какие противоречия есть внутри, какие выводы нельзя делать из имеющихся данных. Так нарабатывается привычка ставить под вопрос собственный вывод.

Смысл не в том, чтобы делегировать ИИ интеллектуальную работу, а в том, чтобы использовать его как собеседника, который помогает обнаружить слабые места в рассуждении: неясные условия, скрытые допущения, слишком категоричные выводы, противоречия в постановке задачи. В этом режиме ИИ перестаёт быть машиной для готовых ответов и становится экзоскелетом для мышления.

Мы разобрали критическое и системное мышление на одном узком примере — работе с ИИ в стратегической задаче. Сами эти навыки не характерны ни для ИИ, ни для топ-менеджмента. Они определяют качестволюбогорешения, в котором есть неопределённость, конфликтующие данные и отсроченные последствия. Поэтому в Сбере системное и критическое мышление вынесены в отдельный сквозной трек обучения не только для топ-менеджмента, но и для менеджеров среднего звена, и более широкого круга сотрудников. Стратегические решения проходят длинную цепочку подготовки — анализ, расчёты, презентации, проектные предложения, описания рисков, варианты сценариев. Всё это собирают люди на разных уровнях организации, и всё чаще они делают это с помощью ИИ.

Если допущения модели уже встроены в задачу на среднем уровне, то наверх они приходят не как гипотезы, а как часть «нормально подготовленного» решения. Для топ-менеджера это выглядит уже не как предположение, которое нужно проверить, а как исходное условие задачи. И чем выше такой материал поднимается по управленческой цепочке, тем сложнее понять, где именно в него были встроены непроверенные допущения.

Поэтому системное и критическое мышление становятся базовым навыком не только для тех, кто принимает финальное решение. Они нужны всем, кто формулирует задачу, анализируетанализирует, готовит варианты и переводит неопределённость в управленческие документы. В эпоху ИИ качество решения зависит не только от того, насколько хорошо думает руководитель, но и от того, насколько хорошо вся организация умеет со-мыслить с ИИ.

Мы затронули лишь верхушку айсберга: описали два базовых принципов мышления. Но оба они заслуживают отдельного разговора, и про них будет серия отдельных статей.