Личные обиды и борьба за власть между руководителями OpenAI и Anthropic определяют, как мир взаимодействует с искусственным интеллектом.
Конфликт на вершине ИИ
Ещё до публичных споров о применении ИИ в военных целях Дарио Амодеи всё активнее критиковал своего бывшего начальника Сэма Альтмана и курс OpenAI — компании, которую они вместе создавали.
В последние месяцы генеральный директор Anthropic в переписке с коллегами сравнивал судебный конфликт между Альтманом и Илоном Маском с противостоянием Гитлера и Сталина. Он назвал злом пожертвование в $25 миллионов, которое президент OpenAI Грег Брокман направил в протрамповский суперкомитет политических действий. В выступлениях он уподоблял OpenAI и других конкурентов табачным компаниям, сознательно продающим вредный продукт.
Внутри компании эту тактику называют позиционированием Anthropic как «здоровой альтернативы» другим игрокам на рынке ИИ. Недавно она получила публичное выражение в рекламной кампании на Супербоуле: Anthropic ловко, не называя имён, атаковала OpenAI за решение встроить рекламу в чат-бота.
Амодеи построил бренд Anthropic вокруг идеи, что подход его компании принципиально безопаснее, чем у конкурентов — особенно у OpenAI, которую он и другие сооснователи покинули в 2020 году из-за опасений по поводу безопасности. На деле за этим решением стоят не только этические соображения, но и глубокие личные обиды, включая борьбу за влияние и признание.
Этот конфликт влияет на развитие ИИ — технологии, которая уже формирует мировую экономику и порождает споры о будущем труда, смысла и самой выживаемости человечества.
Публичный разрыв
В последние недели противостояние вышло на новый уровень. Когда Пентагон запретил Anthropic участвовать в проектах по применению ИИ на войне, Альтман заявил, что OpenAI, напротив, получила контракт на засекреченные работы для Министерства обороны США.
Амодеи разразился гневным постом в Slack, назвав OpenAI «лживой» и заявив: «Эти факты указывают на модель поведения, которую я у Сэма Альтмана наблюдаю давно».
Раскол между двумя гигантами ИИ — обе компании оцениваются более чем в $300 млрд — уходит корнями в напряжённые дискуссии десятилетней давности, проходившие в таунхаусе в Сан-Франциско. Сейчас обе компании движутся к IPO, но философские и личные разногласия уже дали глубокие трещины.
На встрече по ИИ в Нью-Дели в феврале премьер-министр Индии Нарендра Моди и ведущие технологические лидеры символически взялись за руки. Амодеи и Альтман отказались от жеста и лишь неловко коснулись локтями.
Дом на Делано-авеню
Напряжённость между основателями OpenAI и Anthropic началась в 2016 году в доме на Делано-авеню в Сан-Франциско, где жила группа друзей.
Дарио Амодеи и его сестра Даниэла делили жильё с Холденом Карнофски, основателем филантропической организации, продвигавшей идеи эффективного альтруизма — движения, одним из первых серьёзно оценившего риски и возможности ИИ.
Грег Брокман, сооснователь OpenAI, дружил с Даниэлой и часто бывал в этом доме. В 2015 году он пытался привлечь Дарио и других жильцов в OpenAI, но безуспешно.
Однажды в начале 2016 года Брокман, Дарио и Карнофски спорили о том, как раскрывать обществу возможности ИИ. Брокман, пришедший из стартап-культуры, считал, что нужно рассказывать о технологиях всем. Дарио и Карнофски возражали: сначала нужно информировать правительство.
Этот спор стал символом разницы в подходах. Брокман ушёл с убеждением, что Дарио не хочет делиться знаниями с публикой. Много лет спустя Дарио станет одним из главных предупредителей о рисках ИИ — но Брокман по-прежнему считает, что в этом споре проявилась ключевая философская расхождение.
Первые травмы
В 2016 году Дарио присоединился к OpenAI, впечатлённый уровнем талантов. Он работал допоздна с Брокманом, обучая ИИ проходить видеоигры.
К 2017 году проект Universe застопорился. Илон Маск, тогдашний основной инвестор, потребовал от Брокмана и Ильи Суцкевера составить таблицу вкладов сотрудников — классический сигнал перед сокращениями.
Дарио с ужасом наблюдал, как увольняют его коллег — от 10% до 20% команды. Он считал это бессмысленно жестоким.
Позже Дарио нанял советника по этике, который предложил OpenAI стать координатором между ИИ-компаниями и правительством. Брокман увидел в этом возможность продавать универсальный ИИ ядерным державам — включая Россию и Китай.
Дарио воспринял это как государственную измену и всерьёз задумался об уходе.
Нарушенные обещания
В 2018 году Маск ушёл из OpenAI. Альтман занял центральную роль и встретился с Дарио. Тот согласился остаться, если Брокман и Суцкевер не будут иметь решающего влияния.
Альтман согласился. Но вскоре Дарио узнал, что Альтман пообещал Брокману и Суцкеверу, что те могут уволить его, если сочтут нужным. Это стало для Дарио нарушением договорённости.
В то же время Даниэла Амодеи, ставшая в OpenAI руководителем инженерных команд и найма, вышла замуж за Карнофски, который вошёл в совет директоров компании.
Борьба за контроль
Конфликт обострился после того, как исследователь Алек Радфорд заложил основу для GPT — серии больших языковых моделей.
Брокман хотел участвовать в проекте, но Дарио, руководивший исследованиями, не хотел допускать его. Брокман обратился к Альтману. Тот стал убеждать Дарио.
Даниэла, которая вместе с Радфордом возглавляла проект, сказала Брокману, что он не будет в нём участвовать. Когда Альтман предложил урегулировать ситуацию, она согласилась уйти с поста, лишь бы не допустить Брокмана.
Альтман попросил её остаться и пообещал найти другой путь.
На одной из встреч Дарио перечислил причины, по которым Брокмана нельзя допускать к проекту — в том числе то, что Радфорд не хочет с ним работать. Радфорд был потрясён: его предпочтения использовали как оружие в руководящей войне.
Брокман и Альтман неохотно согласились, что Грег останется в стороне.
Растущее недовольство
С годами Дарио и его команда выпустили GPT-2 и GPT-3. Его влияние в OpenAI росло, но он чувствовал, что его вклад недооценивают.
Он жаловался, что Альтман преуменьшает его роль. Его раздражало, что Брокман выступает на подкастах, обсуждая устав компании, хотя внёс в него меньше, чем Амодеи.
В 2018 году Брокман попросил Дарио проверить слайды для встречи с Бараком Обамой. Когда узнал, что его не пригласили, Дарио почувствовал себя обойдённым.
В 2019 году он попросил повысить его до вице-президента по исследованиям. Альтман согласился и сообщил совету директоров, что Дарио будет подчиняться ему напрямую и получит статус, равный статусу Брокмана и Суцкевера.
В письме от ноября 2019 года Альтман также отметил, что Дарио согласился «не очернять проекты, в которые сам не верит, но на которые делают ставку другие».
Конец перемирия
Перемирие продлилось недолго. Через несколько месяцев в офисе OpenAI произошла грандиозная ссора.
Альтман вызвал Дарио и Даниэлу и обвинил их в заговоре против него — якобы они подстрекали коллег писать негативные отзывы в его адрес. Брат и сестра отрицали это.
Альтман сослался на высокопоставленную сотрудницу, но когда Даниэла вызвала её, та заявила, что ничего не знает. Тогда Альтман начал отрицать, что вообще это говорил. В ответ Амодеи перешли на крик.
К марту 2020 года напряжённость достигла пика. Альтман попросил руководителей дать друг другу письменные оценки.
Брокман написал Даниэле жёсткий отзыв, обвинив её в злоупотреблении властью. Сначала он показал его Альтману, который назвал его «жёстким, но справедливым». Даниэла ответила длинным опровержением. Спор стал настолько острым, что Брокман предложил убрать свой отзыв.
Окончательный уход
К концу 2020 года, на фоне пандемии, Дарио собрал команду единомышленников, решивших создать свою компанию. Даниэле поручили вести переговоры об уходе.
Альтман пришёл к Дарио домой и просил его остаться. Дарио согласился бы, только если бы подчинялся напрямую совету директоров — и если бы не работал с Брокманом.
В одной из последних записок Дарио разделил ИИ-компании на два типа: рыночные и компании общественного блага. По его мнению, OpenAI — пример первой категории, стремящейся улучшить мир через коммерческие продукты. Компании общественного блага, утверждал он, должны заниматься безопасностью и анализом рисков ИИ.
Он считал идеальной пропорцию: 75% усилий — на общественное благо, 25% — на рынок.
Через несколько недель Дарио, Даниэла и почти десяток сотрудников ушли из OpenAI. Менее чем за пять лет они построили Anthropic и теперь стремятся вывести её на биржу — возможно, раньше бывшего работодателя.