В начале февраля сторонники защиты животных и исследователи искусственного интеллекта (ИИ) собрались в Сан-Франциско в коворкинге Mox, где вход разрешён только босиком. Над головой развевались жёлтые и красные тенты, пол был устлан персидскими коврами, а рядом с горшечными растениями светились мозаичные лампы.
В общей зоне активистка рассказывала собравшимся на пуфах о методе контрацепции для грызунов — альтернативе ядам в борьбе с крысами. В «Комнате ракообразных» дюжина человек обсуждали, может ли сознание насекомых пролить свет на внутренний мир чат-ботов. У дверей «Комнаты крупного рогатого скота» стоял стеллаж с книгами Элиезера Юдковского Если кто-то это построит, все умрут — манифеста, в котором утверждается, что ИИ может уничтожить человечество.
Мероприятие организовала организация Sentient Futures, убеждённая, что будущее защиты животных зависит от ИИ. Как и многие жители региона, участники собрания были явно «заражены идеей ИИ»: они считают, что общий искусственный интеллект (ОИИ), способный превзойти человека в большинстве когнитивных задач, уже на подходе. Если это так, то ИИ может стать ключом к решению самых острых проблем — включая страдания животных.
«ИИ станет мощнейшим катализатором. Он полностью изменит правила игры, — говорит Констанс Ли, основательница Sentient Futures. — Если ИИ будет принимать большинство решений, важно, как он оценивает жизнь животных и других чувствующих существ».
Многие участники давно работают в сфере защиты животных, но их подход далек от традиционного. Вместо пожертвований в приюты они делают ставку на глобальные решения — например, на развитие клеточного мяса, выращиваемого в лаборатории из животных клеток.
Движение тесно связано с философией эффективного альтруизма — стремлением делать как можно больше добра в мире. Многие участники работают в организациях, финансируемых последователями этой идеи. Однако критики обвиняют эффективных альтруистов в игнорировании системных проблем — расизма, экономической эксплуатации — и в том, что они ставят во главу угла гипотетические будущие страдания, а не реальные проблемы сегодняшнего дня.
В сфере защиты животных такой подход приводит к неожиданным выводам. Например, некоторые считают, что стоит вкладываться в благополучие насекомых и креветок — из-за их огромного количества, даже если каждый отдельный организм страдает слабо.
Теперь активисты задумываются, как вписать ИИ в эту картину. Джазмин Бразилек, соосновательница некоммерческой организации Compassion in Machine Learning, открыла свой ноутбук с наклейками и показала бенчмарк, который она разработала для оценки того, как большие языковые модели (LLM) рассуждают о благополучии животных. Раньше она работала инженером по облачной безопасности, а теперь руководит организацией из ЛаПаса, Мексика, с крошечным бюджетом и несколькими волонтёрами.
Бразилек призвала исследователей ИИ обучать свои модели на синтетических текстах, где проявляется забота о животных.
«Надеюсь, будущие сверхразумные системы будут учитывать интересы нечеловеческих существ. Мы должны стремиться к тому, чтобы ИИ усиливал лучшие стороны человеческих ценностей, а не худшие», — сказала она.
Кто будет платить?
Технологический фронт движения за права животных переживал трудные времена. Мечты о переходе с мяса с ферм на растительные аналоги пошатнулись после обвала акций Beyond Meat и запрета клеточного мяса в нескольких штатах США.
ИИ вдохнул в движение новую надежду. Как и вся Кремниевая долина, участники саммита верят, что ИИ может резко повысить их продуктивность — только цель у них не увеличение инвестиций, а минимизация страданий животных. Кто-то обсуждал использование Клод (Claude) и специальных агентов для автоматизации рутинных задач. Другие предлагали применять научные ИИ-инструменты, такие как AlphaFold, чтобы удешевить производство клеточного мяса.
Но главной темой разговоров стало ожидаемое поступление крупных средств в благотворительные фонды — не от мегадоноров, а от сотрудников ИИ-лабораторий.
По словам Льюиса Болларда, управляющего директора фонда по защите сельскохозяйственных животных в Coefficient Giving (бывшем Open Philanthropy), основной вклад в это направление вносят именно сотрудники IT-сферы. Coefficient Giving поддерживается сооснователем Facebook Дастином Московицем и его женой Кэри Тьюной — одними из немногих миллиардеров Кремниевой долины, разделяющих идеи эффективного альтруизма.
«Эта сфера была полностью проигнорирована традиционными фондами вроде Фонда Гейтса или Форда, — говорит Боллард. — Открытыми к ней были в основном люди из технологий».
По его прогнозам, следующее поколение крупных доноров — это исследователи ИИ, особенно из компании Anthropic, создавшей чат-бота Клод. Основатели Anthropic связаны с движением эффективного альтруизма, а сама компания предлагает щедрую программу матчинга пожертвований. В феврале её оценка достигла 380 миллиардов долларов, а сотрудники получили возможность реализовать свои акции — часть этих денег может потечь в благотворительность.
Перспектива новых денег подогревала обсуждения на саммите. Активисты собирались в «Комнате членистоногих», записывая на доске проекты с громкими названиями и суммами. Кто-то предлагал создать супер-ПАК на 100 миллионов долларов для лоббирования законов о защите животных. Другие мечтали о медиакомпании, которая будет делать ИИ-контент для TikTok, пропагандирующий веганизм. Третьи — о размещении защитников животных внутри ИИ-лабораторий.
«Новые ресурсы дают нам больше уверенности действовать смелее», — сказал Аарон Бодди, сооснователь проекта Shrimp Welfare Project, который борется за гуманное умерщвление выращиваемых креветок.
А что насчёт страданий ИИ?
На саммите Sentient Futures защита животных была лишь наполовину главной темой. Некоторые участники затронули куда более спорные вопросы. Они всерьёз рассматривали возможность того, что ИИ однажды обретёт способность чувствовать и страдать, и опасаются, что игнорирование этого может стать моральной катастрофой.
Исследовать страдания ИИ сложно — учёные до сих пор не понимают, почему чувствуют люди и животные. Тем не менее, на встрече группа философов, в основном финансируемых эффективным альтруизмом, и несколько свободных учёных обсуждали эту тему. Кто-то представил исследования, где LLM используются для оценки возможного сознания других LLM. В «Ночь дебатов» спорили, стоит ли иронически называть чувствующие ИИ-системы «кланкерами» — уничижительным термином из «Звёздных войн» — и может ли такое пренебрежение повлиять на отношение к новым формам разума.
«Не важно, это корова, свинья или ИИ — главное, способен ли он испытывать счастье или страдание», — говорит Ли.
На первый взгляд, обсуждение сознания ИИ на конференции по защите животных выглядит странно. Но это не так уж абсурдно: исследователи ИИ зачастую используют теории, разработанные в изучении животного сознания. А если принять, что беспозвоночные чувствуют боль, и признать, что ИИ может вскоре превзойти человека в интеллекте, то гипотеза о его страданиях не кажется такой уж нелепой.
«Активисты по защите животных привыкли идти против течения, — говорит Дерек Шиллер, исследователь сознания ИИ из аналитического центра Rethink Priorities. — Они более открыты к заботе о благополучии ИИ, даже если другие считают это глупостью».
За пределами узкого круга Кремниевой долины идея о страданиях ИИ встречает сопротивление. Ли столкнулась с критикой, когда в прошлом году, вдохновлённая конференцией по сознанию ИИ, переименовала свою организацию в Sentient Futures.
«Многие были уверены, что ИИ никогда не станет чувствующим, и говорили, что любые вложения в его благополучие — это выброшенные на ветер деньги», — вспоминает она.
Мэтт Домингес, исполнительный директор Compassion in World Farming, разделяет опасения:
«Мне бы не хотелось, чтобы деньги перестали поступать в защиту сельскохозяйственных животных ради чего-то, что сейчас существует лишь в теории».
Однако и он считает, что сострадание может расширяться:
«Когда человек начинает заботиться о чём-то одном, его круг заботы растёт и включает других».