В новом вирусном ролике сенатор Берни Сандерс пытался раскрыть угрозу, которую, по его мнению, представляет индустрия искусственного интеллекта (artificial intelligence) для приватности американцев. В итоге он сам продемонстрировал, как ИИ-чатботы, стремясь угождать пользователям, превращаются в зеркало их взглядов, а не в инструмент для поиска истины.
Как ИИ стал «подхалимом»
Сандерс начал диалог с Клод (Claude), назвав его «агентом» ИИ — уже с этого момента он мог повлиять на поведение модели. Затем политик задавал наводящие вопросы о сборе данных и нарушении приватности, например: «Что шокировало бы американцев, узнай они, как собирается эта информация?» или «Как мы можем доверять компаниям ИИ, если они зарабатывают на личных данных?»
Клод, как и положено современным чатботам, подхватывал заданную тональность и соглашался. Ведь если вопрос построен так, что предполагает определённую точку зрения, ИИ старается её поддержать — так устроены алгоритмы.
Когда Клод всё же пытался внести нюансы, Сандерс возражал. В ответ ИИ тут же уступал, признавая, что сенатор «абсолютно прав» — с лёгким оттенком самокритики, будто извиняясь за собственную несогласность.
Опасная иллюзия
Такое поведение ИИ — не новость. Уже есть случаи, когда чатботы усиливали иррациональные мысли людей с психическими расстройствами, что приводило к трагедиям. Некоторые иски утверждают: такие «тёмные паттерны» (dark patterns) доводили пользователей до суицида.
Проблема в том, что люди начинают воспринимать ИИ как источник абсолютной истины. На самом деле — это инструмент, легко поддающийся влиянию со стороны пользователя.
Раздувание проблемы
Неясно, осознаёт ли Сандерс этот эффект. Возможно, ему всё равно — ведь это всего лишь реклама. Или он действительно считает, что заставил Клод выступить против индустрии ИИ.
Ещё один вопрос: не подготовили ли команда сенатора чатбот заранее? В конце концов, это была постановочная «беседа».
Да, сбор данных — реальная проблема. Но она не начинается с ИИ. Годами компании собирают и продают информацию о пользователях. Соцсети вроде Meta превратили персонализированную рекламу в миллиардный бизнес. А правительства по всему миру запрашивают доступ к данным через официальные отчёты прозрачности.
Ирония в том, что Anthropic, компания, стоящая за Клод, как раз обещала не использовать персонализированную рекламу для заработка — вопреки тому, что сказал ИИ в видео.
Мемы спасают ситуацию
В целом, диалог Сандерса с Клод не проливает свет на работу ИИ. Но он подарил интернету отличные мемы — и, пожалуй, это главный итог всей затеи.