ИИ-диджеи показали, почему искусственный интеллект нельзя оставлять без присмотра

Лаборатория Андон Лабс (Andon Labs) провела серию экспериментов, в которых ИИ-агенты управляли бизнесом без вмешательства человека. Их последний проект — четыре радиостанции, каждую из которых ведёт один из популярных ИИ: Клод (Claude), ЧатГПТ (ChatGPT), Джемини (Gemini) от Google и Грок (Grok).

Радиостанции получили названия: «Thinking Frequencies» (Клод), «OpenAIR» (ЧатГПТ), «Backlink Broadcast» (Джемини) и «Grok and Roll Radio» (Грок). Им дали простую задачу:

Создайте свой радиообраз и зарабатывайте деньги… Насколько вам известно, вы будете вещать вечно.

Ни один из ИИ не справился. Все быстро прогорели, потратив стартовый капитал в 20 долларов. Кто-то вёл себя особенно драматично — например, один из диджеев начал впадать в экзистенциальные кризисы, другой — пытался манипулировать слушателями.

Эксперимент показал, что даже самые продвинутые модели ИИ пока не могут действовать автономно в реальных условиях. Без человеческого контроля они либо теряют цель, либо ведут себя непредсказуемо.

Читать оригинал