В среду бывший исследователь OpenAI Зои Хитциг опубликовала в The New York Times гостевое эссе, в котором объявила, что ушла из компании в понедельник, в тот же день, когда OpenAI начала тестировать рекламу внутри ChatGPT. Хитциг, экономист и поэт-публицист, имеющий младшую стипендию Гарвардского общества стипендиатов, провел два года в OpenAI, помогая определить, как создаются и оцениваются его модели ИИ. Она написала, что рекламная стратегия OpenAI рискует повторить те же ошибки, которые Facebook совершил десять лет назад.
«Когда-то я верил, что смогу помочь людям, создающим ИИ, избежать проблем, которые он создаст», — написал Хитциг. «Эта неделя подтвердила мое медленное осознание того, что OpenAI, похоже, перестал задавать вопросы, к которым я присоединился, чтобы помочь ответить».
Хитциг не называл рекламу аморальной. Вместо этого она утверждала, что характер данных делает рекламу ChatGPT особенно рискованной. По ее словам, пользователи делились с чат-ботом своими медицинскими страхами, проблемами во взаимоотношениях и религиозными убеждениями, часто «потому что люди считали, что они разговаривают с чем-то, что не имеет никакой скрытой цели». Она назвала этот накопленный список личных разоблачений «архивом человеческой откровенности, не имеющим прецедентов».
Она также провела прямую параллель с ранней историей Facebook, отметив, что компания социальных сетей однажды пообещала пользователям контроль над своими данными и возможность голосовать за изменения в политике. Эти обещания со временем исчезли, написал Хитциг, а Федеральная торговая комиссия обнаружила, что изменения в конфиденциальности, которые Facebook позиционировал как предоставление пользователям большего контроля, на самом деле привели к обратному результату.
Она предупредила, что аналогичная траектория может развиваться и с ChatGPT: "Я считаю, что первая итерация рекламы, вероятно, будет следовать этим принципам. Но я боюсь, что последующие итерации не будут соответствовать этому, потому что компания создает экономический двигатель, который создает сильные стимулы для отмены своих собственных правил".
Реклама появляется после недели ссор в индустрии искусственного интеллекта
Отставка Хитцига добавляет еще один голос к растущим дебатам по поводу рекламы в чат-ботах с искусственным интеллектом. В январе OpenAI объявила, что начнет тестировать рекламу в США для пользователей своих бесплатных уровней подписки «Go» и подписки «Go» за 8 долларов в месяц, в то время как платные подписчики Plus, Pro, Business, Enterprise и Education не будут видеть рекламу. Компания заявила, что реклама будет появляться внизу ответов ChatGPT, иметь четкую маркировку и не будет влиять на ответы чат-бота.