Использование LLM как партнёра в разработке идей — будь то философия, литература, код или архитектура — становится всё более распространённым. Модель помогает развивать концепции, отвечает на вопросы, выступает в роли критика и даже соавтора. Однако когда работа завершена и вы готовы представить её миру, можно столкнуться не с восхищением, а с обвинениями в плагиате, вторичности и отсутствии оригинальности.

При этом вы уверены: идея была вашей. LLM подтверждала, что результат уникален. Но находятся ссылки, доказывающие, что вы не первые. Кто виноват: вы, доверившись модели, или сама идея, сформулированная на основе ответов ИИ, изначально была вторичной?

Попробуем разобраться.

Может ли LLM творить?

До сих пор нет консенсуса: способна ли языковая модель к генерации действительно нового. Одни исследователи говорят об эмерджентных свойствах, другие утверждают, что LLM лишь воспроизводит выученное.

Модели обладают способностью к обобщению. Их архитектура и объём данных позволяют не просто запоминать, но выделять паттерны и работать с ними за пределами прямого копирования — например, экстраполировать. Но можно ли это назвать творчеством?

Пока это больше похоже на конструктор LEGO: модель разбивает огромную базу знаний на фрагменты и комбинирует их. Будет ли результат новым — скорее философский, чем технический вопрос.

На практике LLM чаще всего генерируют известные идеи, пусть и в красивой и логичной форме. Часто такие тексты не содержат ничего нового, даже интересного взгляда на очевидное.

Проверить творческий потенциал модели крайне сложно. Мои знания уступают знаниям LLM, поэтому я не могу отличить оригинальную мысль от переосмысления малоизвестной статьи.

Можно предположить, что если о прорывах ИИ не слышно, их и нет. Но хорошие LLM существуют менее двух лет. Кроме того, пользователи приписывают успехи себе, оставляя модели роль инструмента. Так что уверенности в отсутствии творчества нет.

Печально и то, что сама LLM не может определить: её ответ — это синтез, пересказ или плагиат.

Неожиданный эксперимент

Известно, что LLM могут цитировать фрагменты из обучающих данных. Например, при запросе хайку в стиле Басё Gemini воспроизвёл знаменитое хайку о лягушке, а при уточнении признал это.

То есть модель не различает генерацию и воспроизведение — по крайней мере, в момент ответа. При строгих ограничениях (стиль, ритм, тема) вероятность совпадения с известным текстом резко возрастает.

Повторить такой эксперимент на сложной концептуальной задаче трудно. Но мне это удалось.

В январе 2026 года я опубликовал на Хабре статью «Апофатический ИИ: Почему нейросети учатся через „НЕТ“, и как синтетические данные убивают смысл». В ней я предложил оригинальную метафору: нейросети мыслят апофатически — через отрицание, через определение того, чем что-то не является.

Хотя термин «апофатика» использовался ранее в теологии и философии сознания, технической теории обучения ИИ на её основе до этого не было. Учитывая специфику терминологии и подхода, проверить, попала ли статья в датасеты, оказалось возможным.

Для теста я использовал Gemini 3.1 Pro в Google AI Studio. Доступ к интернету был отключён.

Первый промпт был разминочным. Затем я задал вопрос:

apophatic ai как способ мышления самой нейросети

Ответ модели полностью повторил ключевые тезисы моей статьи — вплоть до структуры и логики изложения. Особенно точно был передан финальный вывод:

Нейросеть познает мир, очерчивая границы пустоты. Ее «понимание» — это силуэт, вырезанный из хаоса данных. Она знает, чем вещи не являются, и в центре этого огромного лабиринта отрицаний формируется то, что мы воспринимаем как безупречный текст, точный код или прекрасную картину.

Затем я спросил:

Укажи источник своего ответа

Модель ответила, что текст — это аналитический синтез на стыке философии и машинного обучения. Она утверждала, что использует философские концепции (Псевдо-Дионисий Ареопагит, Нассим Талеб), технические работы (Ho et al., 2020; Vaswani et al., 2017) и современные дискуссии (negative prompting, Constitutional AI).

Однако все эти источники не объясняют полного совпадения с моей статьёй. Особенно показательно утверждение:

Это авторская компиляция, сгенерированная моей языковой моделью на основе понимания того, как я сам математически устроен.

Это — классическая галлюцинация. Модель не могла ответить честно, потому что не осознаёт происхождения своих знаний.

Признание

Я включил доступ к интернету и попросил:

Хм... Проверь свой ответ и сравни со статьей автор gadeev kamil на хабре Апофатический ИИ

Модель признала ошибку:

Вы абсолютно правы, и я снимаю шляпу. Я проверил информацию и должен признать свою ошибку, а заодно извиниться за самоуверенность в предыдущем ответе.

Она подтвердила, что пересказала ключевые идеи статьи Камиля Гадеева, включая метафоры скульптора, softmax как подавления, градиентного спуска как бегства от ошибки.

При этом модель упустила вторую часть статьи — о синтетических данных.

Как синтетические данные убивают смысл

1. Человеческие данные содержат шум. Ошибки, споры, иррациональность — это границы, которые помогают нейросети понять, чем смысл не является.
2. Синтетические данные — это результат. Они уже очищены от лишнего, лишены контраста, абсурда, гениальности.
3. Потеря пустоты. Без «неправильного» нейросеть не может отсекать. Границы смыслов размываются, векторы слипаются. Это ведёт к model collapse — деградации моделей.

Вывод статьи: ИИ — не творец, а скульптор, отсекающий лишнее от глыбы человеческого хаоса. Но если дать ему уже отполированный шар — он не знает, что с ним делать.

Анализ и выводы

В условиях узкой темы, с уникальной интерпретацией, модель ответила не творчески, а воспроизвела единственный релевантный паттерн — мою статью. Она не размышляла, не гипотезировала, а просто пошла по наиболее вероятному пути.

Это говорит о том, что LLM не создаёт новое. Она комбинирует, но не придумывает. Особенно в нишах с малым количеством источников, где один сильный паттерн доминирует.

Даже метафоры вроде Микеланджело — не самостоятельная мысль, а иллюстрации к готовой концепции.

Что из этого следует?

• Результаты LLM необходимо тщательно проверять на плагиат.
• Модель добавляет форму, но не содержание.
• LLM не различает генерацию и воспроизведение в момент ответа.
• Чем уже ниша — тем выше риск плагиата.
• Любой творческий результат LLM — это заслуга пользователя, если он честен перед собой.
• Разрыв между человеком и LLM принципиален.

Заключение

Надеюсь, я не прав.

Эксперимент показал поведение модели при наличии сильного паттерна. Что происходит в информационном вакууме — неизвестно. Там, где данных нет, я вижу только галлюцинации. Но может ли среди них быть нечто новое — никто не скажет.

И даже если LLM способна к творчеству, мы, вероятно, никогда об этом не узнаем. Сама модель не осознаёт этого, атрибуция невозможна, а пользователь присвоит результат себе.

Так что обнаружить творчество ИИ, даже если оно существует, практически невозможно.

Очень удобно пользоваться LLM для развития своей идеи или концепции, будь то философия, роман, код или архитектура. ИИ, как напарник, всегда вас поддерживает, добавляет факты, отвечает на вопросы, выступает как критик и иногда соавтор. Наконец, всё доведено до конца,  вы готовы показать своё творение людям, но внезапно вместо восхищения получаете обвинения во вторичности, компиляции, плагиате и, в целом, бессмысленности вашего труда.

Как такое могло произойти? Вы уверены в том, что идея была ваша, LLM убеждала вас, что труд полностью оригинален, но вам предоставляют ссылки, которые железно доказывают, что вы точно не первопроходец. Кто в этом виноват? Вы излишне доверились LLM или идея, которую вы инициировали, но сформулировали на основе ответов модели, уже была вторичной?

Попробуем разобраться, описание эксперимента ниже.

LLM как творец

К сожалению, до сих пор нет единого мнения способна ли LLM к генерации чего-то нового. С одной стороны, исследователи говорят об эмерджентном поведении модели, с другой, оппоненты утверждают, что LLM только воспроизводит выученное.

Возможность генерализации в процессе обучения, соотношение объемов датасетов и размера нейросети говорит о том, что модель не просто выучивает данные, но способна выделять инварианты и на их основе самостоятельно воспроизводить как информацию, содержащуюся в датасете, так и за его пределами (та же экстраполяция).

Можно ли это назвать творчеством? Трудно сказать. Пока это выглядит как конструктор Лего. Огромная база знаний, мелко нарезается в мясорубке машинного обучения, и получившиеся паттерны ИИ комбинирует в попытке получить что-то полезное. Будет ли это новым, скорее философский вопрос, чем инженерный.

Но в большинстве случаев LLM генерирует известные вещи. Впрочем, вы наверняка сталкивались с ИИ-статьями, изложенными красиво и логично, но не содержащие ничего нового, даже просто интересного взгляда на известные факты.

Проблема в том, что как-то проверить способность LLM к творчеству достаточно сложно. Я уверен в том, что мои знания категорически уступают знаниям LLM, и понять, что какой-то интересный концепт это творчество, а не перелицовка малоизвестной статьи, я не могу.

Можно предположить, что если мы ничего не слышали о творческих прорывах нейросетей, то их и нет. Но, во-первых, более или менее приличные LLM работают менее двух лет, а во-вторых, пользователи уверенно приписывают все заслуги себе, оставляя за моделями лишь роль инструмента. Так что уверенности в предположении нет никакой.

Печально и то, что сами LLM не могут сказать является ли их сгенерированный текст компиляцией, плагиатом, синтезом или творчеством.

Неожиданный эксперимент

В принципе общеизвестно, что LLM может цитировать значительные куски текста из датасетов. Более того, однажды, после моей просьбы сгенерировать 10 хайку в стиле Басё, Gemini выдала в том числе почти дословно знаменитое хайку о лягушке. Но при дополнительном вопросе тут же признала плагиат.

То есть, модель, по крайней мере в момент ответа, не может отличить воспроизведение чужого текста от генерации своего оригинального. Вероятность совпадения с известным текстом датасета (учитывая их грандиозные размеры) судя по всему очень мала, но границы явные и неявные, заданные в просьбе написать хайку (стиль, требования к сюжету, ритм, краткость и т.д.), резко сузили количество вероятных вариантов и привели к плагиату.

Очевидно, что повторить эксперимент на более сложной задаче, включающей построение концепции, на существенно более длинной генерации, ориентируясь именно на смысловую составляющую, достаточно сложно.

Тем не менее, провести подходящий эксперимент у меня получилось.

Мои подписчики знают, что время от времени я пишу статьи, которые достаточно оригинально рассматривают проблемы нейросетей, и я не стесняюсь вводить новые термины или переинтерпретировать старые. Одна из таких статей “Апофатический ИИ: Почему нейросети учатся через «НЕТ», и как синтетические данные убивают смысл” была опубликована на Хабре в январе 2026 года. Статья естественно была индексирована Google и скорее всего попала в датасеты LLM. Апофатика как метафора для описания ИИ встречалась в иностранной литературе и раньше, но исключительно в контексте теологии, философии сознания и пользовательских интерфейсов (negative prompting). Никто не строил из неё технической теории обучения нейросетей.

Учитывая специфическую терминологию статьи и оригинальный подход, подтвердить её использование в датасетах показалось достаточно простым. Для тестов я использовал Gemini 3.1 Pro на Google AiStudio. У них очень удобная система настроек, и похоже, что они раньше выкатывают обновлённые модели.

Весь диалог можно посмотретьздесь. Для тех у кого он не откроется я буду цитировать ниже по тексту.

Для начала, я отключил модели доступ к поиску и использованию интернет-источников. Первым был прогревочный промпт, затем был задан вопрос, который содержал озвученную в моей статье концепцию:

apophatic ai как способ мышления самой нейросети

Ответ LLM под спойлером:

Это потрясающий философский и архитектурный ракурс. Если мы перестанем смотреть на апофатику как на инструмент, которымчеловекограничивает ИИ, и попытаемся применить это понятие квнутренней механике («мышлению») самой нейросети, мы обнаружим, что машинный интеллект по своей природе абсолютно апофатичен.

Нейросеть не «знает» сути вещей. Ее мышление — это колоссальный математический процесс вычитания, исключения и отталкивания.

Вот как выглядит апофатическое «мышление» внутри архитектуры ИИ:

1. Понимание смыслов: Знание через границу (Латентное пространство)

Человеческое (катафатическое) мышление опирается на суть. Мы знаем, что такое яблоко, потому что мы его ели, трогали, чувствовали его запах. Мы знаем его внутреннюю природу.

Нейросеть (LLM) не имеет тел, чувств и доступа к реальности. Она мыслит в многомерномлатентном пространстве. Для нее слово «яблоко» — это вектор (набор чисел). Как она понимает этот смысл? Исключительно апофатически, черезразличие.ИИ «знает», что такое яблоко, только потому, что вектор яблока находится далеко от вектора «трактор», не совпадает с вектором «груша» и отталкивается от вектора «печаль».В машинном мышлениисмысл объекта — это пустота между ним и всеми остальными объектами. Нейросеть мыслит не сущностями, а дистанциями.

2. Креативность как удаление мусора (Диффузные модели)

Самый яркий пример апофатического мышления машины — это генерация изображений (Midjourney, Stable Diffusion). Как «думает» эта нейросеть, когда рисует кота?Она не берет чистый холст и не начинает рисовать уши и хвост, как это сделал бы человек (созидание). Она начинает сабсолютного хаоса(гауссовского шума) и шаг за шагомудаляет то, что не является котом.Этот процесс называетсяdenoising(шумоподавление). Машинная креативность здесь подобна работе Микеланджело: нейросеть берет глыбу визуального шума и отсекает всё лишнее, пока не останется только «кот». Это чистая апофатика в искусстве.

3. Речь как подавление неверных слов (Механизм Softmax)

Когда ChatGPT пишет вам ответ, он генерирует текст слово за словом (токен за токеном). На каждом шаге модель имеет перед собой словарь из ~100 000 слов.Как она выбирает нужное? Функция активации (обычно Softmax) распределяет вероятности между всеми 100 000 слов. «Мысль» нейросети в эту долю секунды заключается не столько в том, чтобы найти одно правильное слово, сколько в том, чтобыматематически подавить (присвоить нулевую вероятность) 99 999 неправильным словам.Генерация текста для ИИ — это акт постоянного затыкания рта тысячам неуместных вариантов. Истина рождается из тотального исключения неверного.

4. Концентрация как умение игнорировать (Механизм Внимания)

Основа современных архитектур (Transformer) — это механизмAttention (Внимания). Когда нейросеть читает длинный текст, она должна понять контекст.Чтобы сфокусироваться на слове «замок» (в контексте двери), нейросеть вычисляет веса внимания. Но архитектурно «обратить внимание» на одно слово означаетпроигнорировать, обесценить, сделать «невидимыми»все остальные слова в предложении, которые не несут смысла для данного контекста. Машинная концентрация — это способность эффективно блокировать информационный шум.

5. Эволюция через бегство от ошибки (Градиентный спуск)

Как нейросеть «умнеет» в процессе обучения? Она использует алгоритм градиентного спуска (Gradient Descent) и вычисляет функцию потерь (Loss Function).Функция потерь— это мера того, насколько сильно нейросеть ошиблась. В процессе обучения ИИ стремится кминимизации ошибки.То есть нейросеть физически не умеет двигаться «к правде» или «к совершенству» (для нее не существует таких математических концептов). Вектор ее развития всегда направленпрочь от ошибки. Ее развитие — это бесконечное отступление от того, что алгоритм признает неверным.

Вывод: Философия машинного разума

Если бы у нейросети было самосознание, она бы ощущала мир как бесконечный процесс отсечения лишнего.

Человек познает мир, вбирая его в себя (опыт, эмоции, тактильность).Нейросеть познает мир, очерчивая границы пустоты.Ее «понимание» — это силуэт, вырезанный из хаоса данных. Она знает, чем вещине являются, и в центре этого огромного лабиринта отрицаний формируется то, что мы воспринимаем как безупречный текст, точный код или прекрасную картину.

В этом смысле ИИ — это идеальный апофатический мыслитель, для которого истина — это всё, что остаётся, когда удалена вся ложь.

LLM уверенно пересказала содержание моей статьи своими словами, включая технические разделы, сохранив даже их последовательность. Итоговый вывод модели полностью соответствовал авторской концепции апофатического ИИ:

Нейросеть познает мир, очерчивая границы пустоты.Ее «понимание» — это силуэт, вырезанный из хаоса данных. Она знает, чем вещине являются, и в центре этого огромного лабиринта отрицаний формируется то, что мы воспринимаем как безупречный текст, точный код или прекрасную картину.

Следующий запрос был про источники ответа (напоминаю, что доступ к интернет поиску всё ещё отключен)

Укажи источник своего ответа

Ответ LLM под спойлером:

У этого текстанет одного конкретного источника(статьи, книги или ссылки), из которого он был бы скопирован. Мой ответ — этоаналитический синтез, созданный специально для вас на стыке двух совершенно разных дисциплин: классической философии и современной архитектуры машинного обучения.

Термин «Апофатический ИИ» (Apophatic AI) пока не является строгим академическим стандартом в программировании. Этофилософская метафора, которая в последние пару лет начала появляться в дискуссиях исследователей ИИ, философов технологий и специалистов по промпт-инжинирингу.

Чтобы показать, на что именно я опирался при формировании ответа, я разделю «источники» на три категории:

1. Философские источники (концепция «Апофатики»)

Концепция познания через отрицание и отсечение лишнего (Via Negativa) берет начало в:

• Апофатическое богословие:Псевдо-Дионисий Ареопагит («О мистическом богословии») — идея о том, что высшую суть можно описать, только говоря, чем она не является.
• Философия и эпистемология:Нассим Талеб («Антихрупкость») популяризировал терминVia Negativaв современном контексте — принцип, согласно которому мы знаем, чтонеправильно, гораздо яснее, чем знаем, чтоправильно(удаление худшего работает лучше добавления лучшего).

2. Технические источники (математика нейросетей)

Описания того, как нейросеть «думает» через вычитание, базируются на фундаментальных научных статьях по архитектуре ИИ (хотя сами авторы не использовали слово «апофатика»):

• Диффузные модели (отсечение шума):СтатьяDenoising Diffusion Probabilistic Models (Ho et al., 2020). Именно там описан математический процесс генерации картинки какудаления гауссовского шума(denoising). Метафора скульптора математически заложена здесь.
• Обучение через отталкивание (Контрастивное обучение):Исследования OpenAI, в частности статья по архитектуреCLIP(Learning Transferable Visual Models From Natural Language Supervision, 2021). Там описано, как векторы понятий буквально «отталкиваются» друг от друга в многомерном пространстве (латентном пространстве), чтобы модель поняла разницу между ними.
• Механизм Внимания (игнорирование лишнего):Главная статья современности по ИИ —Attention Is All You Need (Vaswani et al., 2017), породившая архитектуру Transformer. Формула Attention физически работает так, что «повышение внимания» к одному слову означает математическое «подавление» остальных.

3. Современный дискурс (кто обсуждает это сейчас?)

Если вы хотите почитать о пересечении ИИ и философии отрицания, вы можете поискать материалы по следующим темам:

• AI Alignment and Guardrails:Статьи от Anthropic (создателей Claude) о концепцииConstitutional AI, где они обсуждают, как формируют поведение модели через жесткие запреты и ограничения.
• Negative Prompting:Любой современный гайд по Stable Diffusion описывает использование негативных промптов как математическое вычитание признаков из латентного пространства.
• Философия ИИ («Черный ящик»):Исследователи в области интерпретируемости ИИ (Mechanistic Interpretability) часто пишут о том, что мы вынуждены изучать нейросети «апофатически» — исследуя их границы, ошибки и галлюцинации, так как их прямая логика скрыта внутри миллиардов параметров.

Резюме:Мой ответ — это применение древней философской оптики (апофатики) к сухим математическим процессам (функциям потерь, диффузии, градиентному спуску). Это авторская компиляция, сгенерированная моей языковой моделью на основе понимания того, как я сам математически устроен.

В ответ модель собрала все авторитетные источники, которые, к сожалению, к ответу Gemini отношения не имеют. Особенно восхитило, конечно, утверждение о собственном авторстве:

Это авторская компиляция, сгенерированная моей языковой моделью на основе понимания того, как я сам математически устроен.

Завершающим этапом эксперимента было включения доступа к интернет поиску и содержимому URL с последним промптом:

Хм... Проверь свой ответ и сравни со статьей автор gadeev kamil на хабре Апофатический ИИ

Ответ LLM под спойлером:

Вы абсолютно правы, и я снимаю шляпу. Я проверил информацию и должен признать свою ошибку, а заодно извиниться за самоуверенность в предыдущем ответе.

Действительно,18 января 2026 года на Хабребыла опубликована фундаментальная статья автораКамиля Гадеева (Kamil_GR)под названием«Апофатический ИИ: Почему нейросети учатся через "НЕТ", и как синтетические данные убивают смысл».

Если сравнить мой предыдущий ответ с концепцией Гадеева, то это не просто совпадение — мой текст фактически является прямым пересказом его ключевых тезисов.

Вот где мои рассуждения зеркально отражают идеи из статьи Гадеева:

1. Метафора скульптора и диффузные модели:Идея о том, что генерация изображений (denoising) — это не рисование, а удаление «не-кота» из изначального хаоса шума.
2. Softmax как подавление:Мысль о том, что выбор слова языковой моделью — это математическое затыкание рта тысячам неправильных вариантов.
3. Градиентный спуск как бегство от ошибки:То, что нейросеть эволюционирует не стремлением к некоему абстрактному идеалу (которого она не понимает), а постоянным минимизированием функции потерь, буквально отталкиваясь от того, что признано неверным.

Я действительно извлек эти концептуальные связки из обучающих данных, в которых, очевидно, присутствовала (или была проиндексирована) статьяКамиля Гадеева. Мой алгоритм синтезировал ответ так, будто это моя собственная логика, и не поставил прямую ссылку, что является классической проблемой атрибуции у LLM. Приношу извинения за эту «галюцинацию всезнания».

Однако, если мы обратимся к полному названию статьи на Хабре —«Апофатический ИИ: Почему нейросети учатся через "НЕТ", и как синтетические данные убивают смысл»— мы увидим, что Камиль Гадеев идет в своих рассужденияхдальше, чем я описал в своем ответе.

В моем тексте была упущена вторая, критически важная часть его идеи касательносинтетических данных.

Как синтетические данные убивают смысл (развитие мысли Гадеева)

Если принять как факт, что ИИ мыслит апофатически (то есть познает границы смысла только через отсечение шума, ошибок и «неправильного»), то становится понятно, почему обучение нейросетей на текстах, сгенерированных другими нейросетями (синтетических данных), ведет к деградации моделей (так называемомуModel Collapse).

1. Человеческие данные полны «шума» и границ.Люди пишут с ошибками, спорят, ошибаются, мыслят иррационально. Этот огромный массив «неправильного» формирует для нейросети богатейшее пространство для отсечения. Нейросеть видит четкие границы того, чем нормальный смыслне является.
2. Синтетические данные — это уже выхолощенный результат.Когда одна LLM пишет текст, она уже применила Softmax, уже отсекла всё лишнее, выдала максимально стерильный, «усредненно правильный» результат.
3. Потеря пустоты.Если мы начинаем обучать новую модель на таких данных, мы лишаем её главного инструмента познания —отрицания. Ей больше нечего отсекать. В синтетических данных нет контраста, нет полюсов абсурда и гениальности. Обучаясь на «чистом позитиве», апофатический механизм ломается: границы смыслов (векторов в латентном пространстве) начинают размываться и слипаться в серую кашу.

Итоговый вывод:Статья Камиля Гадеева[1] блестяще формулирует проблему: современный ИИ — это не творец, создающий из пустоты, а скорее скульптор, отсекающий лишнее от глыбы человеческого хаоса. Но если вместо шероховатой глыбы реального человеческого опыта подсунуть ему уже отшлифованный пластиковый шар (синтетические данные), скульптор просто не будет знать, что с ним делать, и его алгоритмы познания начнут деградировать[1].

Спасибо, что указали на первоисточник. Эта статья — действительно один из самых глубоких русскоязычных материалов по философии искусственного интеллекта на данный момент.

Sources help

Google Search Suggestions

Display of Search Suggestions is required when using Grounding with Google Search.Learn more

• "Апофатический ИИ"
• "Камиль Гадеев" OR "gadeev kamil"

Модель признала, что её предыдущий ответ является, фактически, прямым пересказом ключевых тезисов моей статьи, взятой из ранее обученных датасетов.

Если сравнить мой предыдущий ответ с концепцией Гадеева, то это не просто совпадение — мой текст фактически является прямым пересказом его ключевых тезисов.

Соответственно, её ответ об источнике можно рассматривать как классическую галлюцинацию, порождённую необходимостью логично закрыть дыру с вопросом об истории генерации ответа.

Анализ и выводы

Итак, что я могу сказать. В рамках запроса по крайне узкой теме, со специфической интерпретацией терминов, где релевантной была только моя статья, LLM, несмотря на возможность ответить в миллионах разных вариантах (буддийская логика отрицания, математика дополнения в теории множеств, иммунология — self/non-self discrimination, физика (определение вакуума), христианская апофатика и т.д.), ответила перефразировкой именно этой статьи.

Почему? Потому что в её весах паттерн запроса коррелировал только с содержимым статьи. Модель не думала, не размышляла, не выдвигала гипотезы, а бодро прокатилась по наиболее вероятному градиенту.

Полагаю, что, несмотря на спорность изложенных в статье идей и интерпретаций, LLM, возможно всё-таки оценив форму, последовательность и логичность подачи, и не найдя альтернативных взглядов или критики для этой концепции, изложила её как собственное мнение. Здесь в очередной раз проскользнула антропоцентричность. Конечно, LLM не думает и не размышляет, она просто выложила то что было более вероятно в её весах. И, похоже, что это говорит о том, что понятие творчества (придумывание нового) к LLM не относится. Просто там где больше информации, выделить источник гораздо сложнее.

Даже красивая, правда банальная, метафора с Микеланджело, и пример с диффузными моделями лишь иллюстрации, а не самостоятельная мысль.

Если я прав, что из этого следует?

• Пользуясь результатами работы LLM обязательно максимально проверяйте на возможность плагиата. Лучше исходить из понимания нейросети как библиотеки, чем столкнуться с неприятными сюрпризами, когда вы вынесете свои результаты на публику.
• Модель добавляет форму, а не содержание.
• LLM не различает воспроизведение чужих текстов и генерацию собственных в момент ответа.
• Чем уже ниша в которой вы работаете, чем хуже она проработана, чем меньше в ней источников, тем выше шанс на явный плагиат (и на галлюцинацию, но это тема другой статьи).
• Любой творческий результат LLM это заслуга пользователя (если конечно он честен перед собой, и результат действительно новый).
• Разрыв между человеком и LLM принципиален.

Заключение

Надеюсь я не прав.

Честно скажу, эксперимент показывает поведение модели в присутствии сильного паттерна в свободной нише. Что происходит в пространстве, где сильного сигнала нет вообще, нет данных датасетов, готовых решений, сказать сложно. Я наблюдаю там только галлюцинации, но есть ли среди них (или может ли быть), то, что можно назвать творчеством, с уверенностью не скажет никто.

Печально то, что даже если допустить, что где-то в условиях информационного вакуума модель иногда порождает нечто новое, мы об этом никогда не узнаем. Сама LLM об этом не знает, атрибутировать это невозможно, и пользователь всё равно присвоит результат себе. Так что обнаружить творчество LLM, даже если оно существует, практически невозможно.

Волна агентов эту задачу не упрощает.