ICLR отклонила почти 500 статей из-за подозрений в использовании ИИ при написании рецензий

ICLR отклонила почти 500 статей из-за подозрений в использовании ИИ при написании рецензий

Одна из самых уважаемых AI-конференций, ICLR, отклонила 497 статей из-за использования авторами ИИ при написании рецензий на чужие работы. Однако, как выяснилось, детекторы ИИ, используемые для обнаружения таких случаев, не так эффективны, как кажется. Они могут быть обмануты с помощью простых промптов и не отличают тексты, написанные людьми с английским как вторым языком.

Проблема детекторов ИИ

Детекторы ИИ работают на основе статистических паттернов языка, которые свойственны ИИ-сгенерированному тексту. Однако это не означает, что они могут точно определить, написал ли текст человек или ИИ.

Обход детекторов ИИ

Существуют способы обхода детекторов ИИ, такие как использование промптов, которые делают текст более похожим на написанный человеком. Кроме того, детекторы ИИ могут клеймить как ИИ тексты, написанные людьми с английским как вторым языком.

Вывод

Использование детекторов ИИ как инструмент массового отсева работ методологически некорректно. Есть высокая вероятность одновременно пропустить настоящих нарушителей и наказать невиновных. Поэтому важно быть осторожным при использовании детекторов ИИ и не принимать решения только на основе их вердикта.

Читать оригинал