Известный журнал научной фантастики и фэнтези Clarkesworld объявил, что приостановит отправку материалов из-за потока спама с использованием искусственного интеллекта. Это не единственное место, где публикуются истории, созданные искусственным интеллектом.
Короткий рассказ под названием «Последняя надежда» впервые попал на стол Шейлы Уильямс в начале января. Уильямс, редактор журнала Asimov’s Science Fiction, просмотрел историю и отложила ее.
Сначала она не обратила на рассказ особого внимания; в рамках своей работы она ежедневно читает присланное писателями и отвечает им, получая от 700 до 750 рассказов в месяц. Но когда через пару недель появился еще один рассказ, также названный «Последняя надежда», написанный писателем под другим именем, Уильямс заподозрил неладное. К тому времени, когда через несколько дней подоспела еще одна «Последняя надежда», Уильямс уже поняла, что у нее проблемы.
«Это похоже на верхушку айсберга», — говорит Уильямс.
С момента первого послания Уильямс получил более 20 рассказов под названием «Последняя надежда», каждый из которых был написан разными авторами и пришел с разных адресов электронной почты. Уильямс считает, что все они были сгенерированы с использованием инструментов искусственного интеллекта, наряду с сотнями других подобных материалов, которые в последние месяцы ошеломили мелких издателей.
В январе Asimov’s получил на рассмотрение около 900 историй и в этом месяце должен получить 1000. Уильямс говорит, что почти все увеличение можно отнести на счет произведений, которые, по-видимому, были созданы искусственным интеллектом, и она прочитала так много, что теперь часто может сказать с первых нескольких слов, может ли это быть написано не человеком.
Иногда они даже не удосужились заменить «[имя]» в письме своим
По словам Уильямс, помимо повторяющихся названий, есть определенные часто повторяющиеся имена персонажей. Иногда рукопись будет содержать название, отличное от указанного в онлайн-форме. Имена авторов часто представляют собой произвольное сочетание имени и фамилии. В необязательных сопроводительных письмах некоторые авторы включают инструкции о том, как перевести им деньги за их работу, которая еще не была принята. Иногда отправитель даже не удосужился заменить «[имя]» своим.
Используя ChatGPT, The Verge удалось воспроизвести некоторые элементы материалов, которые видела Уильямс. Предложение написать короткий научно-фантастический рассказ — плюс скопированная и вставленная информация из инструкций Asimov’s по подаче заявок — привело к созданию рассказов с десятками похожих названий подряд, таких как «Последнее эхо», «Последнее сообщение», «Последний день смерти», «Последняя осень», «Последний путешественник».
Уильямс и ее команда научились распознавать работы, созданные ИИ, но поток заявок все равно впечатляет. Такие издания, как Asimov’s, перегружены любителями ИИ, отнимающими время у редакторов и читателей и потенциально вытесняющими подлинные материалы от новых писателей. И проблема может только усугубиться, поскольку более широкая доступность пишущих ботов создает новый жанр схем быстрого обогащения, когда литературные журналы с открытыми материалами обнаруживают, что становятся приёмниками спам-сообщений от пытающихся обмануть систему.
«Я просто просматриваю их так быстро, как только могу», — говорит Уильямс о фрагментах, которые, как она подозревает, созданы искусственным интеллектом. «Столько же времени уходит на то, чтобы скачать материал, открыть его и просмотреть. И я лучше потрачу это время на законные материалы».
Некоторых редакторов поток материалов, созданных ИИ, вынудил прекратить принимать новые работы.
Кларк считает, что материалы исходят от влиятельных лиц и веб-сайтов
На прошлой неделе популярный научно-фантастический журнал Clarkesworld объявил , что временно закрывает прием заявок из-за потока работ, созданных искусственным интеллектом. В более раннем сообщении в блоге редактор Нил Кларк отметил, что журнал был вынужден заблокировать резко возросшее количество авторов, потому что они представили истории, созданные с помощью автоматизированных инструментов. По словам Кларка, только в феврале Clarkesworld получил 700 заявок, написанных людьми, и 500 историй, созданных машинами.
Кларк считает, что спам исходит от людей, которые хотят быстро заработать и нашли Clarkesworld и других публикаторов через инфлюенсеров и веб-сайты. Один веб-сайт, например, загружен статьями-приманками SEO и ключевыми словами о маркетинге, писательстве и бизнесе и обещает помочь читателям быстро заработать деньги. В статье на сайте перечислены почти два десятка литературных журналов и веб-сайтов, в том числе Clarkesworld и Asimov’s, а также более крупные издания, такие как BBC, с указанием ставок и сведений о подаче заявок. Статья призывает читателей использовать инструменты ИИ, чтобы помочь им, и включает ссылки на партнерский маркетинг Jasper, программное обеспечение для написания рассказов.
Большинство изданий платят небольшую плату за слово, от 8 до 10 центов, в то время как другие платят фиксированную плату в размере до нескольких сотен долларов за принятые работы. В своем блоге Кларк написал, что «высокий процент мошеннических материалов» поступает из некоторых регионов, но отказался назвать их, опасаясь, что это может представить писателей из этих стран как мошенников.
Но возможность получения оплаты является фактором: в некоторых случаях Кларк переписывался с людьми, которые были забанены за отправку работ, созданных ИИ, говоря, что им нужны деньги. Другой редактор сказал The Verge, что даже до появления историй, созданных ИИ, они получали заявки и электронные письма от писателей из стран, где стоимость жизни ниже, а плата за публикацию в размере 80 долларов ценится намного больше, чем в США.
Кларк, разработавший систему отправки, которую использует его журнал, охарактеризовал усилия спамеров с помощью ИИ как «неэлегантные» — сравнив заметки с другими редакторами, Кларк смог увидеть, что одна и та же работа отправляется с одного и того же IP-адреса в несколько изданий. с интервалом в несколько минут, часто в том порядке, в котором журналы появляются в списках.
«Если бы это были люди из сообщества [фантастов и фэнтези], они бы знали, что это не сработает. Им будет сразу очевидно, что они не могут этого сделать и ожидать, что это сработает», — говорит Кларк.
Проблема выходит за рамки научно-фантастических и фэнтезийных изданий. Flash Fiction Online поддерживает множество жанров, включая ужасы и художественную литературу. 14 февраля издание добавило уведомление к своей форме подачи: «Мы стремимся публиковать истории, написанные и отредактированные людьми. Мы оставляем за собой право отклонить любую заявку, которая, как мы подозреваем, изначально сгенерирована или создана программным обеспечением языкового моделирования, ChatGPT, чат-ботами или любыми другими приложениями, ботами или программным обеспечением ИИ».
Обновленные термины были добавлены примерно в то время, когда FFO получила более 30 материалов из одного источника в течение нескольких дней, говорит Анна Йейттс, издатель и главный соредактор. Каждая история содержала клише, которые Йейттс видела в работах, созданных ИИ, и у каждой было уникальное сопроводительное письмо, структурированное и написанное не так, как обычно. Но Йейттс и её коллеги с января подозревали, что некоторые работы, которые им прислали, были созданы с использованием инструментов искусственного интеллекта.
Йейттс начала экспериментировать с ChatGPT в декабре, передавая инструменту подсказки для создания историй в определенных жанрах или стилях, таких как готический роман. Система смогла воспроизвести технические элементы, в том числе определение главных героев, сеттинг и введение конфликта, но не смогла создать какой-либо «глубокой точки зрения» — концовки были слишком аккуратными и идеальными, а эмоции часто выливались в мелодраму. У всех «пронзительные зеленые глаза», и истории часто начинаются с того, что персонажи сидят. По оценкам Йейттс, из более чем 1000 работ, полученных FFO в этом году, около 5%, вероятно, были созданы с помощью ИИ.
«Мы поместили наше строгое небольшое предупреждение [на странице представленных материалов]», — говорит Йейттс. Однако его соблюдение может оказаться сложной задачей.
В прошлом FFO публиковал основные работы с более традиционным стилем письма и тоном, доступным для разных уровней чтения. Однако Йейттс говорит, что истории, созданные с помощью инструментов ИИ, могут превзойти базовые требования.
«В текстах есть все части истории, которые вы пытаетесь найти. Есть начало, середина и конец и грамматика безукоризненна», — говорит Йейттс. Команда FFO работает над тем, чтобы научить штатных редакторов искать определенные элементы истории, когда они в первый раз прочитывают представленные материалы.
«У нас действительно нет хороших решений»
Йейттс обеспокоена тем, что растущая волна работ, созданных с помощью ИИ, может буквально парализовать издательскую работу. Как выход используется Submittable, популярная служба отправки, и план FFO, который включает ежемесячное ограничение на количество историй, после чего портал закрывается. Если сотни людей пришлют недопустимые работы, созданные ИИ, это может помешать авторам-людям присылать свои истории.
Йейттс не уверена, что журнал может сделать всё, чтобы предотвратить появление историй, написанных ИИ. Модернизация плана Submittable дорого обойдется компании FFO, у которой, по словам Йейттс, «бюджет ограничен».
«Мы говорили о привлечении историй от других авторов, но это также не совсем соответствует тому, кем мы являемся как издание, потому что это отпугнет новых писателей», — говорит Йейттс. «У нас действительно нет хороших решений».
Другие члены сообщества следят за проблемой, которая захлестнула других издателей, и продумывают способы реагирования, прежде чем она распространится дальше. Мэтью Крессел, писатель-фантаст и создатель Moksha, онлайн-системы отправки, используемой десятками изданий, говорит, что начал получать сообщения от клиентов, которые получали спам-заявки, которые, по-видимому, были написаны с использованием инструментов ИИ.
Крессель говорит, что хочет, чтобы Moksha оставалась «независимой», когда речь заходит о ценности материалов, созданных с помощью чат-ботов. По словам Крессела, у издателей есть возможность добавить флажок, с помощью которого авторы могут подтвердить, что в их работе не используются системы ИИ, и они рассматривают возможность добавления опции для публикаций, которая позволила бы им блокировать или частично ограничивать отправку материалов с помощью инструментов ИИ.
«Позволить авторам подтверждать, создана ли работа с помощью ИИ, — это хороший первый шаг», — ответил Крессель The Verge по электронной почте. «Это обеспечивает большую прозрачность всего этого, потому что сейчас много неопределенностей».
Для Уильямс, редактора Asimov’s, вынужденной использовать свое время для просеивания груды мусора, созданной ИИ, это звучит разочаровывающе. Но еще больше беспокоит её то, что законные новые авторы могут увидеть, что происходит, и подумать, что редакторы никогда не доберутся до их рукописи.
«Я не хочу, чтобы писатели беспокоились о том, что я пропущу их работу из-за того, что завалена мусором», — говорит Уильямс. Хорошие истории выявляются сразу. «Так что человеческий разум, создающий интересные истории, вне опасности»
