ХЕЛЕНА, Монт. (AP) — Цитата от губернатора Вайоминга и местного прокурора были первыми вещами, которые показались немного странными репортеру Powell Tribune CJ Baker. Затем, это были некоторые фразы в историях, которые показались ему почти роботизированными.

Однако явным признаком того, что репортер из конкурирующего новостного агентства использовал генеративный искусственный интеллект, чтобы помочь писать свои истории, стало сообщение 26 июня о том, что комик Ларри кабельщик был выбран главным маршалом парада Cody Stampede.

“Парад Cody Stampede 2024 обещает быть незабываемым празднованием американской независимости, возглавляемым одним из самых любимых комиков,” сообщило издание Cody Enterprise. “Эта структура обеспечивает то, что наиболее важная информация представлена первой, что облегчает читателям быстро понять основные моменты.”

После проведения некоторых расследований, Бейкер, который является репортером уже более 15 лет, встретился с 40-летним Аароном Пелцаром, который недавно начал заниматься журналистикой и который, по словам Бейкера, признался, что использовал ИИ в своих историях до того, как ушел из Enterprise.

Издатель и редактор издания Enterprise, которое было основано в 1899 году Буффало Биллом Коди, впоследствии извинились и пообещали принять меры, чтобы это больше не повторилось. В опубликованной в понедельник статье редактора Enterprise Криса Бэкона он признал, что “не заметил” фальшивые цитаты и тексты, созданные с помощью ИИ.

“Не имеет значения, что фальшивые цитаты были оценены как ошибка начинающего репортера, полагавшегося на ИИ. Это была моя работа,” писал Бэкон. Он извинился, что “ИИ позволил вносить в тексты слова, которые никогда не произносились.”

Журналисты давно нижали свои карьеры, выдумывая цитаты или факты в историях задолго до появления ИИ. Но этот последний скандал иллюстрирует потенциальные подводные камни и опасности, которые ИИ представляет для многих отраслей, в том числе для журналистики, поскольку чатботы могут выводить недостоверные, но вполне правдоподобные статьи всего с несколькими подсказками.

ИИ нашел свое место в журналистике, включая автоматизацию некоторых задач. Некоторые редакции новостей, включая The Associated Press, используют ИИ для освобождения репортеров для более значимой работы, но большинству сотрудников AP не разрешается использовать генеративный ИИ для создания публикуемого контента.

АР использовал технологию для помощи в статьях о финансовых отчетах с 2014 года, а недавно также для некоторых спортивных историй. Также ведется эксперимент с ИИ-инструментом для перевода некоторых историй с английского на испанский язык. В конце каждой такой статьи есть примечание, которое объясняет роль технологии в ее создании.

Открытость в использовании ИИ оказалась важной. Sports Illustrated был критикован в прошлом году за публикацию онлайн-обзоров продуктов, сгенерированных ИИ, которые были представлены как написанные репортерами, которых фактически не существовало. После раскрытия этой истории SI заявил, что увольняет компанию, которая производила статьи для своего сайта, но случившееся ущербно повлияло на репутацию этого когда-то мощного издания.

В своей истории для Powell Tribune, в которой он разоблачил использование Пелцаром ИИ в статьях, Бейкер написал, что провел довольно неприятное, но корректное собеседование с Пелцаром и Бэконом. Во время встречи Пелцар сказал: “Очевидно, что я никогда не намеревался умышленно искажать цитаты кого-либо” и пообещал “исправить их и извиниться, заявив, что это неточности,” написал Бейкер, отметив, что Пелцар настаивал на том, что его ошибки не должны отражаться на его редакторов из Cody Enterprise.

После встречи Enterprise начал полный пересмотр всех статей, написанных Пелцаром для газеты за два месяца, в течение которых он работал там. По словам Бэкона, было обнаружено семь статей, включающих фальшивые цитаты, сгенерированные ИИ, от шести человек. Он все еще рассматривает другие статьи.

“Эти цитаты абсолютно правдоподобны,” сказал Бэкон, отметив, что люди, с которыми он говорил во время проверки статей Пелцара, сказали, что цитаты звучат так, как они бы говорили, но они фактически никогда не разговаривали с Пелцаром.

Бейкер передал информацию, что семь человек сказали ему, что их цитировали в статьях, написанных Пелцаром, но они никогда не разговаривали с ним.

Пелцар не ответил на сообщение от AP, оставленное на указанном им номере, с просьбой обсудить произошедшее. Бэкон сказал, что Пелцар отказался обсуждать дело с другой газетой из Вайоминга, которая обратилась к нему.

Бейкер, который регулярно читает Enterprise как конкурента, рассказал AP, что сочетание фраз и цитат в статьях Пелцара вызвало его подозрения.

История Пелцара о стрельбе в парке Йеллоустоун включала в себя предложение: “Этот инцидент служит ярким напоминанием о непредсказуемой природе человеческого поведения, даже в самых спокойных местах.”

Бейкер сказал, что эта фраза звучит как резюме своих историй, генерируемое определенным чатботом, поскольку она добавляет какой-то “жизненный урок” в конце.

Другая история — о наказании за браконьерство — включала цитаты от сотрудника охраны природы и прокурора, которые звучали так, будто бы они были взяты из пресс-релиза, сказал Бейкер. Однако не было пресс-релиза, и указанные агентства не знали, откуда взяты цитаты, сказал он.

В двух спорных статьях были фальшивые цитаты губернатора Вайоминга Марка Гордона, о которых его сотрудники узнали только тогда, когда их позвонил Бейкер.

“В одном случае (Пелцар) написал статью о новом правиле ОША, включив в нее цитату от Губернатора, которая была полностью выдумана,” — написал Майкл Перлмен, пресс-секретарь губернатора, в электронной почте. “Во втором случае он, по-видимому, выдумал часть цитаты, а затем соединил ее с частью цитаты, которая была включена в пресс-релиз, объявляющий нового директора нашего Управления по охоте и рыболовству штата Вайоминг.”

Наиболее очевидный пример ИИ-созданного текста был в статье о Ларри кабельщике, которая завершилась объяснением обратной пирамиды, основного подхода к написанию свежей новостной истории.

Создать статьи с помощью ИИ несложно. Пользователи могут подать протокол уголовного дела в программу ИИ и попросить ее написать статью об этом случае, включая цитаты от местных чиновников, сказал Алекс Махадеван, директора проекта по цифровой грамотности в Институте Пойнтер, известном журналистском институте.

“Эти генеративные ИИ-чатботы программируются давать вам ответ, без разницы, является ли этот ответ полным мусором или нет,” — сказал Махадеван.

Меган Бартон, издатель Cody Enterprise, написала редакционную статью, называя ИИ “новой, передовой формой плагиата, а в области медиа и письма, плагиат — это что-то, с чем каждое медиаимущество когда-либо приходилось сталкиваться. Это неприятная часть работы. Но компания, готовая исправить (или буквально написать) эти ошибки, — это уважаемая компания.”

Бартон написала, что газета извлекла урок, у нее есть система, позволяющая распознавать ИИ-генерируемые статьи и будет “вести более длительные разговоры о том, что ИИ-сгенерированные истории не допустимы.”

У Enterprise не было политики в области ИИ, в частности потому, что казалось очевидным, что журналисты не должны использовать его для написания статей, сказал Бэкон. У Пойнтер есть шаблон, на основе которого новостные издания могут разработать собственную политику ИИ.

Бэкон планирует ввести ее к концу недели.

“Это станет темой обсуждения перед приемом на работу,” — сказал он.