Футурологи давно предупреждают о «текстпокалипсисе» — ситуации, когда Интернет будет наводнен текстами, сгенерированными искусственным интилектом, и они будут использоваться для обучения нового ИИ генерировать еще больше текста. Кажется, что будущее уже почти здесь.
Исследователи из NewsGuard выявили почти 50 веб-сайтов, содержащих ИИ-инструменты, которые публикуют недостоверную или абсолютно фейковую информацию. Настоящая проблема, однако, заключается не в самой ложной информации, а в том, что такие сайты маскируются под новостные агентства, используя общие названия, такие как Daily Business Post, и притворяясь надежным игроком на медиарынке.
Например, скандальный веб-сайт, сообщающий о «смертях» знаменитостей, 2 апреля опубликовал статью, в которой говорилось, что президент Джо Байден «мирно скончался во сне», а Камала Харрис сменила этот пост. Статья была удалена, так как ее неточность была слишком очевидной, но кеш текста можно найти.
Подавляющее большинство таких веб-сайтов представляют собой не что иное, как фермы контента на основе ИИ – они генерируют некачественные тексты, наполненные ключевыми словами для привлечения доходов от рекламы.
Большинство таких контент-ферм приносят низкую или нулевую прибыль. Однако солидная часть из них запускает программную рекламу — это означает, что ИИ автоматически покупает и продает места для рекламы, а это означает, что владелец таких сайтов получает источник пассивного дохода. Также некоторые компании практикуют «гостевую публикацию», что означает, что они платят деньги таким контент-фермам за упоминание их имени, чтобы повысить свой поисковый рейтинг.
Гордон Кровиц, известный американский журналист и эксперт по крупным технологиям, как сообщается, сказал, что «использование моделей искусственного интеллекта, известных тем, что они выдумывают факты, для создания того, что только выглядит как новостные веб-сайты, является мошенничеством, маскирующимся под журналистику».
Исследователей также беспокоит тот факт, что такие инструменты для создания контента становятся практически бесплатными. Ноа Гиансиракуса, адъюнкт-профессор науки о данных и математики в Университете Бентли, был процитирован в СМИ, что фальшивые новости для рекламы раньше были «низкооплачиваемой схемой», и преступникам приходилось вкладывать по крайней мере некоторые ресурсы, чтобы совершить это преступление – как минимум, платить регулярную зарплату недоучившимся из медиашкол. Теперь все, что им нужно, это компьютер, подключенный к Интернету.