Фантомные бестселлеры и поддельные авторы: как ИИ портит не только факты, но и доверие к литературе

С ростом популярности генеративного искусственного интеллекта у библиотекарей США появилась новая головная боль — посетители всё чаще просят найти книги, которых никогда не существовало. Эти фантомные издания стали результатом ошибок ИИ, а тренд набрал силу после выхода GPT-3.5 в конце 2022 года.

Когда галлюцинации стали заметны

Первые жалобы начали поступать ещё весной, но настоящая волна пришлась на лето, когда люди приходили в библиотеки с запросами на "новинки" от реальных авторов, которых не выпускали. Дополнительный толчок проблеме дали подборки для летнего чтения в Chicago Sun-Times и The Philadelphia Inquirer. Журналисты признались: они использовали ИИ для составления списков, не проверяя достоверность.

"К нам приходили люди в библиотеку и спрашивали об этих авторах. Это действительно очень раздражает и серьёзно отбрасывает нас назад в плане информационной грамотности сообщества", — рассказал один из сотрудников учреждения.

Как меняется роль библиотекаря

ИИ влияет не только на каталоги, но и на отношения с посетителями. По словам исполнительного директора проекта "Library Freedom" Элисон Макриной, люди начинают больше доверять чат-ботам, чем живым специалистам, и даже в онлайн-чатах общаются с библиотекарями так, будто те — роботы.

"Библиотекари сообщают об общей атмосфере замешательства и недоверия, которую они испытывают со стороны своих читателей", — отметила она.

Это приводит к снижению критического мышления у пользователей и росту тревожности. Некоторые библиотекари рассказывают, что стали чаще сталкиваться с психическими трудностями посетителей, вызванными избыточной верой в ИИ.

Сравнение: как ИИ влияет на библиотечные процессы

Советы шаг за шагом: что делать библиотекарю

1. Всегда проверяйте подозрительные названия сначала в локальном каталоге, затем — в WorldCat.

2. Уточняйте у читателя, где именно он встретил упоминание книги. Это помогает отсеять выдумки ИИ.

3. Объясняйте посетителям, как отличить настоящую публикацию от поддельной.

4. Сотрудничайте с поставщиками цифровых книг (OverDrive, Hoopla, CloudLibrary), чтобы своевременно удалять ИИ-издания.

5. Проводите лекции по медиаграмотности для читателей: рассказывайте, что такое "галлюцинации ИИ" и почему важно проверять источники.

Ошибка → Последствие → Альтернатива

• Ошибка: полное доверие спискам книг, составленным ИИ.

• Последствие: пустые поиски и разочарование.

• Альтернатива: проверять каждое название по базе ISBN или в WorldCat.

• Ошибка: игнорировать жалобы пользователей.

• Последствие: падение доверия к библиотеке.

• Альтернатива: разъяснять проблему и учить критически относиться к источникам.

• Ошибка: хранить в фондах сгенерированные книги.

• Последствие: засорение коллекции и падение качества.

• Альтернатива: удалять такие издания при обнаружении.

А что если ИИ окончательно войдёт в библиотеки?

В таком случае библиотекари рискуют превратиться в "фильтровщиков" ошибок ИИ. Их работа станет не только хранением знаний, но и борьбой с дезинформацией. Положительный сценарий возможен, если разработчики создадут надёжные инструменты для проверки контента, а университеты и школы будут обучать медиаграмотности с ранних лет.

Плюсы и минусы внедрения ИИ в библиотечное дело

FAQ

Как проверить, существует ли книга?
Нужно ввести название в WorldCat или в национальный каталог ISBN. Если её там нет, скорее всего, это "призрак".

Сколько стоит создать книгу с помощью ИИ?
На платформах вроде Kindle Direct Publishing себестоимость минимальна, иногда меньше $50.

Что лучше — ИИ-аннотация или классический обзор?
Классический обзор, написанный экспертом, надёжнее. ИИ может помочь с черновиком, но часто допускает ошибки.

Мифы и правда

• Миф: "Если книга есть в интернете — она существует".
  Правда: ИИ легко придумывает издания и авторов, которых никогда не было.

• Миф: "ИИ делает библиотекаря ненужным".
  Правда: роль библиотекаря только усиливается — он помогает отличить реальное от вымышленного.

• Миф: "Все ИИ-книги низкокачественные".
  Правда: встречаются достойные тексты, но они редкость и требуют дополнительной редакции.

Исторический контекст

• 2000-е: массовое распространение Wikipedia, которая долго считалась ненадёжным источником.

• 2010-е: рост числа самиздата через Kindle Direct Publishing.

• 2023 год: десятки ИИ-книг попадают в список романтических бестселлеров Amazon Kindle Unlimited.

• 2024 год: экраны Kindle заполняются обложками ИИ-изданий.

3 интересных факта

• В 2023 году более 30% новых электронных книг на Kindle были созданы с помощью ИИ.
• По данным библиотекарей, до 20% запросов посетителей за последний год касались "несуществующих" изданий.
• В некоторых университетах США начали вводить специальные курсы по критике ИИ-контента.