Семья из Великобритании попала в больницу после того, как съела ядовитые грибы, информацию о которых они нашли в пособии для начинающих грибников, созданном нейросетью. Книга, купленная на Amazon под названием «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов», оказалась полна ошибок и неточной информации.
По словам пострадавшего пользователя, который приобрел книгу на день рождения, в издании были представлены фотографии грибов и советы по их сбору. Однако более тщательная проверка показала, что изображения были сгенерированы искусственным интеллектом, а текст содержал нелепые фразы и ошибки, типичные для нейросетевого контента, такие как: «В заключение, сморчки — это вкусные грибы, которые можно употреблять с августа до конца лета. Дайте мне знать, если я могу вам чем-то еще помочь».
После обнародования инцидента в СМИ Amazon предложил семье вернуть книгу и предоставить скромную компенсацию. Однако эксперты и медики требуют от электронных платформ ужесточить контроль за такими книгами и предупреждать о фейковых авторах, чтобы избежать подобных случаев.
Журналисты также обнаружили на Amazon другие странные книги о грибах, которые могли быть написаны ИИ и содержать опасную информацию. Например, книги с такими названиями, как «Кулинарная книга по диким грибам: от леса до изысканной тарелки» и «Полевой путеводитель по высшим грибным книгам Юго-Запада», также были признаны созданными чат-ботами.
Представитель Amazon сообщил, что компания рассматривает представленные книги и работает над улучшением контроля качества контента. «Мы серьёзно относимся к таким вопросам и стремимся обеспечить безопасный опыт покупок и чтения для наших клиентов», — заявил он.
Инцидент с отравлением грибами стал очередным напоминанием о рисках использования информации, созданной нейросетями. В июне 2024 года нейросеть Gemini также оказалась в центре скандала, когда её совет по улучшению оливковой заправки привел к созданию биотоксина и потенциальной опасности для здоровья.
