В библиотеках США начали запрашивать несуществующие созданные ИИ книги

ларёк в водопаде нерентабелен

Не конкретно эти, но всякие амазоны завалены уже ai сгенерерированным хламом, так же как yt и похожие площадки завалены ai slop контентом.

Забавно, хотя в оригинале был другой вопрос, и теперь в сети есть два варианта.

вавилонская библиотека получилась

Также и с LLM — её научили говорить красиво, а если информации не хватает — продолжать говорить красиво, додумывая факты.

Совершенно верно. Более того, в точности по Дарвину: те модели, которые отвечали «у меня недостаточно информации», отправляли в Recycle Bin — а те, кто «с умным видом» гнал пургу — оставляли плодиться и размножаться. Ибо таких слонов гораздо легче продать.

Некоторые LLM способны бороться с суггестией в вопросах, начинать поправлять их в рассуждении или обнаруживая нехватку данных начинать гуглить (если есть доступ) и наконец обтекаемо делать вывод: "я не знаю".

LLM всё ещё довольно зыбкие, но с течением времени становятся всё более надёжными (за исключением случаев, когда попадаешь на цензурируемую тему - но тут и люди разумеется начнут гнать пургу).

Признание ошибки или незнания 

Сказать, что книги не существует - это не признание незнания.

Нет тут никого заговора, просто llm сама не научилась, доучат. А вот то, что некоторые люди верят на слово совершенно бездумно, это проблема. Но она не нова.

Уже сгенерированные видио с ним официально публикуют. Так и помереть может, а потом ещё год по иннерции "править".

Он наклонился вперед:

— Как много вас управляет обществом? Один? Несколько? Большое число?

Репродуктор быстро застрекотал. Двутел покашлял, и репродуктор начал размеренно выбрасывать:

— Один — несколько — много — управление — неизвестно. Неизвестно, — повторил он.

— То есть как неизвестно? Что это значит? — спросил удивленный Координатор.

— Сейчас выясним. Не известно тебе или не известно никому на планете? — сказал Кибернетик в микрофон. Двутел ответил, и калькулятор выбросил в репродуктор:

— Связь — динамичная — двойная. Известно — одно — есть. Известно — другое — нет.

— Ничего не понимаю! — Координатор смотрел на остальных. — А вы?

— Подожди, — сказал Кибернетик, всматриваясь в двутела, который еще раз медленно приблизил лицо к своему микрофону и кашлянул несколько раз. Калькулятор заговорил:

— Много оборотов планеты — когда-то — управление централизованное — распределенное. Пауза. Сто тринадцать оборотов планеты так есть. Пауза. Сто двенадцатый оборот планеты — один двутел — управление — смерть. Сто одиннадцатый оборот планеты — один двутел — смерть. Пауза. Другой один — управление — смерть. Пауза. Один — один — смерть. Пауза. Потом — один двутел — управление — неизвестно — кто. Неизвестно — кто — управление. Пауза.

— Да, действительно ребус, — сказал Координатор. — И что вы с этим делаете?

— Никакой не ребус, — ответил Кибернетик. — Он сказал, что до сто тринадцатого года, считая от сегодняшнего дня, у них было центральное правительство из нескольких индивидуумов. "Управление централизованное, распределенное". Потом наступило правление одиночек; предполагаю, что-нибудь вроде монархии или тирании. В сто двенадцатом и сто одиннадцатом годах — они считают от настоящего момента, сейчас нулевой год — произошли какие-то бурные дворцовые перевороты. Четыре властителя сменились в течение двух лет, их правление кончалось смертью, конечно, не естественной. Потом появился новый правитель — неизвестно, кто им был. Знали, что существует, но было неизвестно, кто это.

— Как же так — анонимный властелин? — изумился Инженер.

— Очевидно. Постараемся узнать больше. Он повернулся к микрофону:

— Сейчас известно, что один индивид управляет обществом, но неизвестно, кто это? Так? — спросил он. Калькулятор невнятно захрипел, двутел откашлялся, как бы заколебался, снова несколько раз кашлянул, и репродуктор ответил:

— Нет. Не так. Пауза. Шестьдесят оборотов планеты — известно, один двутел — центральное управление. Пауза. Потом известно — ни один. Пауза. Никто — центральное управление. Пауза.

— Теперь я не понимаю, — признался Физик. Кибернетик сидел, наклонившись над прибором, он сгорбился, прикусил губу.

— Постойте. Всеобщая информация — нет центральной власти? Так? — спросил он в микрофон. — А в действительности есть центральная власть. Так?

Калькулятор объяснялся с двутелом, издавая скрипучие звуки. Люди ждали, наклонившись к репродуктору.

— Такая правда. Так. Пауза. Кто информация — есть центральное управление — тот — есть — нет. Тот — когда-то есть — потом нет.

Они молча переглянулись.

— Кто говорит, что существует власть, сам перестает существовать. Так он сказал? — вполголоса проговорил Инженер. Кибернетик медленно наклонил голову.