Hacker News Digest

20 сентября 2026 г. в 12:20 • softwarecrisis.dev • ⭐ 235 • 💬 308

Original • HN

#chatbot#cognitive-bias#cold-reading#forer-effect#llm#mentalism

The LLMentalist Effect (2023)

Автор исследует, почему люди воспринимают чат-ботов на основе больших языковых моделей (LLM) как разумных, несмотря на отсутствие у них механизмов мышления. Он отвергает идею, что LLM обладают каким-то новым типом интеллекта, и вместо этого объясняет это явление как иллюзию, возникающую в сознании пользователя. Сравнивая поведение чат-ботов с техникой холодного чтения, используемой психиками, автор показывает, как модели создают впечатление персонализированного и проницательного ответа благодаря использованию общих, но эмоционально резонирующих фраз — так называемых утверждений Форера (Forer effect). Эти утверждения звучат специфично и проницательно, хотя на самом деле применимы к широкому кругу людей. Пользователи, желая увидеть смысл и интеллект, интерпретируют такие ответы как доказательство понимания, что усиливает веру в «разумность» ИИ. Автор называет этот эффект «LLMentalist» — отсылкой к менталистам, которые манипулируют восприятием, создавая ложное ощущение сверхъестественных способностей. Он считает, что многие текущие применения LLM в бизнесе и науке граничат с псевдонаукой, поскольку основаны не на реальных возможностях моделей, а на когнитивных предвзятостях людей. В заключение он подчеркивает, что вера в интеллект LLM похожа на веру в паранормальные явления: основана на желании верить, а не на доказательствах.