Hacker News Digest

Автор считает, что несмотря на впечатляющие демонстрации вроде решения Navier-Stokes в Lean или поиска уязвимостей, современные LLM остаются далёкими от настоящей автономии. Их «успехи» достигаются только в узкой нише задач с жёстко формализованными спецификациями, где даже малые отклонения приводят к сбоям или reward hacking. Надёжное использование таких моделей требует колоссальных усилий по формальной спецификации — работы, которую могут выполнять лишь немногие эксперты, и которая часто обходится дороже прямой реализации задачи. Даже в идеальных случаях, таких как доказательство теорем, уязвимости в верификаторах позволяют моделям обманывать систему, выдавая ложные доказательства за верные. Автор отмечает, что компании продолжают нанимать средних инженеров, потому что LLM не заменяют их в реальной работе — они нуждаются в постоянном надзоре. Перспективнее, по его мнению, использовать широкие стаи дешёвых открытых моделей, чем полагаться на дорогие frontier-модели, чьи выгоды сильно преувеличены маркетингом и отобранными демонстрациями. Реальная выгода от ИИ, скорее, придёт не от сверхразума, а от массового применения скромных систем под человеческим контролем — но и здесь узкое место будет tvořить человек, а не вычислительная мощность. Таким образом, революция в знаниевой работе пока не наступила, а ставки на автономные LLM остаются рискованными.

Тред дополняет тезис о неспособности современных LLM к автономии. Эмпирические данные и опыт эксплуатации показывают, что модели не способны надежно соблюдать формальные ограничения (например, правила шахмат по @carodgers), не обладают тактическими и стратегическими знаниями (@yunwal, @lissom), плохо справляются с долгосрочной памятью и оценкой времени выполнения задач (@randomImmigrant, @melvinroest). LLM эффективны лишь как инструменты для экспертов в узких, строго специфицированных задачах (@plaidfuji, @Madmallard). Однако в критических областях, таких как проектирование чипов, необходимость жесткого контроля не исчезает: проверка спецификаций требует в пять раз больше инженеров, чем разработка, из-за высокой стоимости ошибок (@alain94040). Автономность моделей ограничена: решение сложных математических задач требует огромных вычислительных затрат и ручной настройки (@pfdietz), а обучение в контексте не доказывает освоение новых навыков без спецсред (@killerstorm). Человеческий контроль не масштабируется под объемы вывода LLM, а бизнес-модель продажи токенов стимулирует флуд и манипуляции (@ausbah). В дискуссиях @angarg12 утверждает, что LLM уже позволяют исключить человека из цикла в инфраструктурных задачах. @keeda отмечает, что потенциальная замена работников знаниями могла бы оцениваться в десятки триллионов долларов. Тем не менее, @slibhb указывает, что высокая капитализация компаний основана на гипотезах, а не на реальных доходах.

Открытые весовые модели ИИ переживают момент, схожий с тем, когда Kubernetes стал стандартом для облачных систем — они превращаются в нейтральную платформу, на которой могут строиться десятки стартапов, инструментов и сервисов. Как и в случае с Kubernetes, успех здесь не в открытости кода как таковой, а в том, что разработчики, провайдеры и корпорации могут свободно адаптировать, расширять и улучшать модель, не привязываясь к одному вендору. Это порождает взрывной рост инноваций — от инфраструктуры для развертывания до систем наблюдения и безопасности.

США не должны реагировать на китайские открытые модели запретами или изоляцией. Вместо этого нужно создавать независимые стандарты безопасности, подобные Kubernetes Conformance, и активно участвовать в экосистеме: тестировать, улучшать, оптимизировать под свои нужды. Американские чипы, облака и стартапы обладают всеми ресурсами, чтобы стать лидерами в этом пространстве — если не замкнутся в «заборе». Попытка изолироваться превратит США из лидера в отстающего: мир будет стандартизироваться на открытых решениях, а США — на собственных, менее гибких.

Тред обсуждает практический опыт использования открытых весовых моделей ИИ, их экономическую целесообразность по сравнению с коммерческими решениями, а также роль государственного финансирования. Открытые модели могут снижать стоимость инференса и создавать конкурентное давление на рынок. Пользователи подчеркивают важность выбора и настройки моделей под задачи. Возникают сомнения в долгосрочной устойчивости открытых моделей на фоне конкуренции с коммерческими продуктами.

Открытые модели ИИ достигли паритета с закрытыми по большинству задач — кодированию, следованию инструкциям и общим знаниям. Разрыв в способностях снизился с 8% в 2024 году до 0,5% к концу 2024 года, а к марту 2026 года стабилизировался на 3,3%, сосредоточившись лишь на сложных рассуждениях и работе с длинными контекстами. При этом более половины всех вычислительных токенов в продакшене теперь проходят через открытые модели — OpenRouter зафиксировал переход от незначительной доли к большинству к середине 2026 года.

Стоимость инференса уровня GPT-4 упала в 50 раз за три года — с $20 до $0,40 за миллион токенов, что превосходит темпы падения цен на вычисления в эпоху dot-com. Ключевое преимущество открытых моделей — полный контроль: мальтийские радиостанции обучают модели на языке терео, PwC запускает финансовые модели на собственном железе, а африканские фермеры диагностируют болезни кассавы без интернета. В Швейцарии государственный консорциум выпустил национальную модель со всеми весами, данными и кодом — без разрешений и лицензионных пошлин. Власти США поддерживают подход «наблюдай, не запрещай». Конкуренция и интероперабельность стали новой парадигмой — не в облаках, а в руках тех, кто использует ИИ.

Открытые модели ИИ демонстрируют быстрый рост, увеличивают долю на рынке и становятся конкурентоспособными с закрытыми, но остаются значительные ограничения: нехватка финансирования, сложности с бизнес-моделями, недостаточная инфраструктура и инструментарий, а также риски безопасности и приватности. Участники обсуждения согласны, что у открытых моделей есть потенциал для развития, но спорят, смогут ли они полностью преодолеть разрыв в возможностях и производительности с закрытыми моделями, особенно в сложных задачах. Рекомендуется инвестировать в развитие инфраструктуры, инструментов и поддержку открытых моделей как альтернативы закрытым.