Hacker News Digest

Garry Tan, глава Y Combinator, призвал американские открытые ИИ-лаборатории активно использовать технику дистилляции для создания собственных версий передовых моделей, таких как те, что разрабатывают OpenAI и Anthropic. По его мнению, дистилляция — процесс обучения меньших моделей на выводах больших — позволяет ускорить инновации, снизить барьеры входа и усилить конкуренцию в экосистеме ИИ, особенно для стартапов и исследовательских команд без доступа к огромным вычислительным ресурсам.

Tan подчеркнул, что открытые веса моделей должны идти дальше простого julkaisu: они должны становиться основой для активного улучшения и адаптации под конкретные задачи. Он отметил, что текущая концентрация мощности в нескольких закрытых лабораториях создаёт риск монополизации прогресса, и дистилляция может стать инструментом децентрализации. При этом он признал этические и правовые сложности, но настаивал, что при соблюдении лицензий и норм дистилляция остаётся легитимным и полезным подходом для развития открытого ИИ.

Дистилляция моделей — это законная трансформация данных, аналогичная созданию Cliff Notes, которая должна признаваться fair use. Поскольку закрытые лаборатории часто обучают свои модели на данных без согласия правообладателей, они не имеют морального права ограничивать дистилляцию; запрет на неё является попыткой регуляторного захвата и проявлением двойных стандартов, если сами лаборатории используют чужие модели. Экономика ИИ смещается от затрат на обучение к стоимости инференса и харнессинга. Модели становятся товаром, а прибыль будет создаваться через ПО и инфраструктуру. Открытые весовые модели уже сопоставимы с передовыми: их развитие ускорит инновации, снизит барьеры входа и децентрализует власть, предотвращая монополизацию интеллекта, построенного на общих ресурсах. В дискуссии звучат и иные мнения: некоторые считают дистилляцию через нарушение ToS незаконной, а другие — неэффективной из-за убывающей отдачи, предлагая вместо неё генерацию целевых наборов данных. При этом китайские лаборатории используют дистилляцию лишь как один из многих инструментов развития. Перспективной бизнес-моделью может стать DaaS (Distillation as a Service), которая легитимизирует процесс. В целом, требование открыть веса фронтовых моделей справедливо, так как они должны возвращать пользу обществу по аналогии со свободным ПО.

Сессии в современных "inference‑API" больше не принадлежат пользователю, а находятся под контролем провайдера. Провайдеры добавляют "reasoning‑токены", которые учитываются в стоимости, но возвращаются как зашифрованные блоки, скрывают результаты веб‑поиска, компонуют контекст так, что его может расшифровать только сервис, хранящий его, а также хранят подсказки подпроверок и сообщения агентов в зашифрованных "payload"‑ах, а ссылки на файлы, векторные хранилища и кэши остаются недоступными вне сервера; всё это привязано к уникальным ID, хранящимся только у провайдера. В результате пользователь видит лишь часть истории, а её полное состояние остаётся у поставщика.

Проверка переносимости должна включать возможность просмотра того, что видел модель, экспорта полностью самодостаточного артефакта, воспроизведения контекста в другом движке, аудита причин действий и полного удаления копий. Мы считаем, что пользователь должен иметь право закрыть счёт, сохранить сессию и передать её другой модели без необходимости расшифровывать "ciphertext"‑ы или запрашивать скрытые поиски; encrypted_content — вводящее в заблуждение название, на деле доступно только провайдеру; "distillation" следует рассматривать как путь к более доступным моделям, а не как оправдание закрытых стен.

Пользователи обсуждают ограничения современных inference-API: vendor lock-in, отсутствие прозрачности и необходимость открытых стандартов для контекста. Некоторые подчеркивают риски искусственных барьеров для конкуренции, другие оправдывают их необходимостью безопасности и качества. Рекомендуется использовать открытые модели и стандарты для обеспечения портативности и прозрачности. Многие делятся опытом создания собственных решений — через базы данных и инструменты управления контекстом. Некоторые считают проблемы не критичными, полагая, что переключение между провайдерами легко.

OpenAI и Anthropic, несмотря на конкуренцию, объединились в призыве к регулированию китайских открытых моделей ИИ, опасаясь, что их доступность угрожает безопасности и национальной безопасности США. Они аргументируют это тем, что открытые веса невозможно отозвать или обновить, что делает их уязвимыми к злоупотреблениям — позиция, которую сторонники открытого исходного кода считают как раз их главным преимуществом: отсутствием централизованного контроля.

При этом критики видят в этом попытку монополистов — включая OpenAI и Anthropic — закрепить своё доминирование под видом безопасности. OpenAI, несмотря на собственную открытую модель, выступает против «дистилляции» моделей, что США классифицируют как кражу интеллектуальной собственности. Разногласия проявились и в законодательстве: Anthropic поддержала жёсткий закон с обязательными независимыми проверками и штрафами, а OpenAI — более мягкий вариант. В ближайшие недели администрация США планирует рассмотреть стандарты для китайских моделей, а Сам Альтман готовится к встрече с законодателями.

Многие считают, что OpenAI и Anthropic маскируют попытки сохранить монополию под предлогом безопасности, а открытые модели — будущее ИИ, и их регулирование лишь тормозит инновации. Советуют компаниям сосредоточиться на развитии технологий, а не на подавлении конкуренции.