Hacker News Digest

31 июля 2026 г. в 03:47 • earendil.com • ⭐ 561 • 💬 151

OriginalHN

#distillation#encrypted-content#inference-api#provider#session-portability

The session you cannot take with you

Сессии в современных "inference‑API" больше не принадлежат пользователю, а находятся под контролем провайдера. Провайдеры добавляют "reasoning‑токены", которые учитываются в стоимости, но возвращаются как зашифрованные блоки, скрывают результаты веб‑поиска, компонуют контекст так, что его может расшифровать только сервис, хранящий его, а также хранят подсказки подпроверок и сообщения агентов в зашифрованных "payload"‑ах, а ссылки на файлы, векторные хранилища и кэши остаются недоступными вне сервера; всё это привязано к уникальным ID, хранящимся только у провайдера. В результате пользователь видит лишь часть истории, а её полное состояние остаётся у поставщика.

Проверка переносимости должна включать возможность просмотра того, что видел модель, экспорта полностью самодостаточного артефакта, воспроизведения контекста в другом движке, аудита причин действий и полного удаления копий. Мы считаем, что пользователь должен иметь право закрыть счёт, сохранить сессию и передать её другой модели без необходимости расшифровывать "ciphertext"‑ы или запрашивать скрытые поиски; encrypted_content — вводящее в заблуждение название, на деле доступно только провайдеру; "distillation" следует рассматривать как путь к более доступным моделям, а не как оправдание закрытых стен.