Small Models Have Arrived
Новые маленькие модели, такие как gpt-5.6-luna, удивительно быстрые и эффективные — до 100 токенов в секунду — при стоимости в десятки центов за сложные задачи, включая анализ тысяч писем. Это кардинально меняет экономику AI: раньше для персонализированного новостного сайта с использованием дорогих моделей требовалось $1 за запрос, что делало потребительский продукт невыгодным; теперь стоимость падает до $0.10, открывая путь к масштабируемым сервисам.
В бизнесе большинство задач — не прорывные, а рутинные: переписка, координация, уведомления. Даже опытные основатели, вроде Петера из Segment, тратят 95% времени на такие «токен-спьютерные» дела. Маленькие, дешёвые и быстрые модели идеально подходят именно для них — заменяя людей, выполняющих повторяющуюся работу. Хотя фронтальные модели останутся нужны для научных прорывов, спрос на «хорошие, но недорогие» модели только растёт. Остаётся решить технические вопросы — безопасность, роли, интеграции — но направление ясно: будущее за эффективностью, а не за мощностью.