Обсуждение подчеркивает, что производительность M5 Ultra в локальных ИИ-задачах зависит от квантизации, оптимизаций (MTP/dFlash) и архитектуры модели (MoE vs dense), а не только от аппаратных характеристик. Стоимость устройства ставит под сомнение его экономичность по сравнению с облачными решениями. Спор: @gpugreg утверждает, что RTX 5090 достигает >200 токенов/с с ninfer/NVFP4, тогда как @nacs отвечает, что Qwen3.8-27B не помещается в 32 ГБ VRAM 5090, в отличие от M5 Ultra с 256 ГБ ОЗУ. Спор: @karmakaze приводит данные по запуску Qwen3.8-27B-MXFP4 на двух AMD R9 7000 — 260+ токенов/с, превосходя M5 Ultra, но участники фокусируются на сравнении с M5, игнорируя x86-альтернативы. Спор: @smcleod считает, что показатели M3 Ultra в статье завышены, так как его M5 Max работает быстрее; @alex7o отвечает, что с dFlash и MTP M5 Max достигает 75 токенов/с на 256K контексте. Совет: @hamiltont рекомендует брать дешёвый подержанный Ultra (M2/M3) — пропускная способность памяти одинакова у всех Ultra, что даёт лучшую отдачу от вложений. Совет: @alex7o советует использовать dFlash и MTP при тестировании, иначе результаты не отражают реальный потенциал системы, особенно для M5 Max. Совет: @liuliu предупреждает, что MLX-квантизация не эквивалентна качеству llama.cpp, и требует публикации результатов на стандартизированных бенчмарках. Согласны: MoE-модели лучше подходят для M5 Ultra из-за высокой памяти и ограниченной пропускной способности, чем плотные модели (Qwen3.8-27B). Согласны: экономически локальные ИИ-агенты на M5 Ultra не оправданы, если можно арендовать GPU за $5/час — это хобби для тех, кто может позволить себе тратить деньги. Отмечают: цена M5 Ultra (12–15 тыс. $) неоправданно высока — сравнивают с домом или 12 годами подписки на OpenAI Pro. Подтверждают: M5 Pro/Max/Ultra эффективны для специфических задач (CFD, симуляция iOS), превосходя предыдущие поколения в 3–3.5 раза. Спор: @lowbloodsugar сравнивает M5 Ultra с грузовиком Komatsu, утверждая, что сравнение с RTX 5090 по токенам/с некорректно — 5090 не загружает 256K-контекстные модели, тогда как M5 Ultra может, и это ключевое преимущество. Совет: @mstaoru отмечает, что M5 Ultra слишком медленен для кодирования и видео, не превосходя облачные агенты — сомневается в его практической ценности для сложных задач. Совет: @crossroadsguy описывает опыт: даже 16 ГБ ОЗУ на старом Mac не позволяют запускать локальные модели из-за высокого потребления памяти системой — M5 Ultra недоступен для большинства. Отмечают: macOS ограничивает использование M5 Ultra как сервера или homelab-устройства; отсутствие полноценной Linux-поддержки снижает его потенциал.