Show HN: I trained a 125M model to autocomplete piano on-device

Я обучаю 125 млн‑параметрный трансформер, который в реальном времени подсказывает продолжение пианино‑партии (~108 нот/сек на iPhone 15). Ключевой прорыв — правильный MIDI‑токенизатор, агрессивная очистка датасета и DPO‑пост‑тренировка.

Я превратил MIDI‑события в компактный набор токенов: отдельные коды для NOTE, TIME_SHIFT, DURATION и VELOCITY. Такой формат гарантирует валидный синтаксис, устраняет «зависание» нот и позволяет модели генерировать ноты за один шаг, что критично для мобильных устройств. Обучение прошло на отфильтрованных 200 мелодиях, где я сортировал аккорды по тональности, чтобы избежать неоднозначности порядка нот.

Для ускорения я использовал 24‑шаговый тактовый деления, что покрывает обычные и тройные ритмы. После обучения применяю DPO‑корректировку, чтобы модель отдавала предпочтение более «музыкальным» продолжениям, что подтверждается в 70 % случаев в сравнениях Gemini. Теперь приложение RollTab умеет мгновенно подхватывать ваш ввод и развивать мелодию в стиле классических тем, от «Pokémon» до «Für Elise».

Запомните:

Токенизация в виде [NOTE, PITCH, VELOCITY, DURATION] + TIME_SHIFT делает генерацию быстрой и синтаксически корректной.
DPO‑пост‑тренировка повышает «музыкальность» вывода, а 125 млн параметров достаточно для 108 нот/сек на iOS.
Приложение уже доступно бесплатно в App Store для MIDI‑клавиатур.

Комментарии (91)

Токенизация MIDI на события (NOTE, TIME_SHIFT, DURATION, VELOCITY) и пост-тренировка DPO с агрессивной очисткой данных — ключевые прорывы, а не архитектура модели. Они обеспечивают валидный синтаксис и качество генерации: ритм, музыкальная форма, естественность звучания, подтверждённые опытом @tom_vidal, @devonsolomon, @noman-land, @pil0u. Размер модели вторичен — качество определяется токенизацией и DPO, как отмечают @gaya3bollineni и @evalystai. Практические запросы: интеграция с внешними MIDI-устройствами (@Tepix), расширение токенизации для атаки, грациозных нот и педали (@davidajackson), генерация 3–4-частного барочного сопровождения с экспортом в редактируемый формат (@heikkilevanto), снижение скорости ради осмысленности через Chain-of-Thought (@subhajeet2107). Требуются данные о стоимости и объёме DPO-тренировки (@theschwa, @arkmm), доступ к весам модели (@abidlabs). Сравнение с Continuator (2003) и Anticipatory Music Transformer показывает: подход не нов, но реализация на устройстве с 125M параметров в реальном времени — новый уровень (@timmb, @bravura). Проект вписывается в тренд, выделяясь локальной реализацией (@speedgoose, @mare5x). Альтернатива — распознавание мелодии через микрофон (@leobg), но требует новой архитектуры. Критика: результаты сопоставимы с Markov-моделями, LLM не понимают музыку — предложена декомпозиция на гармонические и мелодические слои (@rajivayyangar). AI не заменяет интуицию музыканта, а ускоряет отсев мертвых идей (@joshuamerrill, @ghm2199).