OpenJev
SemIf — это локальный эксперимент, позволяющий сравнивать два способа получения вероятностных решений от языковой модели прямо в браузере: чтение логитов (logits) напрямую и генерация вероятностей в виде JSON токен за токеном. Оба метода используют одну и ту же загруженную модель, работают последовательно на одном GPU и измеряют время выполнения через performance.now(). Модели берутся из Hugging Face, остаются в кэше браузера, а входные данные никогда не покидают страницу. Доступны три варианта: Qwen3 0.6B (639 МБ), MiniCPM5 2B (1.56 ГБ — по умолчанию) и Qwen3.5 4B (3.01 ГБ), с указанием их размеров и ориентировочной точности на публичном подмножестве данных (balanced accuracy: 44.0%, 68.6%, 81.3% соответственно). Демонстрация не требует бэкенда, списка ожидания или регистрации — достаточно выбрать модель, загрузить её и запустить тест. Прямой вывод дает условные вероятности только по предоставленным опциям (не калиброванные), а генерация строит JSON-ответ токен за токеном, позволяя наблюдать процесс в реальном времени. Квантизация через GGUF и wllama может влиять как на скорость, так и на точность. Время включает загрузку, разогрев, подготовку промпта, прямое выполнение и генерацию — все измеряется честно, без предустановленных результатов. Цель — показать trade-off между размером модели, скоростью и качеством принятия решений локально, без отправки данных на сервер.