[Перевод] Jev за 25 строк на Python
Все в Twitter только и говорят о Jev: это называют следующим достижением больших языковых моделей и парадигмы ИИ. Мы в этом не уверены.
На Habr опубликован перевод пародийного разбора Дуарте О.Карму, который показывает, что нашумевшую технологию Jev можно воспроизвести примерно за 25 строк на Python. Автор напоминает, что в Twitter о Jev говорят как о следующем прорыве больших языковых моделей, и выражает сомнение в этом. Его код загружает небольшую локальную модель Qwen3-0.6B в формате GGUF через llama-cpp-python, формирует промпт с пронумерованными вариантами ответа и просит выбрать один. Затем из логитов последнего токена берутся оценки для токенов-меток вариантов, нормализуются в вероятности, и получается распределение по классам. На демонстрационном примере с подозрительным письмом модель относит его к вариантам Legitimate, Spam и Phishing с вероятностями примерно 0,031, 0,084 и 0,885. Автор перечисляет, чего в этом решении нет: отдельной модели System One, обращения к API, синтетических данных и обучения с подкреплением для калибровки решений. При этом такой подход действительно классифицирует варианты, работает быстро, выполняется локально и не отправляет данные наружу; в заметке указано, что это пародийный пост и что существуют более полные открытые реализации Jev — OpenJev, openjev-sglang и OpenJev on DiffusionGemma.