Mellum2 выходит в open source: быстрая модель для AI-рабочих процессов в разработке ПО

Источник: https://blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/

Краткое содержание

JetBrains открыла исходный код Mellum2 — 12B-параметрической модели, разработанной с нуля и ориентированной на производственные AI-системы в сфере разработки ПО. Модель выпущена под лицензией Apache 2.0. Mellum2 использует архитектуру Mixture-of-Experts (MoE): при 12B параметрах всего активны лишь 2,5B на токен, что обеспечивает высокую пропускную способность и низкую задержку при снижении вычислительных затрат.

В отличие от многих современных моделей, Mellum2 не является мультимодальной — она обучена исключительно на данных естественного языка и кода. Это специализированное решение, конкурентоспособное с моделями аналогичного размера по задачам генерации кода, науки, математики и рассуждений, при этом время инференса менее чем вдвое превышает более крупные модели.

Ключевые сценарии применения

Mellum2 спроектирована для роли «фокусной модели» (focal model) в многоагентных системах: маршрутизация запросов к нужной модели или инструменту, суммаризация контекста в RAG-конвейерах, выполнение быстрых специализированных шагов в агентных пайплайнах (сбор контекста, планирование, валидация). Также поддерживает локальный или self-hosted деплой для сохранения контроля над данными.

Пример использования в агентном пайплайне:

# Mellum2 как быстрый суб-агент в RAG-конвейере
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("JetBrains/Mellum2")
tokenizer = AutoTokenizer.from_pretrained("JetBrains/Mellum2")

# Суммаризация извлечённого контекста перед передачей в основную модель
context = retrieved_documents.join("\n")
summary = model.generate(tokenizer(f"Summarize: {context}", return_tensors="pt"))

Философия «фокусных моделей»

JetBrains формулирует концепцию: будущее AI-продуктов — в координированных системах, а не в единственной большой модели. Многие шаги в современных AI-системах повторяющиеся, чувствительные к задержке и высокочастотные — они выигрывают от быстрой специализированной модели, а не от универсального frontier-решения. Mellum2 занимает именно эту нишу.

Значимость

Открытие исходного кода Mellum2 предоставляет разработчикам AI-инфраструктуры конкурентоспособную альтернативу для компонентов с высокими требованиями к задержке и пропускной способности. Лицензия Apache 2.0 и поддержка self-hosting делают модель особенно привлекательной для команд с требованиями к приватности данных.

🧾 Транскрипт (формат)

Mellum2 Goes Open Source: A Fast Model for AI Workflows Source: https://blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/

Trained from scratch and designed for practical deployment, Mellum2 is built for routing, Q&A, sub-agents, and private AI use in software engineering systems.

Today, we’re open-sourcing Mellum2, a 12B model engineered to solve the hardest parts of production AI: latency, throughput, and cost. Built from scratch and released under the Apache 2.0 license, Mellum2 offers a high-performance, cost-efficient alternative for your infrastructure.

Mellum began with code completion; now we’ve evolved it to handle both natural language and code. It is now a versatile tool ready to power routing, summarization, and intermediate reasoning steps across your modern AI workflows.

Whether you want to experiment, fine-tune, or deploy at scale, Mellum2 is ready to run in your own systems.

Try Mellum

Architecture and performance Mellum2 is engineered to solve the bottlenecks of production-scale systems through its architecture and focused, efficiency-driven design.

Mixture-of-Experts (MoE) design: The model features 12B total parameters, but because it uses a MoE design, only 2.5B parameters are active per token. This reduces compute costs while enabling high-throughput, low-latency inference for real-time workloads. Specialized focus: Unlike many modern models, Mellum2 is not multimodal. It is trained specifically on natural language and code data. This specialization ensures the model excels in software engineering environments while remaining lean and fast.

In our technical report, we detail our model’s performance across code generation, science, math, and reasoning benchmarks. Mellum2 is competitive with other similar-sized models while cutting inference time to less than half – a definitive advantage for production-grade deployments.

Key use cases for Mellum2 Route and orchestrate AI workloads: Use Mellum2 to analyze incoming prompts and help select the right model or tool for each task.

Build low-latency RAG pipelines: Retrieve relevant context, use Mellum2 to summarize it, and generate responses instantly.

Power fast sub-agents in complex workflows: Break down agent pipelines into steps like context gathering, planning, and validation. Use Mellum2 for fast, specialized tasks instead of relying on a single large model.

Enable private, local AI deployment: Run Mellum2 locally or self-host it to keep code and data fully under your control.

The “focal model” philosophy: Why focused models scale better As AI systems become more complex, performance bottlenecks shift from raw capability to latency, throughput, and cost at scale. Not every task requires the largest model. Many steps in modern AI systems are repetitive, latency-sensitive, and high-frequency. These steps benefit from a fast and reliable model that can be efficiently routed, hosted, and controlled.

At JetBrains, we believe the future belongs to coordinated systems, not single models. Frontier models will continue to push the limits, but practical AI products also require focal models: fast, specialized components that handle high-frequency tasks efficiently.

That’s the role we see for Mellum2 in the next generation of AI software tooling.

Get started with Mellum2 If you’re building AI systems for software engineering – whether inside an IDE, in a RAG pipeline, as part of an agent workflow, or fully on your own infrastructure – we’d love for you to try Mellum2.

Open source is how better tools get made.

Try Mellum