Thinking Machines публикует модель с "открытыми весами" на 975 миллиардов параметров

Мира Мурати, бывший CTO OpenAI, переходит в Thinking Machines и выпускает передовую модель с открытыми весами — то, чего её бывший работодатель обещает годами, но так и не предоставляет.

Контекст

С тех пор как OpenAI окончательно перешёл на сторону "проприетарных решений" с GPT-4, рынок моделей с открытыми весами (моделей, веса которых можно скачать, даже если лицензия не всегда строго свободная) возглавили китайские компании: Qwen (Alibaba), DeepSeek, Kimi. Американские игроки предлагали либо полностью закрытые решения (OpenAI, Anthropic), либо "маленькие" открытые модели (Meta с Llama, несколько университетских инициатив).

Thinking Machines, компания, основанная Мира Мурати (бывшим CTO OpenAI) после её громкого ухода, только что выпустила свою первую модель с открытыми весами. И они поставили планку высоко.

Что внутри

По данным The Register, модель насчитывает 975 миллиардов параметров. Для сравнения, это сопоставимо с тем, что ходило в слухах о GPT-4 (около 1,8 триллиона с использованием Mixture of Experts). Веса можно скачать, что позволяет:

• запускать её на своей инфраструктуре (при наличии необходимого парка GPU),
• дообучать модель под конкретную область (право, медицина, программирование),
• проверять её поведение без зависимости от стороннего API.

Открыто заявленная цель — предложить американскую альтернативу открытым китайским моделям, в соответствии с позицией, которую Мурати отстаивала ещё в OpenAI. Именно эту позицию Сэм Альтман отменил, когда OpenAI фактически превратился в поставщика SaaS.

Что это меняет для разработчика

Конкретно, модель на 975 миллиардов параметров не запустишь на ноутбуке. Речь идёт о высокопроизводительном мульти-GPU кластере или о провайдере инференса, который будет её размещать. Зато теперь:

• Воспроизводимость: веса фиксированы, можно версионировать свою ИИ так же, как версионируешь код.
• Суверенность: больше не нужно отправлять конфиденциальные данные в API OpenAI или Anthropic.
• Исследования: университеты и независимые лаборатории наконец могут изучать модель такого масштаба в полном объёме.

Важно: "открытые веса" ≠ "открытый исходный код" в понимании OSI. Данные для обучения и код обучения чаще всего остаются закрытыми. Для поиска по-настоящему свободных решений в историческом смысле стоит обратить внимание на проекты вроде OLMo (AI2) или BLOOM.

Что запомнить

Мурати публично предоставляет то, что Альтман обещает вот уже два года, но не делает. Это самый громкий политический сигнал года для западной сцены открытой ИИ — и напоминание о том, что когда руководитель уходит с деньгами, он порой делает то, что не мог сделать изнутри.