Об открытой модели теперь спрашивают про качество и про стоимость инференса одновременно.
Reflection AI представила Beam - open-weight модель для reasoning, coding и agentic-задач. По данным компании, ей нужно в 3-4 раза меньше вычислений на инференс, чем западным открытым моделям из ее сравнений. TechCrunch отмечает: эти заявления пока никто независимо не проверил.
Beam большая: 501 млрд параметров, из них 23 млрд активных, контекст - до 1 млн токенов. Веса и технические детали обещают выпустить в этом месяце.
Если заявленные цифры подтвердятся на реальных нагрузках, порог входа в RAG и агентные пайплайны действительно может снизиться. Но «меньше вычислений на инференс» еще не означает «дешево в продакшене». Остаются вопросы к железу, latency, стоимости обслуживания, лицензии и качеству на собственных данных.
Мой практический вывод: не планировать миграцию по одному красивому бенчмарку. Дождаться весов, прогнать свою eval-наборку и считать стоимость не токена, а выполненной бизнес-задачи.
Источник: TechCrunch , SCMP - дополнительные детали