Компания Inception из Редвуд-Сити представила Mercury 3, диффузионную языковую модель. Она генерирует текст параллельно, а не токен за токеном, и выдаёт свыше 1000 токенов в секунду. По размеру новая модель в 40 раз больше Mercury 1, в ряде тестов обходит GPT-6 Luna и Claude Haiku 5.5 и работает заметно быстрее них. Для агентных сценариев разница в скорости принципиальна: пока отвечает модель, пайплайн простаивает, и раньше ускорения добивались распараллеливанием запросов вручную.
Полная статья: https://clck.su/Iihuf
ВКонтакте
MAX