Кратко

На платформе Hugging Face появилась новая модель Kimi K3 от Moonshot AI. Это крупнейшая в мире открытая модель с 2.8 триллионами параметров, способная понимать изображения и видео, а также обрабатывать очень длинные тексты.

• Модель Kimi K3 имеет 2.8 триллиона параметров, что делает ее крупнейшей открытой моделью в мире.
• Она использует архитектуру Mixture of Experts (MoE), где из 896 экспертов активируются 16 для оптимизации ресурсов.
• Kimi K3 нативно понимает изображения и видео, а также может обрабатывать до 1 миллиона токенов контекста.
• Модель ориентирована на решение таких задач, как программирование, анализ документов и исследовательская деятельность.