27 июля Moonshot AI открыла веса Kimi K3. Kimi K3 сейчас самая мощная открытая модель, многие сравниваю её с Opus и GPT-5.6.
НО то что модель открытая, не значит что мы сможем её скачать и пользоваться на наших ноутах. Файл с моделью весит около 1,5 ТБ, не говоря уже про сколько и какие видеокарты нужно чтобы это запустить.
⏺️2,8 триллиона параметров, из них 104 миллиарда активируются на каждый токен
⏺️Контекст в миллион токенов, на вход принимает текст, картинки и видео
⏺️Топ трендов Hugging Face за полчаса, к следующему дню около 7700 лайков
⏺️Лицензия не MIT, а собственная Kimi K3 License: крупным провайдерам нужны отдельные договорённости
⏺️80 карт RTX 5090 понадобилось энтузиастам, чтобы получить 20 токенов в секунду
В общем, для нас особо нет разницы, закрытая модель или открытая, если это передовая, крупная модель как Kimi k3 то вариантов ею пользоваться 2:
1️⃣на платформе
2️⃣через АПИ (апи стоит как sonnet 5 - 18$ за лям токенов)
Если интересно установить локальные модели, про них писал тут и тут, а тут показал как запустить локальную модель на Ollama. А это сервис, чтобы понять какая модель подойдёт под ваше железо.
🤖 В эпоху AI
Комментарии
0Комментариев пока нет.