Kimi K3.1 Pro с отворени тегла: 2,8T параметъра, за кого е

Накратко

Moonshot AI пусна отворените тегла на Kimi K3.1 Pro на 4 ноември: 2,8T параметъра, 104B активни, контекст 1M.
Само теглата са около 1,4 TB на 4 бита, така че почти никой не трябва да го хоства сам.
Цената в API е $2 вход / $10 изход за милион токена, около 25 € на месец за натоварен агент.

Moonshot AI качи пълните тегла на Kimi K3.1 Pro в Hugging Face на 4 ноември. Модел с 2,8 трилиона параметъра, който можеш да свалиш безплатно. Променя ли нещо за теб? Да, но не по начина от заглавията.

Какво се случи

Moonshot пусна K3.1 Pro на 23 октомври като API модел и обеща теглата до 4 ноември. Удържаха думата си. Моделът е mixture-of-experts: 2,8 трилиона параметъра общо, 104 милиарда активни на токен, контекст от 1 милион токена, квантизиран в MXFP4. В картата на модела препоръчват vLLM и SGLang за стартиране.

Лицензът е собствен, „Kimi K3.1 Pro License“, не Apache. Прочети го, преди да градиш продукт върху модела. Бенчмарковете са на самата Moonshot: Terminal-Bench 4.0 – 65,7, GPQA-Diamond – 94,2, BrowseComp – 92,1. В собствената таблица моделът бие Claude, GPT, DeepSeek и GLM в някои тестове и губи в други. Приемай цифрите като рекламен лист.

Цената в API-то е $2 за милион входни токена и $10 за милион изходни, а кешираният вход е $0,20. Провери platform.kimi.ai, преди да правиш бюджет.

Как да го използваш

Повечето хора не трябва да го свалят. Ползвай го през API или през хостинг доставчик, който ще вдигне теглата в следващите седмици. Тествай го върху една реална задача от бизнеса си, не върху бенчмарк.

Сметката: на 4 бита 2,8 трилиона параметъра искат около 1,4 TB само за теглата (2,8T x 0,5 байта, моя груба сметка). Това са около осемнайсет GPU-та по 80 GB, преди да сложиш и един токен контекст. А сега API-то. Агент, който чете 200 000 токена и пише 50 000 на ден, струва $0,40 + $0,50 = $0,90. Това е около 25 € на месец. Свой сървър печели само ако го въртиш денонощно и в голям мащаб.

Какво означава

Истинската новина е вратата за излизане. Щом теглата са публични, всеки доставчик може да хоства модела и да се състезава по цена. Ако Moonshot вдигне цените, се местиш. Те вече затвориха K2 за нови потребители, така че това има значение.

Кой губи? Затворените лаборатории, които таксуват премия за модели, които отворените вече догонват в няколко теста. Кой печели? Всеки, който плаща за токени всеки месец.

Мнението на Иван

Не бих го вдигнал на собствен сървър. 1,4 TB не е хоби. Бих го тествал през API върху една реална задача от бизнеса си, бих сравнил сметката с тази, която плащам сега, и бих го държал като резерва. Отворените тегла си струват само заради вратата за излизане.

Източник: Moonshot AI

За автора

Ivan Ivanov

Основател на