Безплатните Bolt модели на NVIDIA пускат AI агенти на твоя компютър

Накратко

На GTC Berlin NVIDIA изведе напред моделите Nemotron 3.5 Bolt – отворени AI модели, създадени да движат агенти на твоя компютър, а не в облака.
Bolt 74B събира модел със 74 милиарда параметъра в около 24GB памет. Малкият Bolt E4B иска само 4GB и излезе на 23 октомври.
Цена на моделите: €0. Разрешена е и търговска употреба. Плащаш хардуер и ток, не токени.

AI агентът ти вече не трябва да живее в чужд облак. На GTC Berlin тази седмица NVIDIA натисна едно послание: пусни агента на собствената си машина. Двигателят за това е Nemotron 3.5 Bolt – безплатно, отворено семейство модели, направено точно за тази цел.

Какво се случи

На сцената в Берлин на 21 октомври Дженсън Хуанг показа AI агенти на лаптоп RTX Spark, които обучават малък робот – с Nemotron 3.5 Bolt 74B като мозък. Два дни по-късно NVIDIA пусна и по-малкия брат – Bolt E4B.

Bolt 74B-A9B 24GB. 74 милиарда параметъра, от които само 9 милиарда работят наведнъж. Вградената 2-битова компресия го събира в около 24GB памет. Чете текст, снимки и видео. Контекст до 256K токена. Работи в Ollama, LM Studio, llama.cpp и vLLM.
Bolt E4B 4GB. Малък модел, базиран на Gemma 4 на Google и дообучен от NVIDIA за гласови асистенти, чат и работа с инструменти. Тръгва и с 4GB. И да – българският е в списъка с езиците му.

Добър ли е? По тестовете на самата NVIDIA Bolt 74B бие Qwen 3.6 35B и Gemma 4 26B в повечето агентски задачи, включително сърфиране в мрежата и работа в терминал. Това са данни на производителя – пробвай го първо върху своята работа.

Колко струва? Нищо! Моделите са безплатни в Hugging Face под лиценз OpenMDW, а NVIDIA изрично пише, че са готови за търговска употреба.

Как да го използваш

Частен агент за проучване. Проучвания, резюмета и чернови – без нито един документ на клиент да напуска офиса ти.
Локален помощник за код. Дебъгване и скриптове на твоята видеокарта, без месечна сметка за API.
Гласов асистент или киоск. Bolt E4B е направен за бърз разговор на малки устройства – асистент в магазин, бот на рецепция, чат за поддръжка.
Бекенд за автоматизации. Насочи n8n или своите скриптове към локален OpenAI-съвместим сървър и спри да плащаш на заявка.

Какъв хардуер ти трябва? За Bolt 74B официалната карта на модела посочва RTX видеокарта с 32GB+ (например RTX 5090) или машина RTX/DGX Spark с 64GB или 128GB. E4B върви и на доста по-скромни геймърски компютри.

Сметката: да кажем, че агентите ти изгарят 50 милиона входящи и 5 милиона изходящи токена на месец през Claude Sonnet 5.5 по цената в OpenRouter ($2 / $10 за милион). Това са около $150 или горе-долу €130 на месец – около €1 560 на година. Същата работа на Bolt локално ти излиза €0 за токени. Плащаш тока и хардуера веднъж.

Какво означава това

Да сме наясно с мотива на NVIDIA. Безплатните модели продават скъпи видеокарти. Моделът е стръвта, хардуерът е бизнесът.

Но и ти печелиш. Облачният AI е месечен данък, който расте с всеки нов агент. Локалният AI го превръща в еднократна инвестиция. А ако работиш с клиентски данни по GDPR, „данните не напускат компютъра“ е реален аргумент пред клиента.

Мнението на Иван

Струва си – ако вече имаш силна видеокарта или агентите ти работят по цял ден. Не бих купувал нов хардуер само за да го пробвам – започни с E4B на компютъра, който имаш. Но посоката е ясна: най-добрите автоматизации ще вървят на твоя собствен хардуер, а сметката ти за AI ще спре да расте заедно с бизнеса.

Източник: NVIDIA

За автора

Ivan Ivanov

Основател на