Безплатна транскрипция на 40 езика със собствен NVIDIA модел

Накратко

NVIDIA пусна Nemotron 3.5 Transcribe на 28 октомври: отворен модел за превръщане на реч в текст на 40 езика, включително български.
Лицензът (OpenMDW-1.1) позволява комерсиална употреба, а грешката при английски е 4,71% средно в Open ASR класацията.
Whisper API на OpenAI струва $0,36 на аудио час. Наета H100 започва от $1,99 на час. Сметката е по-долу, но има уловка: трябва ти сериозна видеокарта.

Транскрипцията е от онези малки разходи, които никога не спират. Подкасти, търговски разговори, срещи, записи от поддръжката. Плащаш на минута, завинаги, а записите ти напускат фирмата.

NVIDIA току-що даде друг път. Модел с 30 милиарда параметъра, който сваляш, пускаш на свой хардуер и не плащаш нищо на минута. Заменя ли платено API за всички? Не. За някои хора обаче напълно. Ето за кого и как се пуска.

Какво представлява

Nemotron 3.5 Transcribe е модел за разпознаване на реч от NVIDIA, пуснат на 28 октомври 2026 г. Това е mixture-of-experts архитектура: около 30 милиарда параметъра общо, около 4 милиарда активни при всяко преминаване. Затова е бърз за размера си.

Покрива 40 езика. NVIDIA ги групира по качество. Английски, немски, френски, испански, руски и още няколко са в най-горното ниво. Българският е в нивото „готов за продукция“, до румънския, турския и украинския. Арабски, мандарин, гръцки и иврит са отбелязани като „поддържани“, което значи, че може да ти трябва дообучение.

Числата, които NVIDIA публикува: 4,71% грешки на дума в английската Open ASR класация (средно от 9 набора), 1,09% на LibriSpeech test-clean, 4,62% в многоезичната класация за 7 езика. При записи с няколко говорещи грешката е по-висока, средно 15,80%. SiliconANGLE пише, че обработва 100 часа аудио за под 3 минути на Blackwell хардуер и че медицинско дообучение е свалило грешката от 30,8% на 11,8%.

Къде да го вземеш: Hugging Face, GitHub (NVIDIA NeMo Speech), NGC и Build.Nvidia.com. Има и безплатно демо в Hugging Face, ако първо искаш да тестваш собствено аудио.

Цена и лиценз

Моделът е безплатен. Излиза под лиценз OpenMDW-1.1, а картата на модела казва, че е готов за комерсиална и некомерсиална употреба. Трябва да спазваш условията на лиценза и лицензите на включените компоненти, така че ги прочети, преди да строиш продукт върху него.

Вариант	Цена	Твоето аудио
OpenAI whisper-1	$0,006 на минута ($0,36 на час)	Отива при OpenAI
OpenAI gpt-4o-mini-transcribe	около $0,003 на минута (оценка)	Отива при OpenAI
Nemotron 3.5 Transcribe, наета H100	от $1,99 на GPU час	Остава на твоя сървър
Nemotron 3.5 Transcribe, собствена видеокарта	Ток	Остава на твоя компютър

Сметката

Сметката: да кажем, че транскрибираш 100 часа аудио на месец. Смятам $1 = €0,90, така че коригирай по днешния курс.

Whisper API: 100 часа x $0,36 = $36, около €32 на месец. Около €389 на година.
gpt-4o-mini-transcribe: около $18, около €16 на месец (цената е оценка).
Nemotron на наета H100 по $1,99 на час: ако 100 часа аудио отнемат един GPU час, това е около €1,80 на месец. Около €21 на година.

„Един GPU час“ е моя преценка, не бенчмарк. NVIDIA твърди около 3 минути на Blackwell, а vLLM настройката при старта е приблизително 2 пъти по-бавна от оптимизирания NIM на NVIDIA. Заложих 20 пъти по-бавно от твърдението, за да съм на сигурно. Тествай със свои записи, преди да вярваш на моето число.

Сега уловката. Оставиш ли тази H100 да работи цял месец, плащаш $1,99 x 730 часа = около $1 453, около €1 307. Наемай на час, обработвай на партиди, изключвай. Един GPU час се изплаща при цената на Whisper, щом обработи повече от 5,5 часа аудио.

Цената за H100 е най-ниската на дребно листова цена в сравнение, обновено на 11 октомври 2026 г. (Runpod Community Cloud). Големите облаци искат много повече на GPU, Azure около $12,29. Сравнявай.

Какъв хардуер ти трябва

Това не е модел за лаптоп. Референтната настройка е една H100 с 80 GB памет. Поддържани са A100 80GB, H100, H200, B200, GB200, L40S (само FP8), RTX 5090 (само NVFP4) и RTX PRO 6000. Работи на Linux или на Windows през WSL2. Родно на Windows тръгва само през GGML.

Нямаш GPU вкъщи? Наеми на час. Нямаш GPU и имаш само няколко часа аудио на месец? Остани на API. Излиза по-евтино от времето ти.

Как да го пуснеш

Картата на модела препоръчва vLLM. Тук не поставям команди, защото версиите се менят бързо и трябва да ги копираш от източника. Стъпките са:

Наеми или подготви Linux машина с поддържана видеокарта.
Отвори картата на модела в Hugging Face (nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B) и иди на Environment Setup.
Клонирай хранилището NeMo Speech на NVIDIA и направи Python 3.13 среда с uv. Инсталирай добавките за ASR и vLLM, плюс PyAV (за M4A и други компресирани формати) и opencv-python-headless.
Свали checkpoint-а с Hugging Face CLI.
Задай трите променливи на средата от картата: превключвателя на плъгина, лимита от един час аудио и V1 runner-а за времеви отметки на думи. После стартирай сървъра с vllm serve.
Изпращай аудио към локалния OpenAI-съвместим endpoint. Кодирай файла в base64, прати го като audio_url data URI с подсказката „Transcribe the following audio.“ Задай temperature 0 и enable_thinking false.
Провери първия резултат с файл, който вече познаваш. После пусни останалите на партида.

Предпочиташ само Python? Картата показва и вариант с Transformers, и с SGLang-Omni. Внимавай със SGLang-Omni: няма времеви отметки на думи, няма етикети на говорещите и няма превод.

Как да изкараш пари от него

Агенции за подкасти и видео: превръщаш всеки епизод в текст, после в блог постове, надписи и бележки. Без сметка на минута.
Записи на разговори: транскрибираш търговски или поддръжка разговори на свой сървър, така че гласовете на клиентите не излизат от фирмата.
Архив от срещи: търсиш в години записи с обикновено текстово търсене.
Услуга за транскрипция за местни фирми на твоя език. Българският е готов за продукция, което е рядкост при отворените модели.
Дообучение: NVIDIA публикува речниковия набор Granary v2 (463 062 часа, 48 езика) и неговия процес, така че можеш да нагодиш модела към твоя жаргон.

Ограничения и слаби места

Моделът е офлайн, не за субтитри на живо. Няма стрийминг в реално време.
Поддържат се записи до един час. Над това NVIDIA не обещава нищо. Плътни едночасови разговори може да изискат около 20 000 изходни токена, така че вдигни max_tokens.
vLLM интеграцията при старта е за разработка и е около 2 пъти по-бавна от NIM. NVIDIA още не е отворила оптимизациите на NIM.
Много говорещи: 15,80% средна грешка. Етикетите разграничават гласовете в един файл, но не казват кой кой е.
Норвежкият е в списъка като поддържан, но грешката във FLEURS е 63,76%. Не го ползвай там.
Разбирането на аудио и гласовите инструкции са тествани само на английски.
Числата от бенчмарковете са на NVIDIA. Тествай със свои записи.

Алтернативи

OpenAI Whisper API: $0,006 на минута, без хардуер, най-лесният старт.
gpt-4o-mini-transcribe: около половината от цената на Whisper по горната оценка, също хоствано.
Отворени Whisper модели на твоя машина: по-леки за хардуера, но първо провери точността на твоя език.

Мнението на Иван

Заслужава си, ако транскрибираш много, пазиш поверителност или работиш на български и искаш безплатен модел с качество за продукция. Не си струва, ако правиш пет часа на месец, защото API-то е по-евтино от времето за настройка. Аз бих наел GPU за една вечер, бих пуснал целия архив на една партида и бих го изключил.

Източници: NVIDIA · SiliconANGLE

За автора

Ivan Ivanov

Основател на