NVIDIA a anunțat un pachet consistent de noutăți dedicate inteligenței artificiale locale, adică acelor modele care rulează direct pe calculatorul tău, fără să trimită date în cloud. Vedeta anunțului este Nemotron 3.5 Lightning, un model open și personalizabil, conceput pentru sarcini agentice specializate și rapide, care poate rula local pe PC-uri NVIDIA RTX și pe sistemele DGX Spark. Acesta este însoțit de NeMo Switchyard, o bibliotecă open source de rutare care îi ajută pe dezvoltatori să găsească echilibrul potrivit între acuratețe, viteză și cost atunci când folosesc mai multe modele în paralel.
Nemotron 3.5 Lightning, de patru ori mai rapid la generarea tokenilor
Nemotron 3.5 Lightning promite o generare a tokenilor de până la patru ori mai rapidă și un timp până la finalizare cu 30% mai scurt decât alte modele din aceeași categorie. Pentru utilizatorul obișnuit, asta înseamnă răspunsuri mai rapide și o experiență mult mai fluidă atunci când lucrezi cu un asistent AI care rulează pe propriul calculator.
Cel mai important aspect ține însă de deschidere. Greutățile modelului sunt disponibile public, ceea ce le permite utilizatorilor să ajusteze modelul folosind propriile exemple, pentru experiențe locale personalizate. Aplicațiile practice acoperă o gamă largă, de la asistenți pentru e-mail și calendar, până la agenți pentru locuințe inteligente și asistenți pentru programare care lucrează direct cu o bază locală de cod. Practic, îți poți construi propriul asistent adaptat exact la nevoile tale, fără ca datele să părăsească calculatorul.
Scalarea DGX Spark prin NVIDIA Sync Cluster Assistant
Pentru cei care lucrează cu sisteme DGX Spark, NVIDIA a introdus Sync Cluster Assistant, un instrument care permite conectarea a două sau mai multe sisteme într-un cluster de mare viteză. Acesta vine cu funcții simplificate pentru conectarea în rețea, pentru rutarea sarcinilor de lucru și pentru monitorizarea stării sistemelor, ceea ce reduce considerabil complexitatea unei configurații care altfel ar cere cunoștințe avansate de administrare.
Noutăți suplimentare pentru DGX Spark
Ecosistemul DGX Spark primește și alte completări utile. Google Chrome va fi disponibil ca versiune nativă ARM64 pentru Linux, ceea ce înseamnă performanță mai bună pe aceste sisteme. În plus, noul NVIDIA Sync Resource Monitor oferă informații în timp real și istorice despre utilizarea procesorului și a plăcii grafice, atât pentru un singur sistem, cât și pentru un întreg cluster.
Meta Muse Glimmer rulează local cu peste 200 de tokeni pe secundă
O altă veste interesantă vizează modelul open-weight Meta Muse Glimmer, cu 30 de miliarde de parametri, optimizat pentru agenți AI locali disponibili permanent. Acesta poate depăși 200 de tokeni pe secundă pe o placă grafică NVIDIA RTX 5090, o performanță care demonstrează cât de mult a avansat capacitatea hardware-ului de consum de a rula modele mari direct pe calculatorul personal.
Generare video locală de calitate cu LTX-2.5
Pe partea de creație video, modelul open LTX-2.5 adaugă generarea multishot și editarea generativă, oferind o dublare a performanței și economii de 40% în ceea ce privește memoria pe plăcile NVIDIA RTX, precum și pe sistemele DGX Spark și DGX Station. Pentru creatorii de conținut, aceasta înseamnă posibilitatea de a genera și edita material video direct local, fără abonamente la servicii cloud și fără a trimite proiectele în afara calculatorului.
Mai multe modele open accelerate de NVIDIA
Anunțul include și o listă extinsă de modele open care beneficiază de accelerare pe hardware NVIDIA. Printre acestea se numără Cosmos 3 Edge, MiniMax-H3, Laguna S 2.1 de la Poolside, DeepSeek-V4-Flash, Inkling-Small de la Thinking Machines Lab, Unsloth Desktop și Wan-Animate-2. Această varietate arată direcția clară pe care o urmează compania, anume susținerea unui ecosistem deschis în care utilizatorii pot alege modelul potrivit pentru fiecare sarcină.