Nvidia lansira open-weight modele za AI agente u firmama i na lokalnim računarima
Firme koje ne žele da šalju podatke u cloud dobijaju modele za pokretanje agenata u sopstvenom data centru ili na lokalnim AI računarima.
Nvidia je objavila tri nova open-weight modela namenjena AI agentima koji rade stalno i na lokalnim uređajima. Najveći, Nemotron 3.5 Super VL, ima 120 milijardi parametara i namenjen je preduzećima. Manji modeli iz serije Bolt pokreću se na AI računarima sa Nvidia čipovima.
Super VL, iako ima manje parametara od ranijeg Nemotron 3 Ultra, prema navodima kompanije postiže sličnu tačnost u praćenju instrukcija i korišćenju alata. Nvidia tvrdi da nakon naknadne obuke na specifičnim agentskim zadacima radi brže od konkurentskih modela iz Anthropica i OpenAI-ja. Među zadacima se pominju analiza dokumenata, finansijsko računovodstvo i obrada zahteva za osiguranje. Kompanija navodi da model već koriste EY, CrowdStrike, Salesforce, Ramp, Perplexity i Skydance.
Dva Bolt modela su namenjena lokalnom radu. Nemotron 3.5 Bolt 74B-A9B 24GB ima 74 milijarde parametara i namenjen je višekoračnom rezonovanju, pozivanju alata i pregledanju veba. Najmanji Bolt E4B namenjen je konverzacionim agentima. Cilj je da korisnici mogu da delegiraju svakodnevne zadatke bez slanja podataka u cloud.
Super VL i veći Bolt model su dostupni sada, dok najmanji Bolt E4B stiže kasnije ovog meseca. Nvidia ovim potezom cilja preduzeća koja žele da modele drže u sopstvenoj infrastrukturi i poseduju ono što izgrade.
Izvori
Uočili ste grešku? Pišite na redakcija@webjunkie.net. Kako ispravljamo tekstove