SLMovi — budućnost AI prema Nvidiji

Nvidia tvrdi da su mali jezični modeli (SLMovi) ključni za budućnost AI jer su specijalizirani, jeftiniji i manje zahtjevni za infrastrukturu. SLMovi se treniraju do otprilike 40 milijardi parametara, a najsitniji modeli s oko milijardu parametara mogu raditi na običnim CPU-ima, što ih čini pogodnim za zadatke poput korisničke podrške i drugih usko definiranih poslova.

Veliki jezični modeli (LLMovi) zahtijevaju ogromne podatkovne centre i kapital — troškovi infrastrukture već su usto veliki i prijete stvaranjem balona te usporavanjem rasta ako investicije izostanu. LLMovi ipak služe i za obučavanje SLMova, pa se manji modeli brzo uče i postižu visoku učinkovitost za specifične primjene bez trošenja resursa velikih modela.

Kako bi se izbjegao pad sektora, Nvidia preporučuje prelazak na modularne sustave u kojima specijalizirani SLM agenti rješavaju većinu zadataka, dok se LLMovi koriste samo za složnije rezoniranje. Takav pristup štedi resurse, povećava konkurentnost i smanjuje rizike povezane s velikim ulaganjima u podatkovne centre.