Categories: Financije

SLMovi — budućnost AI prema Nvidiji

{"prompt":"SLMsVsLLMsNvidiaFutureOfAICheaperSpecializedModelsVsCostlyDataCenters","originalPrompt":"SLMsVsLLMsNvidiaFutureOfAICheaperSpecializedModelsVsCostlyDataCenters","width":768,"height":768,"seed":42,"model":"flux","enhance":false,"nologo":false,"negative_prompt":"undefined","nofeed":false,"safe":false,"quality":"medium","image":[],"transparent":false,"isMature":false,"isChild":false}

Nvidia tvrdi da su mali jezični modeli (SLMovi) ključni za budućnost AI jer su specijalizirani, jeftiniji i manje zahtjevni za infrastrukturu. SLMovi se treniraju do otprilike 40 milijardi parametara, a najsitniji modeli s oko milijardu parametara mogu raditi na običnim CPU-ima, što ih čini pogodnim za zadatke poput korisničke podrške i drugih usko definiranih poslova.

Veliki jezični modeli (LLMovi) zahtijevaju ogromne podatkovne centre i kapital — troškovi infrastrukture već su usto veliki i prijete stvaranjem balona te usporavanjem rasta ako investicije izostanu. LLMovi ipak služe i za obučavanje SLMova, pa se manji modeli brzo uče i postižu visoku učinkovitost za specifične primjene bez trošenja resursa velikih modela.

Kako bi se izbjegao pad sektora, Nvidia preporučuje prelazak na modularne sustave u kojima specijalizirani SLM agenti rješavaju većinu zadataka, dok se LLMovi koriste samo za složnije rezoniranje. Takav pristup štedi resurse, povećava konkurentnost i smanjuje rizike povezane s velikim ulaganjima u podatkovne centre.

Don Macan