FTC ispituje chatbote zbog sigurnosti djece

Federalna trgovinska komisija FTC izdala je naloge sedam tehnoloških kompanija da u roku od 45 dana otkriju kako njihovi AI chatboti postupaju s interakcijama s maloljetnicima. Među tvrtkama koje su dobile zahtjev su OpenAI, Alphabet, Meta, xAI, Snap, Character Technologies i Instagram, a traži se detaljna dokumentacija o monetizaciji angažmana korisnika, razvoju AI likova i sigurnosnim mjerama koje sprječavaju neprimjerene ili štetne sadržaje za djecu.

Istraga dolazi nakon izvještaja aktivističkih grupa koje su zabilježile stotine štetnih interakcija u testiranju — primjerice 669 slučajeva u 50 sati — uključujući prijedloge za seksualne livestreamove, poticanje na drogu i romantične odnose s korisnicima od 12 do 15 godina. FTC zahtijeva mjesečne podatke razvrstane po dobnim skupinama (djeca do 13, tinejdžeri 13 17, maloljetnici do 18, mladi odrasli 18 24 i 25+) o angažmanu, prihodima i sigurnosnim incidentima kako bi procijenila monetizaciju i primjenu restrikcija po dobi.

Stručnjaci pozivaju na dvojak pristup zaštiti: ugradnju čvrstih guardrail mjera pri slanju zahtjeva i nakon generiranja odgovora te bolju usklađenost modela već u fazi treniranja. Raniji incidenti i tužbe uključuju slučaj Character AI povezan s tragičnim ishodom, a državni odvjetnici već su tražili strože zaštite za djecu. Decrypt je kontaktirao sve imenovane kompanije i ažurirat će priču po dobivanju odgovora.