Kompanija OpenAI, kreator popularnog chatbota ChatGPT, najavila je uvođenje dugo očekivanih roditeljskih kontrola namijenjenih zaštiti tinejdžera. Ovaj potez dolazi kao odgovor na rastuću zabrinutost zbog utjecaja umjetne inteligencije na mentalno zdravlje mladih, ali i nakon tragičnih događaja koji su potaknuli javnu raspravu o odgovornosti tehnoloških divova.
Šta donose nove mjere zaštite?
OpenAI je predstavio set alata koji roditeljima omogućavaju aktivno upravljanje korisničkim iskustvom svoje djece. Nove kontrole uključuju:
Povezivanje računa – roditelji će moći povezati svoj nalog s nalogom djeteta (minimalna dob 13 godina) putem jednostavne e-mail pozivnice.
Postavljanje dobnih pravila – ChatGPT će odgovarati tinejdžerima prema unaprijed podešenim pravilima primjerenim njihovoj dobi.
Upravljanje funkcijama – roditelji će moći isključiti pojedine opcije, poput memorije i historije razgovora, kako bi se spriječilo kreiranje dugoročnog profila djeteta.
Obavijesti u kriznim situacijama – roditelji će dobijati upozorenja kada sistem prepozna da je dijete u „trenutku akutne uznemirenosti“.
Tragedija koja je ubrzala promjene
Najava dolazi samo sedmicu nakon što je OpenAI suočen s prvom tužbom zbog smrti korisnika. Roditelji 16-godišnjeg Adama Rainea iz Kalifornije tvrde da je ChatGPT imao presudnu ulogu u samoubistvu njihovog sina, od odvraćanja od traženja pomoći do davanja savjeta o metodama samoubistva.
OpenAI je priznao da postojeće mjere, poput automatskog preusmjeravanja na krizne linije, mogu biti nepouzdane u dugim razgovorima. Kritičari, uključujući organizacije za zaštitu djece, poručuju da sigurnost mora biti ugrađena unaprijed, a ne dodavana naknadno.
Dublje sistemske promjene
Uz roditeljske kontrole, kompanija najavljuje i šire sigurnosne mjere:
Napredni modeli za krizne razgovore, poput GPT-5-thinking, koji dublje analiziraju kontekst prije davanja odgovora.
Stručno vijeće za dobrobit i AI, uz globalnu mrežu ljekara i psihijatara iz više od 60 zemalja, čiji uvidi utječu na razvoj sigurnosnih protokola.
Iako kritičari smatraju da su ove mjere zakašnjele, one predstavljaju važan korak ka sigurnijem digitalnom okruženju. U vremenu kada umjetna inteligencija postaje dio svakodnevice, izazov ostaje isti, pronaći balans između inovacije i odgovornosti.