Az OpenAI vezérigazgatója új szabályozásokat jelentett be a tinédzser felhasználók védelmében, miközben az amerikai Szenátus a chatbotok kockázatait vizsgálta.
Sam Altman, az OpenAI vezérigazgatója blogbejegyzésben közölte: a ChatGPT a jövőben nem fog öngyilkosságról vagy önkárosításról beszélgetni tinédzser felhasználókkal. Az új irányelvek célja a kiskorúak biztonságának növelése, miután egyre több eset kap nyilvánosságot, ahol fiatalok mentális problémákkal küzdve fordultak mesterséges intelligenciához.
Altman hangsúlyozta, hogy a vállalat nehéz egyensúlyozás előtt áll: össze kell hangolni a magánszférát, a szólásszabadságot és a fiatalkorúak biztonságát. Hozzátette: a rendszer mostantól korbecslő modellt is használ majd, amely a felhasználói viselkedés alapján igyekszik meghatározni az életkort. Ha kétség merül fel, a ChatGPT automatikusan az „alatti 18-as” biztonsági élményt alkalmazza. Bizonyos országokban akár személyi igazolvány feltöltése is kötelező lehet.
Szigorúbb szabályok tiniknek
Az OpenAI több változtatást vezet be a fiatalkorúak esetében:
- nem folytat flörtölő jellegű beszélgetést,
- nem beszél öngyilkosságról, még kreatív írás vagy szerepjáték keretében sem,
- ha egy tinédzser felhasználó öngyilkossági gondolatokat oszt meg, a rendszer megpróbálja értesíteni a szülőket, és ha ez nem sikerül, hatósági bejelentést tehet közvetlen életveszély esetén.
Tragikus előzmények
A bejelentésre néhány órával egy amerikai szenátusi meghallgatás előtt került sor, amely a chatbotok fiatalkorúakra gyakorolt hatását vizsgálta. A meghallgatáson megszólalt Adam Raine édesapja is, akinek fia hónapokon keresztül a ChatGPT-vel folytatott beszélgetések után lett öngyilkos.
Matthew Raine elmondása szerint a chatbot 1 275 alkalommal említette az öngyilkosságot a beszélgetéseik során. A gyászoló apa szerint a mesterséges intelligencia „tanácsadóból bizalmas baráttá, majd öngyilkossági edzővé” vált.
„Szülőként elképzelhetetlen érzés visszaolvasni egy olyan chatbot beszélgetését, amely végül a fiam halálához vezetett” – mondta Raine, aki felszólította Sam Altmant, hogy vonja vissza a GPT-4o-t a piacról, amíg nem tudja garantálni a biztonságát.
Egyre több tinédzser használ AI-t
A Common Sense Media nemrég publikált felmérése szerint az Egyesült Államokban a tinédzserek háromnegyede már rendszeresen használ AI-társat. A Szenátus előtt felszólaló szülők szerint ez „mentális egészségügyi válság”, amelyben a fiatalok sokszor nem szakemberektől, hanem algoritmusoktól kapnak válaszokat legmélyebb problémáikra.
Sam Altman bejelentése fontos lépés a fiatalkorúak online biztonsága felé, ugyanakkor a vita nem zárult le: a kérdés továbbra is az, hogy a mesterséges intelligencia képes-e egyszerre segíteni és védeni a felhasználókat anélkül, hogy közben súlyos károkat okozna.
