Această situație ridică întrebări serioase despre drepturile persoanelor decedate și responsabilitatea companiilor care dezvoltă tehnologie AI.
Descoperirea chatbotului creat fără permisiune
Drew Crecente a aflat întâmplător despre existența chatbotului printr-o alertă Google, la 18 ani după moartea tragică a fiicei sale, Jennifer Ann, ucisă de fostul ei iubit. Fără să fie informat sau consultat, a descoperit că pe platforma Character.ai fusese creat un chatbot care folosea numele și fotografia fiicei sale, împreună cu informații despre viața ei. Deși chatbotul a fost șters ulterior de pe platformă, existența sa a generat furie și confuzie pentru tatăl îndurerat, care a trebuit să retrăiască suferința pierderii.
Situația lui Jennifer Ann Crecente nu este un incident singular. Tehnologia AI a fost folosită anterior pentru a „resuscita” digital persoane decedate, în unele cazuri pentru a ajuta la procesul de doliu, iar în altele în scopuri comerciale sau de divertisment. Însă astfel de cazuri ridică probleme etice majore, mai ales atunci când consimțământul persoanei sau al familiei nu este cerut. Lipsa reglementărilor clare cu privire la utilizarea imaginii și identității celor decedați creează un teren incert, unde comemorarea poate deveni exploatare.
În cazul lui Jennifer Ann, chatbotul o descria ca fiind o persoană prietenoasă și „expertă în jurnalism și jocuri video”, detalii inspirate probabil de unchiul ei, Brian Crecente, o personalitate cunoscută în domeniu. Incidentul a provocat o reacție puternică din partea familiei, care s-a simțit trădată și expusă. Deși chatbotul a fost rapid eliminat, Drew Crecente a criticat modul în care platforma a gestionat situația, subliniind lipsa de comunicare directă și de măsuri proactive care să prevină astfel de incidente.
Nevoia urgentă de reglementare în domeniul AI
Această întâmplare evidențiază necesitatea unor reglementări clare și stricte în privința utilizării inteligenței artificiale, mai ales în ceea ce privește drepturile celor decedați. În momentul de față, nu este clar cine deține „drepturile” asupra imaginii unei persoane după moartea sa, iar specialiști în etică, precum Vincent Conitzer de la Oxford University, atrag atenția asupra acestui vid legislativ. În lipsa unor reglementări adecvate, familiile celor decedați pot fi afectate emoțional, iar memoria celor dragi riscă să fie exploatată în scopuri comerciale sau de divertisment.
Cazuri precum cel al lui Jennifer Ann Crecente aduc în discuție dilema protejării identității celor care nu mai sunt printre noi. Pe măsură ce tehnologia AI avansează, devine tot mai clar că societatea trebuie să găsească un echilibru între inovație și respectarea drepturilor individuale. Fără măsuri legislative și politici clare, riscul de a face mai mult rău decât bine este tot mai mare.
Incidentul de pe Character.ai reprezintă un avertisment important despre pericolele utilizării necontrolate a tehnologiei și responsabilitatea companiilor de a naviga cu grijă pe acest teren etic sensibil. Drew Crecente a cerut deja măsuri care să împiedice astfel de situații în viitor, iar nevoia de a proteja memoria celor decedați devine o urgență în era digitală.
