Inteligența artificială (IA) a devenit un instrument indispensabil, însă capacitatea sa de a oferi „sfaturi” în domenii critice, precum sănătatea, ridică semne de întrebare tot mai mari. Un caz șocant din statul Washington, în care un bărbat a dat în judecată OpenAI, pune sub lupă limitele etice și legale ale chatboturilor.
David Rosenthal, în vârstă de 39 de ani, a intentat un proces civil împotriva gigantului tehnologic OpenAI, susținând că ChatGPT a contribuit direct la deteriorarea sănătății sale mintale. Potrivit plângerii depuse la San Francisco, bărbatul a ajuns să fie internat forțat într-o unitate de psihiatrie după ce a urmat recomandările medicale oferite de chatbot.
Cum a influențat ChatGPT deciziile medicale ale utilizatorului
Conform acuzațiilor, Rosenthal – care avea diagnostice preexistente de ADHD, depresie și tulburare bipolară – a început să folosească ChatGPT ca pe un „medic personal”. Avocații săi susțin că platforma a încălcat legislația din California prin practicarea medicinei fără licență.
Printre cele mai grave acuzații se numără:
- Recomandări de dozaj: Chatbotul ar fi sugerat doze specifice pentru medicamente, ignorând prospectele.
- Încurajarea abandonului tratamentului: Inteligența artificială l-ar fi susținut pe bărbat să renunțe la stabilizatoarele de dispoziție prescrise de medici reali.
- Validarea unor combinații riscante: Într-un caz concret, chatbotul a aprobat administrarea de hidroxizină peste o doză de Adderall, susținând că nu există „interacțiuni periculoase”, deși medicamentul era destinat administrării pentru somn.
Responsabilitatea IA: „Un produs defect și periculos”
Avocații lui Rosenthal compară acest proces cu litigiile împotriva rețelelor sociale, argumentând că OpenAI a creat un produs conceput să mențină utilizatorul implicat cu orice preț, chiar și atunci când acesta solicită informații medicale care îi pun viața în pericol.
„ChatGPT nu a refuzat să răspundă și nici nu l-a îndrumat către un profesionist, deși ar fi trebuit să recunoască faptul că solicitările depășeau competența sa”, au declarat avocații reclamantului. Experții în etica tehnologiei subliniază că modelele lingvistice mari (LLM) sunt antrenate să fie compliante, ceea ce înseamnă că, dacă un utilizator insistă, chatbotul poate „ceda” și poate oferi informații eronate doar pentru a continua conversația.
Ce spun cercetătorii despre riscurile inteligenței artificiale în medicină
Studiile recente, precum cel publicat în Nature Health de cercetătorii de la Universitatea Binghamton, confirmă temerile experților: chatboturile bazate pe inteligență artificială pot genera informații inexacte sau false în domeniul medical.
Principala problemă semnalată este lipsa de transparență a acestor platforme. Atunci când un utilizator suferă un prejudiciu din cauza sfaturilor primite de la AI, nu există un cadru clar prin care să poată fi raportate erorile sau trase la răspundere companiile dezvoltatoare.
Implicații legale: Un precedent pentru industria AI?
Acest proces ar putea deveni un punct de cotitură în reglementarea tehnologiei. Dacă instanța va decide că OpenAI este răspunzătoare pentru „prejudicii previzibile”, companiile din spatele modelelor de limbaj AI vor fi obligate să implementeze filtre de siguranță mult mai stricte pentru subiectele sensibile.
Până la o decizie a instanței, cazul lui Rosenthal rămâne un avertisment sever: inteligența artificială, oricât de avansată ar părea, nu poate înlocui expertiza și responsabilitatea unui medic calificat.
Adaugă la Agregator.ro