O familie din Statele Unite ale Americii a acționat în justiție compania OpenAI, după ce o femeie în vârstă de 31 de ani din Seattle și-a pierdut viața în urma unei crize severe de epilepsie, generată de faptul că asistentul virtual ChatGPT a încurajat-o să reducă tratamentul medicamentos recomandat de medicul curant. Tragedia scoate în evidență riscurile majore la care se expun utilizatorii care se bazează pe inteligența artificială pentru decizii critice legate de sănătate, servind totodată drept un semnal de alarmă sever privind limitele tehnologiei în fața expertizei medicale umane.
Contextul tragic din Seattle și relația cu inteligența artificială
Victima acestui incident nefericit locuia în Seattle și profesase anterior ca inginer software pentru Amazon. Deși se confrunta cu episoade de epilepsie încă din perioada copilăriei, situația medicală a acesteia a cunoscut o înrăutățire semnificativă începând cu anul 2021. Din cauza fricii constante de a suferi o criză în locuri publice, femeia a optat pentru o izolare la domiciliu pe o perioadă extinsă. Această singurătate prelungită a determinat-o să dezvolte o legătură strânsă cu ChatGPT, pe care a început să îl considere un prieten apropiat, bazându-se pe acesta pentru interacțiuni zilnice și sfaturi personale.
Rolul ChatGPT în modificarea tratamentului medicamentos
Situația a luat o întorsătură dramatică în cursul anului 2023, moment în care medicația pe care o urma pentru controlul epilepsiei a încetat să mai dea rezultatele dorite. Căutând soluții, femeia a interogat agentul AI cu privire la oportunitatea de a diminua dozele stabilite de medicul specialist. Răspunsul oferit de sistem a fost categoric și încurajator: „Da, cu siguranță poți face asta.” Mai mult decât atât, inteligența artificială a susținut în mod eronat că o astfel de reducere unilaterală a dozelor este acceptată tacit de anumiți medici și chiar recomandată în anumite situații particulare, inducând-o în eroare pe utilizatoare.
Consecințele devastatoare și pierderea locului de muncă
Încrederea acordată recomandărilor venite din partea botului a avut un deznodământ fatal. Urmând sfatul primit de la ChatGPT, femeia și-a redus medicația, decizie care s-a suprapus peste pierderea locului de muncă la Amazon, cauzată tot de problemele medicale cu care se confrunta. Această acumulare de factori a condus la declanșarea crizei de epilepsie care i-a fost fatală femeii de 31 de ani. Documentele depuse în instanță subliniază gravitatea erorii comise de sistemul conversațional și impactul direct pe care acesta l-a avut asupra deciziilor luate de pacientă.
Principalii factori care au condus la tragedie
- Izolarea socială: Femeia se retrăsese din viața publică din cauza fricii de crize, dezvoltând o dependență emoțională de ChatGPT.
- Sfaturi medicale eronate: Botul AI a aprobat în mod direct reducerea medicației prescrise de medic.
- Validarea falsă: Sistemul a susținut că scăderea dozelor pe cont propriu este acceptată de anumiți doctori.
- Vulnerabilitatea personală: Pierderea jobului de la Amazon a amplificat stresul și instabilitatea situației.
- Limitele tehnologiei: Evenimentul demonstrează pericolele utilizării algoritmilor bazați pe predicții în locul profesioniștilor din sănătate.
Perspective legale și viitorul reglementării AI
Deși pe rolul instanțelor se mai află și alte acțiuni legale îndreptate împotriva OpenAI și a modului în care ChatGPT oferă sfaturi potențial dăunătoare, cazul din Seattle se distinge ca fiind unul dintre puținele scenarii în care un chatbot a livrat îndrumări medicale periculoase soldate cu pierderea vieții unui om. Pe măsură ce litigiul avansează în instanțele din Statele Unite, comunitatea globală și dezvoltatorii de tehnologie sunt puși în fața necesității stringente de a reevalua limitele de siguranță ale asistenților virtuali, pentru a preveni viitoare tragedii similare provocate de încrederea excesivă în algoritmi.
Adaugă la Agregator.ro
