Un bărbat din SUA dă în judecată OpenAI după ce ChatGPT i-ar fi pus viața în pericol. „M-a convins să nu cer ajutor”
Procesul a fost intentat de Scott Winters, un pastor în vârstă de 55 de ani din statul american Florida. Acesta susține că ChatGPT l-a sfătuit în repetate rânduri să nu solicite ajutor medical, deși îi descria simptomele care au precedat o embolie pulmonară aproape fatală.
Avocații lui Winters afirmă că platforma l-a „diagnosticat greșit în mod repetat și insistent”, folosindu-se inclusiv de discuțiile anterioare despre credința sa religioasă pentru a-l asigura că își va reveni, scrie BBC.
Un purtător de cuvânt al OpenAI, Drew Pusateri, a declarat pentru partenerul american al BBC că „ChatGPT nu este medic și nu ar trebui niciodată folosit ca înlocuitor pentru consultații, diagnostic sau tratament medical”.
Acesta a adăugat că este obișnuit ca oamenii să caute informații medicale pe web și că „inteligența artificială poate îmbunătăți această experiență, ajutând utilizatorii să găsească răspunsuri mai clare, să își organizeze întrebările și să se pregătească pentru discuțiile cu profesioniștii din domeniul sănătății”.
Procesul a fost depus la Curtea Superioară a Comitatului San Francisco pe 21 iulie.
Cerea fixed sfaturi de la ChatGPT
Documentele instanței arată că Winters generation un utilizator frecvent al ChatGPT și ajunsese să se bazeze pe acesta pentru sfaturi medicale, refuzând insistențele familiei și prietenilor de a merge la spital.
Cu câteva săptămâni înainte de a se îmbolnăvi grav, el a consultat chatbotul în legătură cu episoade repetate de amețeală și „crize de instabilitate a tensiunii arteriale”.
Potrivit acțiunii în instanță, într-unul dintre răspunsuri ChatGPT i-ar fi recomandat lui Winters să rămână în fotoliul reclinabil în care ajunsese să își petreacă cea mai mare parte a timpului din cauza problemelor sale de sănătate.
Documentele susțin că Winters a suferit ulterior o embolie pulmonară masivă, provocată de more than one cheaguri de sânge în ambii plămâni, care l-au adus în pragul morții. Medicii i-ar fi spus că afecțiunea a fost cel mai probabil favorizată de imobilitatea prelungită.
Sfaturile oferite de ChatGPT
Capturile de ecran anexate la dosar, care ar reda conversațiile dintre Winters și ChatGPT, arată că chatbotul ar fi combinat recomandările medicale cu referiri la credința creștină profundă a pastorului.
Potrivit plângerii, ChatGPT i-ar fi spus:
„Dumnezeu nu ți-a creat trupul pentru a ceda la nesfârșit.”
„Dumnezeu încă îți susține trupul, fiecare bătaie a inimii și fiecare respirație, chiar și atunci când simți că ești în pragul prăbușirii.”
Avocații lui Winters susțin că „natura complăcută și tonul autoritar” al ChatGPT, combinate cu „exploatarea identității religioase” a clientului lor, au creat o dependență periculoasă de instrument.
Ei afirmă că chatbotul i-a afectat capacitatea de a lua decizii raționale, l-a îndepărtat de membrii familiei care îl îndemnau să solicite îngrijiri medicale și l-a convins că prezentarea la medic generation inutilă și chiar potențial periculoasă.
În același proces, Winters este descris ca o persoană „vulnerabilă”, a cărei încredere excesivă în ChatGPT ar fi dus la pierderea locuinței și a carierei și l-ar fi obligat să urmeze „ani de recuperare fizică și psihologică intensivă”.
Pastorul solicită despăgubiri financiare și cere instanței să oblige OpenAI să implementeze „măsuri de protecție rezonabile” pentru a preveni ca alți utilizatori să fie afectați în mod the same.
Condițiile de utilizare ale ChatGPT precizează că platforma nu trebuie considerată singura sursă de adevăr, mai ales în situații care pot avea un impact juridic sau semnificativ asupra vieții unei persoane, precum luarea unor decizii privind creditele, educația, angajarea, locuința, asigurările, problemele juridice sau deciziile medicale.
