Annyira nem orvos a ChatGPT, hogy majdnem belehalt egy lelkész

A ChatGPT többek között vallási okokkal érvelte meg a lelkésznek, hogy miért ne menjen orvoshoz a súlyos tünetei ellenére sem.

Újabb per indult az OpenAI ellen: ezúttal egy amerikai lelkész állítja, hogy a ChatGPT félrevezető egészségügyi tanácsai miatt nem kapott időben megfelelő orvosi ellátást. A New York Times által összefoglalt kereset szerint Scott Winters a chatbothoz fordult a tüneteivel, amely azt közölte vele, hogy azok nem utalnak súlyos problémára, így később derült ki, hogy valójában több tüdőembóliája is volt, amik majdnem a halálát okozták.

A lap beszámolója alapján a ChatGPT nemcsak saját diagnózist és kezelési javaslatokat adott, hanem arra is biztatta a férfit, hogy ne hallgasson a családtagjai és ismerősei tanácsaira, akik orvoshoz küldték volna. A chatbot állítólag a vallásos meggyőződésére is hivatkozott, amikor azt írta neki, hogy Isten nem arra teremtette az emberi testet, hogy folyamatosan cserbenhagyja. A felperes szerint ezek a válaszok hozzájárultak ahhoz, hogy később fordult szakemberhez.

A kereset gondatlansággal és engedély nélküli orvosi tevékenységgel vádolja az OpenAI-t és Sam Altman vezérigazgatót. Emellett azt is kifogásolja, hogy a ChatGPT Health szolgáltatás egészségügyi dokumentumok feltöltésére ösztönzi a felhasználókat, miközben a rendszer a felperes szerint nem minden esetben működő biztonsági korlátokkal kezeli az orvosi kérdéseket. Winters nemcsak kártérítést követel, hanem azt is szeretné elérni, hogy a szolgáltatás működését függesszék fel addig, amíg független szakértők nem igazolják annak biztonságát.

Az OpenAI korábban többször hangsúlyozta, hogy a ChatGPT nem helyettesíti az orvosi diagnózist vagy kezelést, ezt a felhasználási feltételek is egyértelműen rögzítik. A vállalat ugyanakkor arra is bátorítja a felhasználókat, hogy egészségügyi dokumentumaikat is megosszák a ChatGPT Health szolgáltatással, és közlése szerint hetente mintegy 230 millió ember fordul a chatbothoz egészségügyi kérdésekkel. Vagyis igen nagy a veszélye annak, hogy emberek Winterséhez hasonló helyzetbe kerülhetnek, vagy akár rosszabba is.

Borítókép: depositphotos.com / MuhammadAlimaki