A mesterséges intelligencián alapuló nyelvi modellek ma már mindenki számára elérhetők, és bármilyen témában generálnak azonnal jól szerkesztett, magabiztos választ. Bár ezek a chatbotok gyorsak, kényelmesek és sokszor hasznosak lehetnek, ám veszélyes helyzeteket is teremthetnek. Egészségügyi kérdésekben kifejezettem fontos fenntartásokkal kezelni a kapott válaszokat, mert nem kizárható a helytelen diagnózis, a hamis biztonságérzet vagy éppen a felesleges szorongáskeltés veszélye.

A mesterséges intelligencia (MI, vagy angol neve alapján AI) az elmúlt évek egyik leggyorsabban fejlődő technológiája. A nagy nyelvi modelleken alapuló chatbotok már képesek kérdésekre válaszolni,  szövegeket értelmezni, sőt akár tanácsokat is adni. Az egészségügyben a mesterséges intelligencia valóban hasznos lehet. Segíthet az információk rendszerezésében, az orvosi szövegek egyszerűsítésében, vagy a vizsgálatra, orvosi konzultációra való felkészülésben is. Emellett bizonyos rendszerek az adminisztrációban, a képalkotó diagnosztikában vagy a kutatásban már most komoly támogatást nyújtanak a szakembereknek.

Ugyanakkor fontos tisztában lenni a technológia korlátaival is. Az AI nem orvos. Nem vizsgál meg senkit fizikailag, nem vállal felelősséget a válaszaiért, és nem mindig képes megkülönböztetni a valóban veszélyes helyzeteket az ártalmatlan problémáktól. Egy pontatlan vagy félrevezető válasz pedig komoly következményekkel járhat, különösen akkor, ha valaki kizárólag a chatbot tanácsaira hagyatkozik.

Pontatlan információk generálása (hallucináció)

A generatív mesterséges intelligencia egyik legismertebb problémája az úgynevezett hallucináció. Ez azt jelenti, hogy a rendszer olyan információkat állít biztosnak, amelyek valójában hibásak, pontatlanok vagy teljesen kitaláltak.

Egészségügyi témákban ez különösen veszélyes lehet, mert például nem létező gyógyszerkölcsönhatásokat említhet, hibás kezelési javaslatot adhat, vagy tévesen értelmezhet egy tünetet. Mivel az ilyen válaszok is gyakran logikusnak és szakmainak hangzanak, a felhasználó előismeretek nélkül könnyen hitelesnek fogadhatja el azokat.

Fontos! Minden AI által adott választ fenntartásokkal kell kezelni.

Az AI-generált válaszok ellenőrzési lehetőségeiről bővebben külön cikkben olvashat.

Megtévesztő magabiztosság

Az emberek hajlamosak jobban hinni annak, aki magabiztosan fogalmaz, különösen akkor, ha a válasz gyors, részletes és szakmainak hangzik. Az AI-alapú chatbotok sokszor rendkívül magabiztos stílusban kommunikálnak. Általában akkor is határozott választ adnak, amikor valójában „bizonytalanok” vagy nincs elegendő információjuk. A magabiztos hangnem a felhasználót megtévesztheti, elbizonytalaníthatja.

Fontos! Soha ne mellőzze az orvosi konzultációt! A személyes orvosi találkozón lehetőség van a felmerülő kérdések megbeszélésére, illetve egyéb egészségügyi problémák jelzésére. Korábban nem tapasztalt (akár enyhe) tünetek esetén is érdemes felvennie a kapcsolatot háziorvosával vagy kezelőorvosával, illetve tanácsot kérnie gyógyszerészétől.

Sürgősségi esetek nem megfelelő kezelése

Az azonnali orvosi beavatkozást igénylő (sürgősségi) helyzetekben minden perc számít. Ha valaki ilyenkor hosszasan az AI-val konzultál, értékes időt veszíthet.

Sürgősségi eseteknek tekinthetők többek között:

Egy chatbot nem képes valódi sürgősségi triázsra, hiszen nem látja a beteg fizikai állapotát, és azonnali beavatkozást sem tud kezdeményezni. Bár egyes rendszerek figyelmeztetnek arra, hogy sürgős esetben orvoshoz kell fordulni, de ezek a figyelmeztetések nem mindig egyértelműek vagy megfelelően hangsúlyosak.

Fontos! Hirtelen jelentkező, súlyos tünetek esetén hívja a 112-t, és kérjen mentőt, vagy kérjen azonnal segítséget a környezetében élőktől.

Félrediagnosztizálás, szükségtelen pánikkeltés

Az internetes öndiagnózis már korábban is ismert probléma volt, de az AI ezt tovább erősítheti azzal, hogy személyre szabottabbnak tűnő válaszokat ad. A beteg kórelőzményének, egészségügyi állapotának és életmódjának felmérése fontos része a diagnózis felállításának. Egy-egy tünet számos okra lehet visszavezethető, és az orvos feladata megtalálni a legvalószínűbbet.

A mesterséges intelligencia „diagnózisa” gyakran túl széles körű, vagy az információk hiányában nem a leglogikusabb magyarázatokat hangsúlyozza. Egy egyszerű fejfájást akár súlyos neurológiai problémával is összekapcsolhat, miközben egy banális ok sokkal valószínűbb lenne. Ez könnyen szorongást válthat ki, főleg olyanokban, akik érzékenyebbek erre a problémára. A túlzott aggodalom nemcsak mentálisan megterhelő, hanem felesleges vizsgálatokhoz és túlterhelt egészségügyi rendszerhez is vezethet.

Fontos! Ne használja a mesterséges intelligenciát öndiagnosztizálásra! Betegség gyanúja esetén keresse fel háziorvosát/kezelőorvosát, vagy kérje ki gyógyszerésze tanácsát!

Téves következtetések megerősítése, orvosi döntések felülbírálása

Az interneten és a közösségi médiában terjedő félrevezető információk gyakran okoznak problémát az egészségügyi ellátás során, és okoznak bizalomvesztést az érintettekben.

Az ember hajlamos inkább megerősítést keresni az objektív válaszok helyett. A ChatGPT-hez hasonló nyelvi modellek pedig – működésükből adódóan – alkalmazkodhatnak a felhasználó gondolatmenetéhez. Ez az elfogult válaszadás hozzájárulhat egy szkeptikus vagy téves nézőpont megerősítéséhez. Ez különösen veszélyes, amikor a beteg emiatt megkérdőjelezi a szakvéleményt, vagy nem követi az előírt kezelést.

Fontos! Az AI nem helyettesíti az orvos-páciens kapcsolatot, amelynek része a személyes vizsgálat, a tapasztalat és a tudományos bizonyítékalapú döntéshozatal is. Ha nem ért egyet kezelőorvosa döntésével, lehetősége van más orvostól másodvéleményt kérni. Háziorvosa, gyógyszerésze is segíthet a probléma megoldásában.

 

Ajánlott tartalom: A jó kérdés fél diagnózis? Promptolás az egészség témájában