Uvođenje vještačke inteligencije (AI) u medicinske uređaje donijelo je obećanja o većoj preciznosti i efikasnosti, ali je istovremeno otvorilo ozbiljna pitanja sigurnosti, pokazuje opsežna analiza Reutersa.
Američka Agencija za hranu i lijekove (FDA) zabilježila je nagli porast prijava kvarova i neželjenih događaja nakon što je kompanija Aklarent, u vlasništvu Johnson & Johnsona, 2021. godine uvela AI u navigacijski sistem TruDi, koji se koristi u operacijama sinusa. Prije integracije vještačke inteligencije FDA je zaprimila tek nekoliko prijava problema, dok je nakon toga evidentirano najmanje 100 prijavljenih kvarova i neželjenih događaja. Prema dostupnim izvještajima, najmanje 10 pacijenata povrijeđeno je u periodu od kraja 2021. do novembra 2025. godine.
U pojedinim slučajevima, kako se navodi u izvještajima i tužbama, sistem je pogrešno prikazivao položaj hirurških instrumenata tokom zahvata na glavi pacijenata, što je dovelo do curenja moždane tečnosti, probijanja baze lobanje i moždanih udara. Dvije osobe koje su pretrpjele moždani udar podnijele su tužbe u Teksasu, tvrdeći da je AI komponenta TruDi sistema doprinijela njihovim povredama. Kompanija Integra LifeSciences, koja je 2024. godine preuzela Aklarent, odbacila je ove navode, ističući da ne postoji dokaz o uzročno-posljedičnoj vezi između AI tehnologije i povreda.
Slučaj TruDi nije usamljen. Prema podacima FDA, trenutno je odobreno najmanje 1.357 medicinskih uređaja koji koriste vještačku inteligenciju, što je dvostruko više nego do 2022. godine. Reuters navodi da su zabilježene prijave problema i kod drugih uređaja – od ultrazvučnih aparata koji su pogrešno identificirali dijelove tijela fetusa, do srčanih monitora koji navodno nisu prepoznali abnormalne srčane ritmove.
Istraživanje univerziteta Johns Hopkins University, Georgetown University i Yale University pokazalo je da je 60 AI medicinskih uređaja bilo povezano sa 182 povlačenja proizvoda s tržišta, pri čemu se gotovo polovina tih povlačenja dogodila u roku kraćem od godinu dana od dobijanja dozvole.
Istovremeno, FDA se suočava s problemima u regulaciji ove oblasti. Prema izjavama sadašnjih i bivših zaposlenika, agencija je oslabila svoje timove za nadzor AI tehnologija nakon smanjenja broja stručnjaka, što otežava praćenje brzog rasta broja novih uređaja.
"Smatram da tradicionalni pristup FDA regulaciji medicinskih uređaja nije dorastao zadatku da osigura sigurnost i efikasnost tehnologija zasnovanih na vještačkoj inteligenciji", ocijenio je dr. Aleksander Everhart, stručnjak za regulaciju medicinskih uređaja.
FDA, s druge strane, poručuje da sigurnost pacijenata ostaje prioritet te da agencija nastavlja ulagati u razvoj stručnjaka za digitalno zdravlje i vještačku inteligenciju. Ističu da AI ima veliki potencijal u dijagnostici i liječenju, ali da zahtijeva strožiju i prilagođeniju kontrolu.