Modely AI majú problémy rozpoznať zhoršenie zdravotného stavu

Washington 12. marca (TASR) – Systémy umelej inteligencie (AI) navrhnuté tak, aby predpovedali pravdepodobnosť úmrtia hospitalizovaného pacienta, vo veľkej miere nedokážu zistiť jeho zhoršujúci sa zdravotný stav. Vyplýva to zo záverov štúdie publikovanej v žurnále Communications Medicine časopisu Nature, na ktorú sa odvolal spravodajský portál Axios, píše TASR.

Modely predpovedania pravdepodobnosti úmrtia, ktoré sú založené na strojovom učení, môžu byť podľa autorov štúdie nesmierne užitočné, napríklad na jednotkách intenzívnej starostlivosti. Takýto model by mal vedieť lekárov upozorniť, keď sa stav pacienta prudko zhorší alebo jeho životné funkcie dosahujú abnormálne hodnoty.

Odborníci preskúmali niekoľko modelov strojového učenia, ktoré sa bežne uvádzajú v lekárskej literatúre na účely predpovedania zhoršenia stavu pacienta. Týmto strojom následne poskytli verejne dostupné súbory údajov o zdravotnom stave a ukazovateľoch pacientov, ktorí sú na JIS alebo majú rakovinu.

Potom vytvorili testovacie prípady pre modely, aby predpovedali potenciálne zdravotné problémy a mieru rizika, ak sa niektoré ukazovatele pacienta oproti pôvodnému súboru údajov zmenia.

Zo záverov ich výskumu vyplýva, že systémy AI vytrénované výlučne na existujúcich údajoch o pacientoch majú vážne až nebezpečné nedostatky – nerozpoznali približne 66 percent zdravotných ťažkostí, ktoré by mohli viesť k úmrtiu hospitalizovaného pacienta.

„Od modelov chceme, aby robili závažné rozhodnutia, a preto naozaj potrebujeme zistiť…, v akých podmienkach dokážu fungovať,“ uviedla autorka štúdie a profesorka informatiky na polytechnickej univerzite Virginia Tech v americkom štáte Virgínia Tan-feng Jao. Výskum podľa nej dokazuje, že trénovať modely iba pomocou údajov nestačí a je dôležité, aby technológie používané pri rozhodovaní o starostlivosti o pacientov zahŕňali aj lekárske poznatky.