Innlent | Morgunblaðið | 8.5.2026 | 10:00 Er gervigreindin lélegur læknir? Gifs sett á brotinn fót á slysó. Þegar vinsælu gervigreindarforritin eru beðin að veita ráð um greiningu og sjúkdómsmeðferð þarf að sýna töluverða aðgát því allur gangur er á því hvort svörunum er trúandi. mbl.is/Golli Ásgeir Ingvarsson [email protected] Setja bókamerki Í nýlegri bandarískri rannsókn freistuðu vísindamenn þess að mæla getu gervigreindarforrita til að veita rétta sjúkdómsgreiningu. Rannsakendurnir fóru þá leið að mata gervigreindina á æ meiri gögnum til að byggja greininguna á og reyndust niðurstöðurnar mjög áhugaverðar. Þegar gervigreindin hafði fengið tæmandi upplýsingar um sjúklinginn veitti hún rétta sjúkdómsgreiningu í allt að 90% tilvika. En eftir því sem gögnin minnkuðu varð frammistaðan lakari, og í miklum meirihluta tilvika réð gervigreindin illa við mismunargreiningu byggða á takmörkuðum gögnum. Ef gögnin voru ekki tæmandi gáfu mörg vinsælustu mállíkönin ranga greiningu í allt að 100% tilvika. Steindór Oddur Ellertsson er á lokaári í sérnámi í heimilislækningum og einnig framkvæmdastjóri gervigreindartæknisprotans Careflux. Hann segir bandarísku rannsóknina minna á hvað gervigreindin getur verið gloppótt og tæknin vandmeðfarin þegar kemur að greiningu, meðhöndlun og upplýsingagjöf til sjúklinga. „Á sumum sviðum getur gervigreindin verið mjög öflug á meðan annars staðar kemur út algjör vitleysa, og veltur t.d. á því hvaða gagnasöfn voru notuð þegar gervigreindin var þjálfuð.“ Berskjaldaðir notendur og forrit sem fabúlera Það kemur lesendum varla á óvart að gervigreindin sé ekki óskeikul. Flestir sem hafa prófað sig áfram með þessa tækni hafa rekið sig á að mállíkönin eiga það stundum til að skálda og fara langt út af sporinu. Vandinn er að oft þarf notandinn að hafa frekar góða þekkingu á umræðuefninu til að koma auga á villurnar hjá gervigreindinni, en þegar fólk spjallar við mállíkönin um veikindi sín og sjúkdómseinkenni hafa einmitt fæstir næga sérfræðiþekkingu til að láta tæknina ekki villa um fyrir sér. Steindór Oddur Ellertsson. Steindór tekur undir að fólk sem t.d. stendur frammi fyrir alvarlegri sjúkdómsgreiningu, og byrjar að ræða málin við gervigreind, geti verið mjög berskjaldað og átt erfitt með að greina góð ráð frá slæmum. „Hluti af vandanum stafar af því að mállíkönin hafa verið þjálfuð til að gera notandanum til geðs og samþykkja það sem hann segir frekar en að andmæla, og stundum lætur gervigreindin sannleikann lönd og leið,“ útskýrir hann. „Það er búið að sýna fram á að ef notandi t.d. skiptist á skoðunum við mállíkan má, skref fyrir skref, leiða gervigreindina lengra og lengra frá sannleikanum, og eftir því sem farið er dýpra ofan í samtalið fylgir mállíkanið meira og meira þeim þræði sem notandinn vill halda sig við.“ Þar með er ekki sagt að fólk eigi að láta það alveg vera að bera heilsutengd mál undir gervigreindina, og getur verið fróðlegt, gagnlegt og huggandi að ræða við mállíkönin. Steindór segir að það þurfi hins vegar að sýna töluverða varkárni, og að bandaríska rannsóknin minni á að það sé ekki sama hvernig heilsufarsupplýsingar eru bornar á borð fyrir gervigreindina. „Eins og staðan er í dag er ekki hægt að treysta mállíkönunum í blindni fyrir svona verkefnum, og það verður að ganga úr skugga um bæði að gervigreindin fái réttar upplýsingar til að byggja svör sín á og eins þarf að sannreyna það sem hún ráðleggur,“ segir hann. „Eins og stendur eru mállíkönin greinilega ekki nógu áreiðanleg þegar kemur að greiningu, meðhöndlun og fyrirbyggingu sjúkdóma, en hins vegar má nota þau sem tæki til að finna upplýsingar sem koma að gagni, og koma fólki á sporið, en þá þarf alltaf að hafa á bak við eyrað tilhneigingu mállíkananna til að fabúlera.“ Brýnt að sannreyna það sem gervigreindin fullyrðir Halla Þorvaldsdóttir framkvæmdastjóri Krabbameinsfélagsins tekur undir margt af því sem Steindór segir. „Með gervigreindinni eru sjúklingar komnir með nýtt tól í hendurnar, og getur verið mikið gagn að því rétt eins og það var gagnlegt þegar netið og leitarvélarnar komu til sögunnar á sínum tíma. En það er lykilatriði að vera meðvitaður um takmörk tækninnar, og muna það t.d. að gervigreindin er ekki eins og óskeikul og sannreynd alfræðiorðabók. Það getur margt komið frá spunagreindinni sem er alls ekki rétt.“ Halla Þorvaldsdóttir. Halla bindur miklar vonir við að gervigreindarbyltingin muni hraða framförum í þróun lyfja og læknismeðferða af öllum toga, og nú þegar má sjá vísbendingar um að það verði ekki síst á sviði krabbameinslækninga sem merkilegustu framfaranna er von. „Vinnslugeta gervigreindarinnar mun vonandi breyta miklu varðandi greiningu og meðferð, og t.d. greiða leið einstaklingssniðinnar heilbrigðisþjónustu.“ Hún segir það líka eðlilegt að fólk leiti til gervigreindarinnar til að ræða málin ef einkenni eða rannsóknarniðurstöður vekja áhyggjur, eða eftir að hafa fengið alvarlega sjúkdómsgreiningu. „Fólk þarf bara að vera mjög meðvitað um að upplýsingarnar eru ekki óbrigðular og nauðsynlegt að hafa leiðir til að sannreyna það sem gervigreindin segir áður en fólk fer að vinna út frá þeim upplýsingum.“ Halla bendir á að víða megi finna upplýsingasíður þar sem búið er að safna saman vönduðum og vísindalega réttum upplýsingum. „Það á t.d. við um heimasíðu Krabbameinsfélagsins að þar höfum við jafnt og þétt byggt upp traustan upplýsingagrunn,“ segir hún og bætir við að krabbameinsfélög víða um heim hafi raunar varað við þeirri þróun að gervigreindarforritin, og aukið vægi gervigreindar í niðurstöðum leitarvélanna, séu að draga úr heimsóknum á vandaðar upplýsingasíður. „Fólk virðist oft byrja á að spyrja gervigreindina, eða leitarvélina, og lætur kannski þá stuttu gervigreindarsamantekt sem birtist nægja, leitar ekki dýpra, og fer þá mögulega á mis við gagnlegar viðbótarupplýsingar.“ Þegar eitthvað er of gott til að vera satt Það er gott, segir Halla, að sjúklingar og aðstandendur þeirra leiti sér upplýsinga um allt sem þeim liggur á hjarta. Þar geta mállíkönin vissulega verið gagnleg, stytt leiðina að svörunum, og þegar vel tekst til hjálpar tæknin fólki að skilja betur flókna sjúkdóma, lyfjameðferðir og læknisaðgerðir. „Þetta getur auðveldað fólki að vera virkir þátttakendur í sinni meðferð en lykilatriði að fólk veigri sér ekki við að ræða þær upplýsingar sem það hefur fundið við þá sem sinna meðferð þess. Það kemur ekkert í stað góðs og opins samtals og það er alltaf nauðsynlegt til að fólk sé á sömu blaðsíðu, sem skiptir mjög miklu máli þegar fólk er til dæmis að takast á við þunga krabbameinsmeðferð.“ Halla varar þó við því að þegar fólk með litla sérfræðiþekkingu byrjar upplýsingaleitina á netinu þá getur það lent í ógöngum, hvort sem gervigreind er notuð eður ei. Þegar útlit er fyrir baráttu við erfiðan sjúkdóm, þar sem lífið getur hreinlega verið í húfi, er ekki alltaf auðvelt að leggja hlutlaust og yfirvegað mat á hvaða upplýsingum má treysta og trúa, og alls kyns „töfralausnir“ geta virkað meira sannfærandi en þær eru kannski í raun: „Það fara reglulega á flug ýmiss konar bólur og undralausnir, og fullyrðingar um að tiltekin efni, fæðubótarefni eða breytingar á mataræði geti stórbætt líkurnar á bata eftir greiningu. Þar er gott að hafa það bak við eyrað að ef eitthvað virkar of gott til að vera satt, þá er það sennilega raunin. Í tilviki krabbameinslækninga þá eru góðu fréttirnar þær að framfarirnar hafa verið miklar, og í dag geta 75% þeirra sem fá krabbameinsgreiningu reiknað með að vera á lífi eftir fimm ár,“ segir hún. „Því miður á það ekki við um öll krabbamein og við eigum ennþá mjög langt í land með mörg mein, þar sem lífshorfurnar eru mun verri. Vonandi getur ör tækniþróun flýtt framförum í þeim tilvikum.“ Tvær af hverjum þremur vinnustundum lækna geta farið í að skrá og skjala Gervigreind minnkar pappírsvinnuna til muna Þó að gervigreind séu takmörk sett þegar kemur að því að ráðleggja sjúklingum þá er ljóst að tæknin mun og hefur nú þegar umbylt heilbrigðisþjónustu. Gott dæmi um þetta er tæknisproti Steindórs, Careflux.ai, sem hefur þróað mállíkön sem eru sérsniðin að þörfum heilbrigðisstarfsfólks og létta því störfin. Nú þegar eru tvær vörur félagsins komnar í notkun víða í íslenska heilbrigðiskerfinu: Annars vegar er Skríban, sem skráir samtöl við sjúklinga í rauntíma, útbýr læknisnótur og gerir tillögur að lyfseðlum og eyðublöðum. Hins vegar er Merkúr sem heldur utan um öll samskipti við sjúklinga á einum stað, myndar svartillögur og samstillir við önnur kerfi. „Mælingar hafa leitt í ljós að fyrir hverja klukkustund sem læknir hefur til að hitta sjúklinga fara tvær klukkustundir í að skrá og skjala. Með öðrum orðum fer drjúgur hluti vinnutímans í pappírsvinnu,“ segir Steindór. „Gervigreindin okkar hefur verið að skila allt að 60% tímasparnaði í kringum þessi verk, og það sem meira er þá dregur úr svokölluðu hugrænu álagi svo að vinnudagur heilbrigðisstarfsfólks virkar auðveldari og ánægjulegri, en það er einmitt þetta hugræna álag sem oft leiðir til kulnunar. Framleiðni eykst og fólk fær meiri tíma til að sinna þeim hluta vinnunnar sem því þykir mest gefandi.“ Fáðu aðgang að þessari grein Með áskrift færðu fullan aðgang að öllum læstum greinum Árvakurs — vandað, fjölbreytt og traust efni, hvar og hvenær sem er. Þannig styður þú íslenska fjölmiðlun og hjálpar okkur að halda áfram að segja sögurnar sem skipta máli. Tryggðu þér aðgang núna. Skoða áskriftarleiðir Innskráning Gleymt lykilorð? Kennitala: Lykilorð: Ertu ekki með notendaaðgang? Fara í nýskráningu . Fáðu þér áskrift til að lesa áfram Þú ert innskráð(ur) sem ... en ert ekki með áskrift. Aðgangur að þessari frétt í fullri lengd krefst áskriftar að Morgunblaðinu, rafræns aðgangs á borð við vikupassa eða séráskriftar að viðkomandi efnisflokki á mbl.is. Kynntu þér áskriftarleiðirnar Ég er nú þegar áskrifandi Ég er ekki með notendaaðgang Nánar um málið í Morgunblaðinu Áskrifendur: Lesa blaðið hér Blogga um frétt Nánar um málið í Morgunblaðinu Áskrifendur: Lesa blaðið hér Nýjast á mbl.is » Íbúum landsins fjölgaði um 520