Englantilainen potilas avasi omat potilastietonsa ja löysi sieltä diagnoosin, jota hänellä ei ollut. Tutkimustuloksessa oli lukenut ”null demyelination”. Se tarkoittaa, ettei hermosolujen suojakerroksessa näkynyt vauriota. Lääkärin sanelun purkanut tekoäly pudotti kieltosanan pois, ja potilastietoihin jäi pelkkä ”demyelination”.
Sana katosi, merkitys kääntyi päinvastaiseksi. Löydöksettömästä tuloksesta tuli löydös, joka liitetään muun muassa MS-tautiin. Virheen huomasi potilas, ei lääkäri.
Tapaus on yksi Healthwatch Englandin keräämistä. Healthwatch on Englannin lakisääteinen potilaiden edunvalvoja, ja se kokosi potilaiden kokemuksia lääkärien käyttämistä tekoälysanelimista. Tulokset kerrottiin julkisuudessa elokuun viimeisenä päivänä.
“Yhdessä yhteenvedossa oli väärä diagnoosi. Koska olen itse terveydenhuollon ammattilainen, huomasin virheen ja huomautin siitä.”
Prozac, jota kukaan ei määrännyt
Demyelinaatiotapaus ei jäänyt yksittäiseksi. Yhdessä tapauksessa sanelin vaihtoi määrätyn lääkkeen samantapaiselta kuulostavaan toiseen valmisteeseen. Toisessa erikoislääkärin ohje uusia migreenilääkitys puuttui muistiinpanoista kokonaan. Kolmannessa potilastietoihin ilmestyi merkintä, että lääkäri oli määrännyt Prozacia. Sitä ei ollut määrätty eikä siitä ollut puhuttu.
Healthwatch Englandin varoitus on suora: virheet voivat jäädä potilastietoihin, jos potilas ei huomaa niitä. Merkintä kulkee mukana seuraavaan hoitokontaktiin ja seuraavaan sen jälkeen.
Englannin terveydenhuollossa on käytössä 27 eri sanelutekoälyä. Yhtenäistä kansallista valvontaa niillä ei ole.
Brittien lääkeviranomainen MHRA veti rajan heinäkuun lopussa. Ohjeen mukaan järjestelmä, joka pelkästään litteroi keskustelun, tiivistää sen, luonnostelee kirjeen tai ehdottaa diagnoosikoodeja lääkärin tarkistettavaksi, ei ole lääkinnällinen laite. Vasta jos ohjelma tukee diagnosointia, hoitoa tai ehkäisyä tai toimii itse, esimerkiksi tekee tilauksia ilman lääkärin hyväksyntää, se on laite ja sitä koskevat turvallisuus- ja suorituskykyvaatimukset.
Raja on selvä, mutta sen sivuvaikutus on sekin: valmistajan kannattaa markkinoida ohjelmaansa mahdollisimman passiivisena kirjurina.
“Ohjeen tarkoitus on tuoda selvyyttä siihen, missä sääntelyn raja kulkee tässä nopeasti kasvavassa teknologiassa.”
Pohjois-Savossa katosi sama sana
Suomessa sama virhetyyppi kirjattiin jo keväällä. Yle kertoi toukokuussa Pohjois-Savon hyvinvointialueen terveyskeskuslääkäristä Keijo Eskolasta, joka alkoi kerätä puheentunnistuksen virheitä muistiin. Yhdessä sanelussa ”25 milligrammaa” muuttui muotoon ”2, 0 ja 5 milligrammaa”. Toisessa lause ”potilaalla ei tuumoria aivoissa” tuli ulos ilman kieltosanaa. Eskola sanoi Ylelle, että lääkeaineesta riippuen tulos olisi joko turvallista tai hyvin vaarallista.
Alueella käytössä oleva Inscripta Direct on tekoälypohjainen puheentunnistusratkaisu, jonka tunnistustarkkuudeksi ilmoitetaan keskimäärin 96–98 prosenttia. Loput ovat niitä prosentteja, jotka lääkärin pitäisi ehtiä lukea.
Johtajaylilääkäri Antti Hedman kertoi Ylelle, ettei mitään vakavaa potilasturvallisuuteen liittyvää vaaratilannetta ole ollut. Puolessa vuodessa kirjattiin viisi vaaratapahtumailmoitusta, joista yksikään ei ollut vakava. Lääkäriliiton hallituksen jäsen Anu Muraja muotoili asian toisin: ”Kun aletaan puhua, voiko tulla potilasturvallisuutta vaarantavia virheitä, niin silloin systeemi pitää saada kuntoon.”
Taustalla on raha. Pohjois-Savo tavoitteli puheentunnistuksella noin kahden miljoonan euron säästöä ja irtisanoi kymmeniä sihteereitä ja tekstinkäsittelijöitä, jotka olivat aiemmin purkaneet lääkärien sanelut tekstiksi.
Kyse ei ole yhdestä alueesta. Inscripta kertoi huhtikuisessa tiedotteessaan, että sen ratkaisua käyttää tuhansia sosiaali- ja terveydenhuollon ammattilaista ja että se on käytössä yli puolella Suomen hyvinvointialueista. Kilpailevia tuotteita on markkinoilla useita. Yhtiön perustaja Peter Smit tiivisti hyödyn tiedotteessa: ”Dokumentoinnista vapautuva aika voidaan käyttää hoitoon, tukeen ja kohtaamiseen.”
Kaksi virastoa, ei yhtä vastausta
Suomessa valvonta jakautuu kahtia. Lääkinnällisiä laitteita valvoo Fimea, jolle tehtävä siirtyi Valviralta vuoden 2021 alusta. Sosiaali- ja terveydenhuollon tietojärjestelmiä valvoo Lupa- ja valvontavirasto, joka aloitti toimintansa 1. tammikuuta 2026 ja johon Valvira sulautui. Toimittajan kannattaa siis lakata soittamasta Valviraan, sitä ei enää ole.
Tietojärjestelmät luokitellaan A- ja B-luokkiin. A-luokan järjestelmiltä vaaditaan sertifiointi, B-luokassa riittää valmistajan oma selvitys vaatimustenmukaisuudesta. Järjestelmä on rekisteröitävä ennen käyttöönottoa, ja olennaiset vaatimukset on kirjattu THL:n määräyksiin 4/2024 ja 5/2024. Sanelutekoäly ei tässä kehikossa ole lääkinnällinen laite sen enempää kuin Englannissakaan, jos se ei tee muuta kuin kirjoita.
EU:n tekoälyasetuksen (EU) 2024/1689 yleinen soveltaminen alkoi elokuussa 2026. Korkean riskin järjestelmiä koskevat velvoitteet siirtyivät kuitenkin digitaalisen omnibus-paketin myötä eteenpäin: itsenäisten korkean riskin järjestelmien osalta joulukuulle 2027 ja tuotteisiin sisältyvien osalta elokuulle 2028. Fimea on kertonut vahvistavansa tekoälyn valvontaan liittyvää osaamistaan asetuksen takia.
Sanelutekoälyt ehtivät siis olla käytössä vuosia ennen kuin niitä koskeva sääntely puree, jos ne edes osuvat korkean riskin luokkaan.
