Tekoälymalli paljasti tuntemattoman Alzheimer-merkkiaineen
Kalifornialainen Goodfire avasi tekoälymallin sisäisen toiminnan ja löysi samalla uudenlaisen biomarkkerin Alzheimerin taudin tunnistamiseen verinäytteestä.
Löytö syntyi yhteistyössä epigenetiikka-yhtiö Prima Menten ja Oxfordin yliopiston kanssa. Tutkijat purkivat seitsemän miljardin parametrin Pleiades-mallin päätöksenteon osiin ja huomasivat sen nojaavan voimakkaasti DNA-fragmenttien pituuksiin. Erityisesti 147 ja 167 emäsparin kokoiset katkelmat nousivat esiin – ne liittyvät solujen nukleosomirakenteeseen, ja niiden yhteys Alzheimerin tautiin oli aiemmin tuntematon.
Pelkkiin fragmenttipituuksiin perustuva yksinkertainen malli tunnisti Alzheimerin lähes 80 prosentin luotettavuudella, kun aiemmat menetelmät jäivät 55 prosenttiin. Goodfire kuvaa löytöä ensimmäiseksi merkittäväksi luonnontieteelliseksi tulokseksi, joka on saatu purkamalla tekoälymallin sisäinen toiminta.
“Tämä on ensimmäinen merkittävä luonnontieteellinen löytö, joka on saatu purkamalla perusmallin sisäinen toiminta.”
Hallusinaatiot puolittuivat ilman uudelleenkoulutusta
Alzheimer-löytö ei ole ainoa esimerkki siitä, mihin tekoälyn tulkittavuus taipuu. Goodfire onnistui myös puolittamaan suuren kielimallin hallusinaatiot kohdentamalla muutokset suoraan niihin neuroverkon mekanismeihin, jotka virheellisiä vastauksia tuottivat.
Perinteisesti kielimallien korjaaminen vaatii massiivista uudelleenkoulutusta, joka nielee aikaa ja laskentatehoa. Goodfiren perustajien Tom McGrathin (aiemmin Google DeepMind) ja Nick Cammaratan (aiemmin OpenAI) kehittämä menetelmä toimii toisin: se tunnistaa neuroverkon sisältä ongelmalliset komponentit ja muokkaa vain niitä. Yhtiö kutsuu lähestymistapaa mallisuunnitteluksi – tulevaisuudessa tekoälymalleja ei vain kouluteta, vaan ne rakennetaan ymmärtäen jokaisen osan tarkoituksen.
Kohdennettu korjaaminen voi avata tekoälylle ovia aloille, joilla virheisiin ei ole varaa. Terveydenhuollossa, lakipalveluissa ja rahoitusalalla luotettavuus ratkaisee sen, otetaanko tekoäly käyttöön vai ei. Kun mallin toimintaa voi todentaa sisältäpäin, kynnys madaltuu.
