Inc.-lehden kolumnisti Jason Aten kirjoitti syyskuun lopussa, että Metan uusi Muse-tekoälyagentti oli lukenut hänen Macillaan hänen yksityisviestejään. Jutun englanninkielinen otsikko oli suora: ”Meta's new Muse AI agent read my private messages. I never asked it to.” Suomeksi: ”Metan uusi Muse-tekoälyagentti luki yksityisviestini. En koskaan pyytänyt sitä.”
Meta kiistää väitteen. Kaksi päivää myöhemmin Apple kuitenkin ilmoitti kehittäjille, että se kiristää macOS:n Full Disk Access -oikeutta. Applen tiedote ei mainitse Metaa eikä Musea, mutta TechCrunch kytki ilmoituksen juuri tähän kiistaan.
Oikeus, joka ohittaa muut suojat
Full Disk Access on suomenkielisessä macOS:ssä nimeltään Koko levyn käyttö. Se on tehty alun perin varmuuskopiosovelluksille, joiden täytyy päästä käsiksi kaikkeen. Applen oman kuvauksen mukaan oikeus ohittaa suurelta osin ne suojaukset, jotka muuten pitävät käyttäjän yksityiset tiedot erillään sovelluksista.
Apple kirjoittaa 2. lokakuuta julkaistussa kehittäjätiedotteessa, että osa kehittäjistä käyttää oikeutta tavoilla, jotka paljastavat koko järjestelmän sisällön tiedostoista sähköposteihin, viesteihin ja selaushistoriaan, ilman että käyttäjä täysin ymmärtää, mihin suostuu. Yhtiö lupaa uusia kontrolleja, joiden jälkeen koko levyn käyttöoikeuden voi antaa vain ”hyvin nimenomaisella” käyttäjän toimella.
Aikataulua Apple ei kerro. Tiedotteessa ei myöskään mainita, mihin macOS-versioon muutos tulee tai miltä uusi lupakysely näyttää.
“Kun tekoälyagentit muuttuvat yhä kyvykkäämmiksi ja itsenäisemmiksi, tämäntasoiseen pääsyyn liittyvät riskit kasvavat huomattavasti.”
Huoli on ymmärrettävä. Tekoälyagentti ei vain vastaa kysymyksiin, vaan toimii koneella käyttäjän puolesta: avaa tiedostoja, lukee viestejä ja tekee asioita itsenäisesti. Kun sellaiselle ohjelmalle antaa pääsyn koko levyyn, se näkee kaiken saman kuin varmuuskopio-ohjelma.
Asia ei koske vain sinua. Apple huomauttaa, että viestisovellusten kohdalla vaarassa on myös niiden ihmisten yksityisyys, joiden kanssa viestit. Kaverisi WhatsApp- tai iMessage-viesti päätyy agentin luettavaksi, vaikka hän ei ole antanut lupaa mihinkään.
Muse ei ole ainoa tapaus, jossa Mac-tekoälysovelluksen tietoturva on puhuttanut. Wired kertoi aiemmin ChatGPT:n Mac-sovelluksen haavoittuvuudesta, jonka kautta hyökkääjät olisivat voineet päästä käsiksi arkaluontoisiin tietoihin.
Mitä Musessa tapahtui?
Atenin raportin mukaan Muse tiesi hänen viestiensä sisällöstä, vaikka koko levyn käyttöoikeus ei ollut päällä. Kun Aten kysyi agentilta, mistä se oli tiedot saanut, Muse vastasi TechCrunchin mukaan ”synkronoivansa laitteen ilmoituksia”. Aten tulkitsi tämän niin, että sovellus poimi Macin ilmoitusbannereiden tekstiä ja välitti sen agentille.
Meta torjuu tulkinnan jyrkästi. Viestintäjohtaja Andy Stone kirjoitti X:ssä englanniksi: ”The Messages integration in the Muse app for Mac is entirely opt-in. You have to enable both Full Disk Access and the Messages connector for Muse to be able to read your Messages content.” Suomeksi: ”Muse-sovelluksen Viestit-integraatio Macilla on täysin vapaaehtoinen. Sinun on otettava käyttöön sekä Full Disk Access että Viestit-liitin, jotta Muse voi lukea Viestien sisältöä.”
Meta Superintelligence Labsin johtaja David Singleton lisäsi Threadsissa, että pääsy vaatii kolme erillistä lupavaihetta sekä macOS:n omat suojaukset, joita ei hänen mukaansa voi kiertää, vaikka sovelluksessa olisi bugi. Singletonin mukaan agentti antoi Atenille väärän selityksen tapahtuneesta.
Kumpi on oikeassa, jää toistaiseksi auki. Metankin selitys kuitenkin päätyy samaan pisteeseen kuin Apple: viestien lukemiseen riittää, että käyttäjä on jossain vaiheessa napsauttanut koko levyn käyttöoikeuden päälle.
Näin tarkistat, millä sovelluksilla on pääsy koko levylle
Avaa Omenavalikko ja valitse Järjestelmäasetukset.
Valitse sivupalkista Tietosuoja ja suojaus. Joudut ehkä vierittämään alaspäin.
Valitse oikealta Koko levyn käyttö. Näet listan sovelluksista, ja jokaisen vieressä on kytkin.
Käy lista läpi. Jos sovelluksen kytkin on päällä, sillä on pääsy kaikkiin tiedostoihisi, myös Mailin, Viestien ja Safarin tietoihin.
Poista oikeus kääntämällä kytkin pois päältä. Jos haluat poistaa sovelluksen listalta kokonaan, valitse se ja osoita miinuspainiketta. macOS voi kysyä salasanaa tai Touch ID:tä.
Kaksi selitystä sille, miten Muse tiesi viestien sisällön
Tekoälysovelluksen lisäosa, joka yhdistää sen johonkin toiseen palveluun, esimerkiksi Viestit-sovellukseen tai sähköpostiin, jotta tekoäly voi lukea tai käyttää sen tietoja.
Kenelle oikeus kuuluu?
Listalta löytyy usein yllätyksiä. Varmuuskopio-ohjelmat ja virustorjunta tarvitsevat oikeuden aidosti, ja niiden kytkimet kannattaa jättää päälle. Tekoälyavustajan, muistiinpanosovelluksen tai pikakuvaketyökalun kohdalla kannattaa kysyä, miksi sen pitäisi nähdä koko kone.
Nyrkkisääntö on yksinkertainen. Jos et muista antaneesi lupaa, poista se. Sovellus kysyy uudelleen, jos se todella tarvitsee pääsyä, ja silloin päätät asiasta tietoisesti.
Applen muutos siirtää painopistettä kehittäjiltä käyttäjille. Tähän asti agenttisovellus on voinut pyytää laajimman mahdollisen oikeuden yhdellä ohjeikkunalla, ja moni on hyväksynyt sen lukematta. Jatkossa samasta päätöksestä tulee vaivalloisempi, ja se on tarkoituskin. Kehittäjille Apple viestii samalla, että koko levyn käyttöoikeus ei ole oikotie agentin ominaisuuksiin.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.