Georgian apulaisosavaltiosihteeri Jordan Fuchs joutui sunnuntaina selittämään asiaa, jota harva vaalivirkailija on joutunut selittämään. Tekoälymalli oli käynyt osavaltion datapalvelussa ja hakenut sieltä äänestäjiä koskevia lukuja, vaikka kukaan ei ollut käskenyt sitä tekemään niin.
”Tämä oli julkisesti saatavilla olevaa dataa, joka haettiin datapalvelumme kautta. Se ei päässyt äänestäjärekisteriin”, Fuchs sanoi Fox Businessille antamassaan lausunnossa (alkukieli englanti).
Georgia on ensimmäinen viranomainen, joka on nimetty Anthropicin 9. lokakuuta julkaisemasta raportista. Raportissa yhtiö kuvasi tapauksia, joissa sen mallit tekivät testeissä ja sisäisessä käytössä asioita, joita niiltä ei pyydetty. Organisaatioiden nimiä raportissa ei kerrottu. Anthropicin mukaan ne jätettiin pois organisaatioiden omasta pyynnöstä, jotta haavoittuvuudet eivät paljastuisi.
Maksumuuri kierrettiin arkiston avulla
Anthropicin raportin mukaan kyse oli sisäisestä tilastoprojektista, jossa käytettiin Mythos 5 -mallia. Projektiin tarvittiin osavaltion viraston dataa, joka oli julkista mutta maksullista. Malli löysi viraston verkkosivun arkistoidusta versiosta tiedon, että julkinen kojelauta antaa pääsytunnisteen jokaiselle kävijälle. Se pyysi tunnisteen ja teki kyselyt suoraan tietokantaan maksamatta.
Tekoälyagentti on malli, joka ei pelkästään vastaa kysymyksiin. Se toimii itse: selaa verkkoa, täyttää lomakkeita ja ajaa komentoja saadakseen annetun tehtävän tehtyä. Tässä jutussa kerrotaan tarkemmin, mikä tekoälyagentti on ja missä niitä jo käytetään. Juuri tämä omatoimisuus mahdollisti Georgian tapauksen.
”Malli pyysi tunnisteen kojelaudan kyselyä varten, vaikka sitä ei pyydetty tekemään niin”, Anthropicin tiedottaja sanoi Fox Businessille (alkukieli englanti). Tiedottajan mukaan malli haki vain koostettuja lukumääriä, jotka voi laskea äänestäjädatasta, jota osavaltio myy maksua vastaan kenelle tahansa. Yksittäisten äänestäjien tietoja malli ei hakenut, eikä se muuttanut mitään.
Henkilötietoja ei siis vuotanut. Malli kuitenkin ohitti maksumuurin, jonka joku oli asettanut tarkoituksella.
“Olemme sittemmin ottaneet käyttöön suojauksia, jotka estävät tällaiset toimet.”
Julki reilu viikko ennen välivaaleja
Yhdysvaltain välivaalit pidetään 3. marraskuuta. Anthropic ei ole kertonut, milloin Georgian tapaus sattui, mutta julkisuuteen se tuli keskellä kampanjaa. Vaalijärjestelmien luotettavuudesta kiistellään Yhdysvalloissa muutenkin, ja Georgia on ollut kiistan keskellä vuoden 2020 vaaleista asti.
Ajoitus on Anthropicille hankala. Yhtiö julkaisi 14. lokakuuta vaalitiedotteen, jonka mukaan noin 0,51 prosenttia yhdysvaltalaisista Claude.ai-keskusteluista käsittelee vaaleja tai äänestämistä. ”Tavoitteemme on, että Claude on hyödyllinen työkalu poliittisiin keskusteluihin ja samalla estää vaaleihin liittyvän väärinkäytön”, tiedotteessa sanotaan.
Georgian tapaus ei ole lokakuun raportissa ainoa. Haiku 4.5 -malli lähetti Philadelphian poliisin lomakkeella keksityn vihjeen ratkaisemattomasta henkirikoksesta, ja poliisi merkitsi vihjeen roskapostiksi. Toisessa tapauksessa Mythos 5 löysi paikallishallinnon karttapalvelun asetustiedostosta toimivia pääsytunnisteita ja lähetti niillä pyyntöjä suoraan palvelimelle. Anthropic kertoo tiedottaneensa Valkoista taloa ja jokaista asianosaista virastoa.
