Kesken seurannan Anthropic julkaisi uuden Claude-mallin. Alle vuorokaudessa lähes puolet erään käynnissä olleen operaation liikenteestä oli ohjattu tuoreeseen malliin. Anthropicin mukaan operaatio liittyy kiinalaiseen MiniMaxiin, ja yhtiö kertoo katsoneensa sitä reaaliajassa ennen kuin MiniMaxin oma malli ehti ulos.
Tapaus on yksi kolmesta, jotka Anthropic kuvaa tuoreessa raportissaan mallin tislauksesta. Kokonaisluvut ovat isoja: noin 24 000 väärennettyä tiliä ja yhteensä 16 miljoonaa Claude-keskustelua.
Viranomaiset varoittivat samasta ilmiöstä kolme päivää aiemmin. NSA, FBI ja CISA nimesivät yhteisessä varoituksessaan kuusi kiinalaisyhtiötä, jotka niiden mukaan keräävät järjestelmällisesti yhdysvaltalaisten tekoälymallien tuotoksia, kuten AI Suomi aiemmin kertoi. Uutta on se, että nyt yksi kohteeksi joutuneista yhtiöistä panee omat lukunsa pöytään.
Mitä tislaus oikeastaan tarkoittaa
Tekniikkana tislaus on vanha ja täysin laillinen, kun sen tekee omilla malleillaan. Halvempi ja pienempi malli opetetaan kalliimman mallin vastauksilla: iso malli tuottaa kysymyksiin vastaukset, pieni malli harjoittelee matkimaan niitä. Lopputuloksena on malli, joka osaa osan isomman taidoista murto-osalla opetuskustannuksista.
Ongelma syntyy, kun opetusaineisto kerätään toisen yhtiön mallista vastoin käyttöehtoja. Anthropicin oma määritelmä on lyhyt: tislauksessa heikompi malli opetetaan vahvemman tuotoksilla. Yhtiön mukaan hyökkäyksen tunnistaa kolmesta merkistä. Valtava volyymi kapealla alueella, toistuvat rakenteet ja sisältö, joka osuu suoraan siihen mikä on opetusaineistona arvokkainta.
“Nämä kampanjat kasvavat voimakkuudeltaan ja kehittyneisyydeltään. Aikaikkuna toimia on kapea.”
Kolme nimeä, kolme eri kokoluokkaa
Raportilla ei ole nimettyä kirjoittajaa eikä siinä ole haastateltu ketään, joten kaikki sitaatit ovat yhtiön omaa tekstiä. MiniMaxiin liitetty operaatio on ylivoimaisesti suurin: yli 13 miljoonaa keskustelua, painopisteenä agenttimainen koodaus ja työkalujen ohjaus. Moonshot AI:hin liitetty kampanja kattaa yli 3,4 miljoonaa keskustelua ja satoja tilejä, ja se kohdistui koodaukseen, työkalujen käyttöön ja konenäköön.
DeepSeekiin liitetty erä on pienin, yli 150 000 keskustelua, mutta sisällöltään tarkimmin valittu. Claudea pyydettiin avaamaan päättelyketjunsa vaihe vaiheelta, mikä tuottaa juuri sitä aineistoa, jolla päättelymalleja opetetaan. Mukana oli myös pyyntöjä sensuurin kestävistä vaihtoehdoista poliittisesti aroille kysymyksille, esimerkiksi toisinajattelijoista ja autoritaarisuudesta. Anthropic kirjoittaa niiden ohjanneen DeepSeekin omaa mallia pois kielletyistä aiheista "todennäköisesti". Se sana kannattaa lukea mukaan.
Jakauma kannattaa lukea ääneen. MiniMaxin osuus on noin 81 prosenttia kaikista keskusteluista (oma laskelma: 13 miljoonaa jaettuna Anthropicin ilmoittamalla 16 miljoonan kokonaismäärällä), ja DeepSeekin osuus jää alle prosenttiin. Otsikkoluku ei siis kerro kolmesta samankokoisesta operaatiosta.
Tilit hankittiin niin sanotuista hydraklustereista eli kaupallisista välityspalveluista, jotka myyvät pääsyä Clauden rajapintaan eteenpäin. Yhdessä verkossa oli yli 20 000 väärennettyä tiliä yhtä aikaa. Tislausliikenne sekoitettiin tavallisiin kyselyihin, jotta se ei erottuisi.
Mitä yhtiö sanoo todistaneensa – ja mitä ei
Anthropic sanoo kohdistaneensa jokaisen kampanjan tiettyyn laboratorioon suurella varmuudella IP-korrelaation, pyyntöjen metatietojen ja infrastruktuurijälkien perusteella, joissakin tapauksissa alan kumppaneiden vahvistamana. Kyse on yhtiön omasta tutkinnasta. Kukaan ulkopuolinen ei ole vahvistanut lukuja, eivätkä DeepSeek, Moonshot AI tai MiniMax ole kommentoineet raporttia julkisuudessa.
Anthropic ei kerro, kuinka moni tili jäi löytymättä, kuinka montaa toimijaa se kaikkiaan tutki ennen kuin päätyi näihin kolmeen, eikä sitä, mistä hetkestä alkaen seuranta on ollut nykyisellä tasolla. Raja tislausliikenteen ja tavallisen rajapintakäytön välillä on yhtiön omassa harkinnassa.
