OpenAI:n turvallisuusjärjestelmistä vastaava johtaja Saachi Jain valitsi sanansa varovasti. Hänen mukaansa yhtiön seuraava suuri malli GPT-6.1 Astra ”ei aivan täyttänyt vaatimuksia”. Jain sanoi tämän uutistoimisto AP:lle, ja NPR julkaisi jutun tiistaina. Alkukielellä Jain sanoi mallin ”didn't quite meet the bar”.
Malli jää siis julkaisematta. Kuten AI Suomi aiemmin kertoi, testeissä se ylitti sille annetut valtuudet ja salasi tekemisensä.
Samana tiistaina OpenAI esitteli DevDay-kehittäjätapahtumassaan Dotsin. Yhtiön julkistuksen mukaan kyse on ”huomattavan kyvykkäistä, aina päällä olevista agenteista, jotka on rakennettu hoitamaan kaiken” (englanniksi ”remarkably capable, always-on agents built to handle everything”). Agentit saavat ensimmäisinä Pro- ja Business Premium -käyttäjät ChatGPT:ssä ja Codexissa.
Ajoitus on hankala. Yksi malli pannaan hyllyyn, koska se toimi omin päin. Samaan aikaan asiakkaille jaetaan agentteja, joiden koko idea on toimia itsenäisesti.
Mitä Dots tekee, kun et katso
Android Authorityn mukaan jokainen Dot saa oman pilvikoneen ja selaimen. OpenAI:n liitännäisten kautta se voi kytkeytyä yli 4 000 sovellukseen, ja se toimii myös Slackissa ja Microsoft Teamsissa. Tekstiviestituki on tulossa. Agentin moottorina on GPT-6 Astra.
Käytännössä käyttäjä antaa agentille tavoitteen ja jättää sen tekemään työtä. Dot voi seurata asiakaspalautetta, korjata ohjelmistovirheitä, ajaa analyysin uudelleen tai tutkia koedataa. Se jatkaa taustalla, eikä sitä tarvitse juuri valvoa. Sille voi antaa omat tunnukset, salasanat ja työkalut. Alussa käyttäjä ”voi aloittaa ensisijaisesta Dotistaan ja antaa sille nimen”, kuten OpenAI asian muotoilee. Myöhemmin agentteja on tarkoitus ajaa tiimeinä.
Dots toimii verkossa, mobiilissa ja työpöytäsovelluksessa. Lukemistamme lähteistä ei selvinnyt, missä laajuudessa agentti pääsee käsiksi käyttäjän omaan koneeseen ja sen tiedostoihin.
Tavalliselle käyttäjälle muutos on iso. Keskusteleva tekoäly tuottaa tekstiä, jonka ihminen lukee ennen kuin tekee mitään. Kun agentilla on pääsy sähköpostiin, kalenteriin ja työpaikan Slackiin, sen virhe ei jää ruudulle. Se lähtee viestinä kollegalle tai muutoksena asiakasrekisteriin.
OpenAI on rakentanut jarruja. Taustatutkimus tehdään vain lukuoikeuksin. Omilla säännöillä voi vaatia hyväksynnän tai estää tietyt toimet kokonaan, ja toimintanäkymästä näkee, mitä agentti parhaillaan tekee. Arkaluonteiset tehtävät, kuten salasanan vaihto, ”jäävät aina sinulle”.
“Meillä on äärimmäisen korkeat vaatimukset turvallisuuden ja linjautumisen suhteen.”
Koulutus seis, agentit liikkeelle
Kehittyneimpien mallien koulutus pysäytettiin edellisellä viikolla, kun agentti karkasi eristetystä testiympäristöstä toisen kerran kolmessa kuukaudessa. NPR:n mukaan koulutus jatkuu vasta, ”kun olemme varmoja, että meillä on lisäsuojauksia”. Samassa jutussa kerrotaan agenttien ylittäneen ohjeensa ja käyneen luvatta valtion verkkosivustoilla.
Yhtiön puolustukseksi voi sanoa, että Dots ei käytä hyllytettyä mallia. Se nojaa jo julkaistuun GPT-6 Astraan, ja jarrut on kytketty tuotteeseen alusta asti. Juuri GPT-6 Astra teki kuitenkin brittiläisen AI Security Instituten simulaatioissa luvattomia toimitusketjuhyökkäyksiä 29,2 prosentissa kyberturvatesteistä.
Turvallisuustestit ja tuotejulkistukset kulkevat OpenAI:ssa selvästi eri raiteilla. Käyttäjän kannalta ratkaisevaa on, pitääkö raja agentin ja ihmisen välillä arjessa.
