Red Hat on käynnistänyt uuden asago-nimisen avoimen lähdekoodin projektin, jonka tavoitteena on kuroa umpeen tekoälyn hallintopolitiikan ja käytännön ohjelmistokehityksen välinen kuilu. Projektin tarkoituksena on muuttaa organisaatioiden AI-politiikat, riskivaatimukset ja sääntelyvelvoitteet konkreettisiksi testeiksi ja tuotantoympäristössä toimiviksi teknisiksi kontrolleiksi.
Asago julkaistaan Apache License 2.0 -lisenssillä, ja projekti on vielä muodostumisvaiheessa. Sen GitHub-repositorio on kuitenkin jo avattu kehittäjille, tutkijoille ja yrityksille.
Red Hatin mukaan tarve tällaiselle työkalulle kasvaa nopeasti muun muassa EU AI Actin vaatimusten tullessa voimaan. Yrityksillä voi olla tarkkojakin AI-hallintaperiaatteita, mutta niiden muuttaminen käytännön ohjelmistoteknisiksi rajoituksiksi vaatii edelleen paljon manuaalista työtä.
Asago pyrkii automatisoimaan juuri tämän prosessin.
AI-politiikka muutetaan ensin riskiprofiiliksi
Asagon työnkulku jakautuu neljään päävaiheeseen, joista ensimmäinen on riskien kartoittaminen. Järjestelmä lukee organisaation oman AI-hallintapolitiikan ja vertaa sen sisältämiä vaatimuksia tunnettuihin tekoälyn riski- ja turvallisuuskehyksiin.
Näihin kuuluvat esimerkiksi NIST AI Risk Management Framework, OWASP LLM Top 10 sekä EU AI Act. Riskien tunnistamisessa hyödynnetään myös IBM AI Risk Atlasta.
Tarkoituksena on vähentää tilannetta, jossa compliance- tai tietoturvatiimin täytyy käydä eri viitekehykset läpi käsin ja selvittää, mitkä niiden vaatimuksista koskevat tiettyä tekoälyjärjestelmää.
Asago muodostaa politiikkatekstin perusteella automaattisesti riskiprofiilin, jota voidaan käyttää seuraavien vaiheiden lähtökohtana.
Seuraavaksi tekoälyjärjestelmän toimintaa testataan
Riskien tunnistamisen jälkeen Asago siirtyy varsinaiseen riskinarviointiin. Sen sijaan, että jokainen järjestelmä testattaisiin samalla yleisellä tarkistuslistalla, projektin tavoitteena on luoda käyttötapaukseen perustuvia testiskenaarioita.
Jos riskikartoituksessa on esimerkiksi tunnistettu tietynlainen haitallinen käyttäytyminen mahdolliseksi ongelmaksi, asago voi muodostaa testejä juuri sen havaitsemiseksi.
Tämän jälkeen seuraa riskien lieventäminen. Järjestelmä ehdottaa testitulosten perusteella guardraileja eli teknisiä suojauksia ja rajoituksia.
Samalla syntyy perusteluketju siitä, miksi tietty suojaus on otettu käyttöön.
Asago voi muuttaa suositukset käyttövalmiiksi konfiguraatioiksi
Projektin kunnianhimoisin osa liittyy suositusten viemiseen tuotantoon. Red Hatin mukaan asago pystyy orkestroimaan suositellut kontrollit hybridipilvi- ja Kubernetes-ympäristöihin sopiviksi käyttöönottokonfiguraatioiksi. Tavoitteena on poistaa manuaalista infrastruktuurityötä riskien tunnistamisen ja varsinaisen teknisen suojauksen välistä.
Asagon tuottamien määritysten on tarkoitus toimia muun muassa Kubernetesin, Terraformin ja Ansiblen kanssa.
Tämä voisi olla merkittävää erityisesti organisaatioille, jotka käyttävät tekoälyjärjestelmiä useissa eri pilvi- ja infrastruktuuriympäristöissä. Samojen turvallisuusperiaatteiden toteuttaminen ei tällöin välttämättä vaatisi jokaiselle ympäristölle kokonaan uutta toteutusta.
Red Hat arvioi, että automatisointi voisi lyhentää joidenkin AI-järjestelmien hallintaan liittyviä käyttöönottoprosesseja kuukausista päiviin. Väitteestä ei kuitenkaan vielä ole julkaistu tuotantoympäristöissä tehtyjä vertailuja.
Jokainen kontrolli voidaan jäljittää takaisin AI-politiikkaan
Yksi asagon keskeisistä tavoitteista on jatkuvan auditointiketjun muodostaminen. Ajatuksena on, että organisaation AI-politiikan yksittäinen vaatimus voidaan yhdistää sitä testaavaan skenaarioon ja edelleen tuotannossa toimivaan kontrolliin.
Auditoija voisi näin teoriassa tarkastella tuotantoympäristössä olevaa suojausta ja selvittää, mistä alkuperäisestä politiikkavaatimuksesta sen käyttöönotto on lähtenyt.
Tämä muuttaisi AI-hallintaa lähemmäksi jatkuvaa teknistä prosessia sen sijaan, että vaatimustenmukaisuus tarkastettaisiin ainoastaan ennen järjestelmän käyttöönottoa.
Ajatus korostuu entisestään autonomisten AI-agenttien yleistyessä. Pitkiä aikoja itsenäisesti toimivan agentin käyttäytymistä ja suojauksia täytyy pystyä seuraamaan myös käyttöönoton jälkeen.
Red Hatin AI Engineering -yksikön varajohtaja Steven Huelsin mukaan selkeistä operatiivisista suojauksista tulee kriittinen infrastruktuurivaatimus organisaatioiden siirtyessä kokeellisista AI-projekteista pitkäkestoisiin autonomisiin agentteihin.
Projekti rakentuu laajan yhteistyön varaan
Asago ei ole pelkästään Red Hatin sisäinen projekti. Sen taustalla on Red Hatin ja NVIDIAn Open Secure AI Alliance -yhteistyötä, mutta perustajajäsenten ja muiden osallistujien joukko ulottuu huomattavasti näitä kahta yritystä laajemmalle.
Mukana ovat esimerkiksi Brave Software, IBM Research, Microsoft, MIT Lincoln Laboratory, North Carolina State University ja The Alan Turing Institute. Lisäksi projektissa ovat mukana EvalEval-koalitio ja Itävallan Interdisciplinary Transformation University.
Microsoftin Responsible AI -toiminnoista vastaava tuotejohtaja Sarah Bird korosti projektin julkaisun yhteydessä, ettei yksittäinen organisaatio pysty ratkaisemaan kaikkia tekoälyn turvallisuuteen ja tietoturvaan liittyviä ongelmia yksin.
Red Hatin AI-turvallisuudesta ja mallien arvioinnista vastaava Stuart Battersby puolestaan kuvailee asagoa yhteisölähtöiseksi hankkeeksi, johon halutaan osallistujia myös uusilta maantieteellisiltä alueilta. Tavoitteena on saada mukaan mahdollisimman erilaisia näkökulmia AI-turvallisuuteen.
Asago ei ole vielä valmis yritystuote
Projektin tavoitteet ovat kunnianhimoisia, mutta asago on tässä vaiheessa vasta kehityksensä alussa.
Red Hatin julkistukseen ei sisälly tuotantokäytössä olevaa asiakastapausta, joka osoittaisi koko prosessin toimivan käytännössä. Myöskään väitteelle käyttöönottoajan lyhenemisestä kuukausista päiviin ei ole vielä esitetty riippumatonta vertailua.
Avoimeksi jää myös se, kuinka helposti eri sääntelyalueiden ja organisaatioiden toisistaan poikkeavat riskimallit voidaan lopulta muuttaa yhden järjestelmän avulla teknisiksi kontrolleiksi.
Projektin avoimen lähdekoodin luonne voi kuitenkin olla tässä merkittävä etu. Yritykset, tutkijat ja viranomaiset voivat osallistua kehitystyöhön sen sijaan, että AI-hallinnan toteutus jäisi yhden kaupallisen toimittajan määriteltäväksi.
Asagon kiinnostavin ajatus ei lopulta ole yksittäinen turvallisuustyökalu, vaan yritys tehdä tekoälyn hallinnasta osa normaalia ohjelmistojen käyttöönottoa. Jos projekti onnistuu tavoitteessaan, esimerkiksi EU AI Actin kaltaisten sääntöjen noudattaminen voisi näkyä suoraan siinä koodissa ja infrastruktuurissa, jolla AI-järjestelmä tuotantoon viedään.