Euroopan unionin AI Actin artikla 50 on tullut voimaan, mikä tuo uusia läpinäkyvyysvaatimuksia tekoälyjärjestelmien tarjoajille ja käyttäjille koko EU:n alueella. Uusien sääntöjen tavoitteena on varmistaa, että ihmiset tietävät, milloin he keskustelevat tekoälyn kanssa tai milloin heidän näkemänsä sisältö on tekoälyn tuottamaa tai muokkaamaa.
Säännökset koskevat erityisesti generatiivista tekoälyä, deepfake-sisältöä sekä biometrisiä ja tunteita tunnistavia järjestelmiä.
AI-järjestelmien on kerrottava olevansa tekoälyä
Yksi artiklan 50 keskeisistä vaatimuksista koskee suoraan käyttäjien ja tekoälyjärjestelmien välistä vuorovaikutusta.
Tekoälypalveluiden tarjoajien on suunniteltava järjestelmänsä siten, että käyttäjä ymmärtää keskustelevansa tekoälyn eikä ihmisen kanssa. Poikkeuksena ovat tilanteet, joissa tämä on jo olosuhteiden perusteella ilmeistä.
Säännös ei myöskään koske kaikkia lainvalvontaviranomaisten käyttämiä järjestelmiä, kun niitä hyödynnetään rikosten estämiseen tai tutkintaan ja asianmukaiset suojatoimet ovat käytössä.
Tekoälyn luoma sisältö on merkittävä
Artikla 50 velvoittaa myös generatiivisen tekoälyn kehittäjiä lisäämään tekoälyn tuottamaan sisältöön tunnisteita. Äänen, kuvien, videoiden ja tekstin tulee sisältää koneellisesti tunnistettava merkintä siitä, että sisältö on tuotettu tai merkittävästi muokattu tekoälyn avulla.
EU korostaa, että merkintöjen tulee olla mahdollisuuksien mukaan yhteensopivia eri järjestelmien välillä ja teknisesti toimivia. Samalla huomioidaan myös toteutuksen kustannukset ja nykyinen teknologinen kehitys.
Tavalliset pienet kuvankäsittelymuokkaukset eivät kuitenkaan kuulu velvoitteen piiriin. Merkintä vaaditaan vasta silloin, kun tekoäly luo sisältöä olennaisesti uudelleen.
Deepfake-sisällöstä on ilmoitettava käyttäjille
Erilliset vaatimukset koskevat deepfake-sisältöä. Jos kuvaa, videota tai äänitallennetta on tuotettu tai muokattu tekoälyllä siten, että se voi johtaa katsojaa harhaan, sisällön yhteydessä on ilmoitettava sen olevan tekoälyn luomaa tai muokkaamaa.
Taiteellisille, satiirisille ja fiktiivisille teoksille sääntely on hieman kevyempi. Näissä tapauksissa ilmoituksen tarvitsee vain kertoa, että sisältö sisältää tekoälyn tuottamaa materiaalia ilman, että se häiritsee itse teoksen kokemista.
Myös uutisissa AI:n käyttö on kerrottava
Artikla 50 sisältää erityissäännön julkista etua koskeville teksteille. Jos tekoäly tuottaa tai muokkaa yleisölle julkaistavaa sisältöä esimerkiksi uutisissa tai muissa yhteiskunnallisesti merkittävissä julkaisuissa, asiasta on ilmoitettava.
Poikkeuksena ovat tilanteet, joissa ihminen on tarkistanut sisällön ennen julkaisemista ja kantaa siitä toimituksellisen vastuun. Tällöin erillistä ilmoitusta ei vaadita.
Tunteiden tunnistamisesta on kerrottava
Säännökset ulottuvat myös biometrisiin järjestelmiin. Yritysten ja organisaatioiden, jotka käyttävät tunteiden tunnistamiseen tai biometriseen luokitteluun tarkoitettuja AI-järjestelmiä, on ilmoitettava tästä henkilöille, joiden tietoja käsitellään.
Henkilötietojen käsittelyyn sovelletaan edelleen EU:n tietosuoja-asetusta (GDPR) sekä muita voimassa olevia tietosuojasääntöjä.
Ilmoitukset on annettava heti
EU korostaa, että kaikki artiklan 50 mukaiset ilmoitukset on esitettävä ennen ensimmäistä vuorovaikutusta tai heti, kun käyttäjä altistuu tekoälyn tuottamalle sisällölle. Ilmoitusten tulee olla helposti havaittavia, selkeitä ja saavutettavia myös esteettömyysvaatimukset huomioiden.
Jälkikäteen annettu ilmoitus ei täytä asetuksen vaatimuksia.
Valvonta jakautuu useille viranomaisille
Artikla 50:n noudattamista valvovat useat eri viranomaiset. Päävastuu kuuluu jäsenmaiden markkinavalvontaviranomaisille, mutta tietyissä tapauksissa valvonnasta vastaavat myös EU:n AI Office tai Euroopan tietosuojavaltuutettu.
Euroopan komissio on lisäksi julkaissut ohjeistuksen, jonka avulla yritykset voivat osoittaa noudattavansa uusia läpinäkyvyysvaatimuksia.
Yksi vaihtoehto on liittyä tekoälyn tuottaman sisällön läpinäkyvyyttä koskevaan vapaaehtoiseen Code of Practice -ohjelmaan. Yritykset voivat kuitenkin toteuttaa vaatimukset myös omilla ratkaisuillaan, kunhan ne pystyvät osoittamaan niiden täyttävän AI Actin velvoitteet.
Yrityksiltä vaaditaan nyt konkreettisia toimia
Artikla 50:n voimaantulo merkitsee, että generatiivista tekoälyä hyödyntävien yritysten on arvioitava omat palvelunsa uudelleen.
Pelkkä tekoälyn käyttäminen ei ole ongelma, mutta käyttäjien on tiedettävä, milloin sisältö tai vuorovaikutus perustuu tekoälyyn. Samalla yritysten on huolehdittava siitä, että AI-tuotettu materiaali voidaan tunnistaa teknisesti mahdollisimman luotettavasti.
EU:n tavoitteena on lisätä luottamusta tekoälypalveluihin samalla, kun deepfake-sisällön, petosten ja harhaanjohtavan AI-sisällön riskejä pyritään vähentämään.