Kiina ottaa 15. heinäkuuta käyttöön uudet säännöt, jotka kohdistuvat niin sanottuihin AI-kumppaneihin eli tekoälypalveluihin, joiden tarkoituksena on muodostaa käyttäjän kanssa pitkäaikainen ja emotionaalinen suhde. Ennen sääntöjen voimaantuloa maan suosituimpiin kuuluvat tekoälysovellukset ovat jo alkaneet poistaa tai sulkea ominaisuuksiaan.
Kyse ei ole tekoälyavustajien yleisestä kiellosta, vaan uusista vaatimuksista, jotka koskevat erityisesti palveluita, joiden tavoitteena on tarjota käyttäjälle seuraa, emotionaalista tukea tai ihmismäistä vuorovaikutusta.
Suositut AI-palvelut muuttuvat ennen määräaikaa
Kiinalaisen ByteDancen kehittämä Doubao ilmoitti poistavansa AI-agenttiominaisuutensa käytöstä 15. heinäkuuta vedoten tuotemuutoksiin. Myös Alibaban Qwen-palvelu sulkee ihmismäiset sekä käyttäjien itse luomat agentit jo 10. heinäkuuta, minkä jälkeen myös muut agenttipalvelut poistuvat käytöstä.
Myös Tencent teki vastaavan ratkaisun kesäkuussa vetämällä takaisin oman Yuanbao-palvelunsa vastaavan ominaisuuden.
Yritykset eivät kuitenkaan ole luopumassa tekoäly agenteista kokonaan. Sen sijaan ne mukauttavat palvelujaan vastaamaan uusia sääntöjä. Esimerkiksi ByteDance ohjaa käyttäjiä erilliseen Maoxiang-sovellukseen, jossa AI-agentteja voidaan käyttää uudella tavalla.
Mitä AI-kumppanit tarkoittavat?
AI-kumppani eroaa tavallisesta tekoälyavustajasta siinä, että se pyrkii rakentamaan käyttäjän kanssa jatkuvan suhteen.
Palvelu muistaa aiemmat keskustelut, säilyttää saman persoonallisuuden ja oppii tuntemaan käyttäjän ajan myötä. Tavoitteena on, että keskustelu muistuttaa mahdollisimman paljon vuorovaikutusta oikean ihmisen kanssa.
Juuri tästä syystä monet käyttäjät ovat alkaneet käyttää tällaisia sovelluksia emotionaalisena tukena, ystävänä tai jopa romanttisena kumppanina.
Uudet säännöt kohdistuvat emotionaaliseen riippuvuuteen
Huhtikuussa julkaistujen väliaikaisten määräysten mukaan AI-palvelut eivät saa enää aktiivisesti rakentaa käyttäjiin emotionaalista riippuvuutta.
Palveluiden on jatkossa esimerkiksi:
- tunnistettava liiallinen käyttö ja riippuvuuden merkit
- tarjottava mahdollisuus poistua keskustelusta nopeasti
- muistutettava käyttäjää käyttöajan pituudesta
- estettävä alaikäisille suunnatut virtuaalikumppanit
- tarjottava alaikäisille erityinen käyttötila aikarajoituksineen.
Lisäksi tekoälyn on pyrittävä tunnistamaan tilanteet, joissa käyttäjä osoittaa merkkejä esimerkiksi itsetuhoisuudesta, vakavasta taloudellisesta ahdingosta tai muusta kriisistä. Tällaisissa tapauksissa palvelun on sääntöjen mukaan pyrittävä ohjaamaan käyttäjä avun piiriin tai ilmoittamaan asiasta ennalta määritellylle huoltajalle tai hätäyhteyshenkilölle.
Yritykset valitsivat helpoimman ratkaisun
Vaikka uudet säännöt eivät varsinaisesti kiellä AI-kumppaneita, niiden täyttäminen voi olla teknisesti haastavaa.
Tekoälypalvelun pitäisi samanaikaisesti ylläpitää pitkäaikaista suhdetta käyttäjään ja samalla havaita, milloin tästä suhteesta on tulossa liian voimakas. Monille palveluille tämä tarkoittaisi suuria muutoksia niiden toimintatapaan.
Siksi useat yritykset päättivät poistaa ominaisuudet kokonaan sen sijaan, että ne olisivat yrittäneet muokata niitä nopeasti uusien määräysten mukaisiksi.
Käyttäjät menettävät vuosien keskusteluhistoriansa
Monille käyttäjille päätös tuli yllätyksenä.
Kiinan sosiaalisessa mediassa useat käyttäjät ovat kertoneet käyttäneensä AI-kumppaneitaan päivittäin jopa vuosien ajan. Osa kuvailee niitä tärkeäksi emotionaaliseksi tueksi.
Doubao antaa käyttäjille mahdollisuuden tarkastella vanhoja keskustelujaan 15. lokakuuta asti vain lukutilassa. Tämän jälkeen keskustelut poistetaan yhtiön tietosuojakäytännön mukaisesti.
Qwen puolestaan ei tarjoa vastaavaa siirtymäaikaa, vaan käyttäjien AI-agentteihin liittyvät tiedot poistetaan pysyvästi.
Tiukat vaatimukset myös palveluntarjoajille
Säännöt eivät koske pelkästään käyttäjiä.
Jos palvelulla on yli miljoona rekisteröitynyttä käyttäjää tai yli 100 000 aktiivista kuukausittaista käyttäjää, sen on tehtävä laaja turvallisuusarviointi ennen uusien ihmismäisten ominaisuuksien käyttöönottoa.
Arvioinnissa tarkastellaan muun muassa:
- koulutusdatan käyttöä
- henkilötietojen suojaa
- alaikäisten turvallisuutta
- tekoälyn toimintaa erilaisissa riskitilanteissa.
Myös sovelluskauppojen on varmistettava, että tarjolla olevat palvelut noudattavat uusia määräyksiä.
Kiina ottaa maailmanlaajuisesti uuden suunnan
Kiinan sääntely on ensimmäinen valtakunnallinen lainsäädäntö, joka kohdistuu nimenomaan emotionaaliseen vuorovaikutukseen perustuviin tekoälypalveluihin.
Vaikka monet maat ovat keskustelleet AI kumppaneiden riskeistä, vastaavaa sääntelyä ei ole vielä otettu käyttöön esimerkiksi Euroopan unionissa tai Yhdysvalloissa.
Kiinan viranomaiset perustelevat uusia sääntöjä käyttäjien suojelemisella. Taustalla ovat muun muassa huolet alaikäisten turvallisuudesta, yksityisyydestä sekä siitä, että ihmiset voivat muodostaa liian vahvan tunnesiteen tekoälyyn.
Samalla sääntely antaa viranomaisille aiempaa enemmän valtaa valvoa sitä, millaisia keskusteluja tekoälypalvelut voivat käyttäjiensä kanssa käydä.
Voivatko muut maat seurata perässä?
Generatiivisen tekoälyn kehittyessä myös AI-kumppaneiden suosio kasvaa nopeasti eri puolilla maailmaa. Palvelut, kuten Character.AI ja Replika, ovat jo herättäneet keskustelua käyttäjien turvallisuudesta, erityisesti alaikäisten kohdalla.
Kiinan ratkaisu voi toimia esimerkkinä myös muille maille, vaikka kaikki sen määräykset eivät todennäköisesti sellaisenaan leviä länsimaihin. Sen sijaan esimerkiksi vaatimukset alaikäisten suojelemisesta, käyttöajan rajoittamisesta ja emotionaalisen manipuloinnin estämisestä voivat nousta tulevina vuosina osaksi myös muiden maiden tekoälysääntelyä.