Meta on ottanut käyttöön uuden sisäisen työkalun, joka seuraa työntekijöiden toimintaa poikkeuksellisen tarkasti. Reutersin mukaan huhtikuussa käyttöön otettu Model Capability Initiative -järjestelmä kerää yksityiskohtaista tietoa työntekijöiden tietokoneiden käytöstä. Se tallentaa esimerkiksi hiiren liikkeitä, klikkauksia sekä erilaisten käyttöliittymäelementtien käyttöä.
Yhtiön mukaan kerättyä dataa käytetään tekoälyjärjestelmien ja autonomisten tekoälyagenttien kehittämiseen. Tarkoituksena on opettaa tekoälyä ymmärtämään paremmin ihmisten työskentelytapoja sekä tietokoneella suoritettavia tehtäviä.
Eurooppalaisten työntekijöiden viestit voivat päätyä aineistoon
Tietosuojahuolia herättää erityisesti se, että järjestelmän keräämä data voi sisältää myös työntekijöiden välistä viestintää. Reutersin mukaan koulutusaineistossa saattaa olla mukana sähköposteja ja chat-keskusteluja, joita yhdysvaltalaiset työntekijät ovat vaihtaneet kollegoidensa kanssa.
Tämä tarkoittaa käytännössä sitä, että myös eurooppalaisten työntekijöiden lähettämät viestit voivat päätyä osaksi tekoälyn koulutusdataa, vaikka ohjelmistoa ei olisi asennettu heidän omille tietokoneilleen. Koska Meta toimii maailmanlaajuisesti, työntekijöiden välinen viestintä ylittää usein maiden ja maanosien rajat.
GDPR voi aiheuttaa ongelmia
Mahdollinen eurooppalaisten työntekijöiden tietojen kerääminen herättää kysymyksiä EU:n yleisen tietosuoja-asetuksen eli GDPR:n näkökulmasta. Euroopan unionin alueella henkilötietojen käsittelylle on oltava laillinen peruste, ja rekisteröidyillä on oikeus tietää, miten heidän tietojaan käytetään.
Jos työntekijöiden viestejä hyödynnetään tekoälyn koulutuksessa ilman riittävää oikeusperustetta tai asianmukaista tiedottamista, voi käytäntö joutua tietosuojaviranomaisten tarkasteluun. Viime vuosina useat suuret teknologiayhtiöt ovatkin joutuneet vastaamaan kysymyksiin siitä, millaista dataa niiden tekoälymallien kouluttamiseen käytetään.
Meta vakuuttaa toimivansa sääntöjen mukaisesti
Metan edustaja Dave Arnold kertoi Reutersille, että ohjelmisto on asennettu ainoastaan yhtiön yhdysvaltalaisten työntekijöiden tietokoneisiin. Hänen mukaansa Meta on arvioinut järjestelmään liittyvät tietosuojariskit ja sitoutunut noudattamaan voimassa olevaa lainsäädäntöä.
Arnoldin mukaan yhtiö on myös informoinut muita kuin yhdysvaltalaisia työntekijöitä siitä, että heidän viestinsä voivat näkyä sellaisten yhdysvaltalaisten kollegoiden laitteilla, joilla ohjelmisto on käytössä. Tiedottamisen tarkoituksena on ollut lisätä avoimuutta järjestelmän toiminnasta.
Tekoälyn kehitys lisää valvontaan liittyviä kysymyksiä
Tapaus kuvastaa laajempaa ilmiötä, jossa teknologiayhtiöt keräävät yhä enemmän dataa tekoälyjärjestelmien kehittämiseksi. Mitä kehittyneempiä tekoälyagentteja yritykset haluavat rakentaa, sitä enemmän ne tarvitsevat esimerkkejä ihmisten toiminnasta ja päätöksenteosta.
Samalla keskustelu työntekijöiden yksityisyydestä ja työpaikkavalvonnasta voimistuu. Vaikka työnantajilla on usein oikeus seurata työvälineiden käyttöä tietyissä rajoissa, tekoälyn kouluttamiseen käytettävän datan määrä ja laajuus herättävät uusia kysymyksiä siitä, missä kulkee hyväksyttävän valvonnan raja.
Reutersin paljastus osoittaa, että tekoälyn kehittämisen ja tietosuojan yhteensovittaminen on edelleen haastava tehtävä erityisesti kansainvälisille teknologiayhtiöille, joiden työntekijät ja data liikkuvat jatkuvasti eri maiden välillä.
Tietosuojaviranomaiset seuraavat tekoälyhankkeita tarkasti
Euroopassa viranomaiset ovat viime vuosina kiinnittäneet yhä enemmän huomiota siihen, miten suuryritykset keräävät ja hyödyntävät dataa tekoälyjärjestelmien kehittämisessä. Erityisen tarkastelun kohteena ovat olleet tilanteet, joissa henkilötietoja käytetään tarkoituksiin, joista käyttäjät tai työntekijät eivät ole täysin tietoisia. Mikäli Metan järjestelmästä nousee esiin uusia yksityiskohtia, voivat myös eurooppalaiset tietosuojaviranomaiset kiinnostua sen toiminnasta. Tapaus osoittaa, että tekoälyn nopea kehitys pakottaa yritykset tasapainoilemaan innovaatioiden ja yksityisyyden suojan välillä entistä tarkemmin.