Anthropic on ottanut käyttöön järjestelmän, jossa Clauden tuottamaan tekstiin voidaan lisätä käyttäjälle näkymätön mutta koneellisesti tunnistettava merkintä. Vesileiman tarkoituksena on tehdä tekoälyn tuottama tai muokkaama sisältö myöhemmin tunnistettavaksi ilman, että varsinaiseen tekstiin ilmestyy näkyvää ilmoitusta tekoälyn käytöstä.
Muutoksen taustalla ovat EU:n AI Actiin liittyvät läpinäkyvyysvaatimukset, joiden myötä tekoäly-yhtiöihin kohdistuu aiempaa enemmän vaatimuksia generoidun sisällön tunnistamisesta. Anthropic pyrkii uuden käytännön avulla mahdollistamaan sen, että Clauden käsittelemä sisältö voidaan tunnistaa teknisesti tekoälyavusteiseksi.
Ratkaisu on kuitenkin herättänyt nopeasti keskustelua siitä, missä kulkee tekoälyn tuottaman ja ihmisen tekemän sisällön raja.
Vesileima voi koskea myös tekoälyllä muokattua tekstiä
Claudea ei käytetä ainoastaan valmiiden artikkeleiden, esseiden tai muiden tekstien generoimiseen. Monet käyttäjät kirjoittavat alkuperäisen tekstin itse ja pyytävät tekoälyä esimerkiksi muuttamaan rakennetta, korjaamaan kieliasua, tiivistämään kappaleen tai ehdottamaan parempia sanavalintoja.
Juuri tällaiset käyttötavat ovat nousseet kritiikin keskiöön. Jos tekoälyn tekemä muokkaus riittää jättämään tekstiin tunnisteen, lopputulos voidaan mahdollisesti tunnistaa tekoälyllä käsitellyksi, vaikka suurin osa sisällöstä olisi ihmisen kirjoittamaa.
Osa käyttäjistä pitää tätä ongelmallisena esimerkiksi opiskelijoille, toimittajille ja kirjoittajille, jotka käyttävät Claudea enemmän kirjoittamisen apuvälineenä kuin varsinaisena kirjoittajana. Tällöin pelkkä tieto tekoälyn käytöstä ei välttämättä kerro kovinkaan paljon siitä, kuinka suuri osa lopullisesta työstä on todella tekoälyn tekemää.
Käyttäjien mielipiteet jakautuvat
Anthropicin ratkaisu on synnyttänyt vilkasta keskustelua verkossa. Osa käyttäjistä vastustaa ajatusta siitä, että heidän tuottamaansa sisältöön jää tekninen jälki Claudea käytettäessä. Kritiikin mukaan tekoäly toimii monissa tilanteissa samalla tavalla kuin muut kirjoittamisen työkalut, eikä työkalun käyttäminen tarkoita automaattisesti sitä, että lopputulos olisi tekoälyn tekemä.
Toiset suhtautuvat asiaan päinvastoin. Heidän mukaansa vesileima ei ole vaatimus tekijyydestä eikä Anthropic sen avulla väitä omistavansa käyttäjän tekstiä. Kyse on sen sijaan siitä, että järjestelmällä voidaan tunnistaa tilanteita, joissa generatiivista tekoälyä on osallistunut sisällön tuottamiseen.
Tällä erolla voi olla tulevaisuudessa huomattava merkitys. Tekoälyn käytön tunnistaminen ei nimittäin välttämättä kerro, onko käyttö ollut hyväksyttävää tai kiellettyä. Se kertoo parhaimmillaan vain siitä, että tekoälyä on käytetty jossakin vaiheessa prosessia.
EU:n sääntely lisää painetta AI-sisällön tunnistamiseen
Anthropicin päätös liittyy laajempaan kehitykseen, jossa tekoäly-yhtiöt joutuvat rakentamaan teknisiä keinoja generoidun sisällön tunnistamiseksi. EU:n AI Actin läpinäkyvyyssäännöt ovat yksi merkittävistä muutosta vauhdittavista tekijöistä.
Kuvien, videoiden ja äänen kohdalla AI-sisällön merkitseminen voidaan toteuttaa esimerkiksi metadatan tai erilaisten digitaalisten vesileimojen avulla. Tekstin kohdalla ongelma on huomattavasti hankalampi, sillä tekstiä voidaan kopioida ja muokata erittäin helposti.
Jos käyttäjä esimerkiksi kirjoittaa tekoälyn tuottaman kappaleen kokonaan uudelleen omin sanoin, teknisen tunnisteen säilyttäminen muuttuu vaikeaksi. Sama koskee sisältöä, jota käsitellään useiden eri palveluiden kautta. Tämän vuoksi vesileima ei myöskään välttämättä muodosta aukotonta menetelmää tekoälyn käytön todistamiseen.
Vesileima nostaa esiin vaikean rajanvedon
Anthropicin ratkaisu nostaa esiin kysymyksen, johon tekoälypalveluiden yleistyessä joudutaan vastaamaan yhä useammin: kuinka paljon tekoälyä voidaan käyttää ennen kuin sisältöä pitäisi kutsua tekoälyn tuottamaksi?
Ero on suuri esimerkiksi kokonaan Claudella kirjoitetun artikkelin ja tilanteen välillä, jossa ihminen pyytää Claudea korjaamaan yhden kappaleen rakennetta. Molemmissa tapauksissa tekoäly on osallistunut lopputuloksen syntymiseen, mutta sen merkitys varsinaisen sisällön tuottajana on täysin erilainen.
Vesileimojen käyttö voi parantaa läpinäkyvyyttä erityisesti silloin, kun suuria määriä tekoälyn tuottamaa sisältöä julkaistaan sellaisenaan. Samalla järjestelmän hyödyllisyys riippuu siitä, pystytäänkö tunnistamisesta erottamaan myös se, kuinka merkittävä rooli tekoälyllä on ollut lopullisen sisällön tekemisessä.
Anthropicin muutos on siksi enemmän kuin pelkkä uusi Claude-ominaisuus. Se on yksi ensimmäisistä näkyvistä esimerkeistä siitä, miten tekoälyn läpinäkyvyyttä koskevat eurooppalaiset vaatimukset alkavat vaikuttaa suoraan maailmanlaajuisesti käytettyjen tekoälypalveluiden toimintaan.