Tekoäly voi parhaimmillaan tehostaa työntekoa merkittävästi, mutta väärin käytettynä se voi aiheuttaa myös kiusallisia virheitä. Tuore tapaus osoittaa, ettei edes yksi maailman suurimmista konsulttiyhtiöistä ole immuuni generatiivisen tekoälyn sudenkuopille. KPMG on joutunut vetämään pois laajasti julkaistun tekoälyraporttinsa sen jälkeen, kun riippumaton analyysi paljasti raportissa olevan lukuisia virheellisiä lähteitä, vääriä viittauksia ja jopa väitteitä, joille ei löytynyt tukea alkuperäisistä lähteistä. Asiasta uutisoi ensimmäisenä The Register.
Tekoälyraportti tekoälyn omien ongelmien uhrina
KPMG:n julkaisema Total Experience: Redefining Excellence in the Age of Agentic AI -raportti käsittelee tekoälyagenttien yleistymistä ja niiden mahdollisuuksia eri toimialoilla. Raportissa esitellään useita yrityksiä ja organisaatioita esimerkkeinä siitä, kuinka agenttipohjaista tekoälyä hyödynnetään käytännössä.
Raportin sisältö joutui kuitenkin tarkempaan syyniin, kun vastuullista tekoälyn käyttöä edistävä GPTZero analysoi sen. Yhtiön mukaan raportissa esiintyi poikkeuksellisen paljon merkkejä tekoälyn hallusinaatioista eli tilanteista, joissa tekoäly tuottaa uskottavan kuuloista, mutta virheellistä tai kokonaan keksittyä tietoa.
Analyysin mukaan raportin lopussa olleista 45 lähdeviitteestä ainoastaan kolme sisälsi oikeat tiedot tekijästä, otsikosta ja julkaisuajankohdasta. Monissa tapauksissa artikkelien nimet tai kirjoittajat olivat virheellisiä, ja osa viittauksista vaikutti olevan niin pahasti sekoittuneita, ettei niiden alkuperää onnistuttu tunnistamaan lainkaan.
Virheitä löytyi myös itse väitteistä
Ongelmat eivät rajoittuneet pelkästään lähdeluetteloon. Yksi raportissa mainituista esimerkeistä koski Emirates-lentoyhtiön Sara-järjestelmää. KPMG:n mukaan kyseessä olisi tekoälypohjainen chatbot, joka kykenee keskustelemaan matkustajien kanssa ja tekemään muutoksia lentovarauksiin.
Todellisuudessa Sara ei kuitenkaan ole tällainen järjestelmä. Kyseessä on vuonna 2023 esitelty robottiavustaja, eikä sillä ole raportissa kuvattuja toimintoja.
Toinen kyseenalainen esimerkki liittyi japanilaiseen JR East -rautatieyhtiöön. Raportin mukaan yhtiö olisi käyttänyt jo vuonna 2019 tekoälyagentteja reittisuositusten tekemiseen ja palvelukatkosten ennustamiseen.
Alkuperäisessä tiedotteessa ei kuitenkaan mainita tekoälyä tai tekoälyagentteja lainkaan. Lisäksi nykyisen kaltaisista agenttipohjaisista järjestelmistä ei vielä vuonna 2019 puhuttu laajemmin, mikä tekee väitteestä entistä epäuskottavamman.
Raportti poistettiin useilta sivustoilta
Kun tiedot ongelmista alkoivat levitä, KPMG poisti raportin useilta verkkosivustoiltaan. Yhtiö kertoi The Registerille suhtautuvansa erittäin vakavasti julkaisujensa tarkkuuteen ja luotettavuuteen.
KPMG:n mukaan raportti on vedetty pois jakelusta, ja tapaukseen johtaneita olosuhteita selvitetään parhaillaan. Yhtiö korosti myös, että sen työntekijöiden odotetaan noudattavan vastuullisen tekoälyn käyttöä koskevia sisäisiä ohjeita. Näihin kuuluu muun muassa se, että ihmisten tulee tarkistaa sisällön paikkansapitävyys sekä varmistaa käytettyjen ulkoisten lähteiden oikeellisuus.
KPMG ei ole ensimmäinen konsulttijätti, joka kompastuu tekoälyyn
Tapauksella on myös aiempia verrokkeja.
Vuonna 2025 Deloitte joutui palauttamaan rahaa Australian hallinnolle sen jälkeen, kun yhtiön laatimasta raportista löytyi tekaistuja sitaatteja ja virheellisiä viittauksia. Myös Kanadan hallitukselle laaditusta Deloitten raportista paljastui myöhemmin kuvitteellisia lähteitä ja perusteettomia väitteitä.
Tapaukset osoittavat, että generatiivisen tekoälyn käyttöön liittyvät riskit eivät koske ainoastaan yksittäisiä käyttäjiä, vaan myös maailman suurimpia asiantuntijaorganisaatioita.
Tekoäly ei korvaa lähdekritiikkiä
Vaikka tekoäly voi nopeuttaa tiedon käsittelyä ja sisällöntuotantoa huomattavasti, se ei kykene automaattisesti erottamaan oikeaa tietoa väärästä. Tekoälymallit voivat tuottaa vakuuttavan kuuloisia vastauksia, jotka sisältävät virheitä tai kokonaan keksittyjä yksityiskohtia.
Siksi ihmisen tekemä tarkistus ja lähteiden huolellinen varmistaminen ovat edelleen välttämättömiä, erityisesti silloin kun kyseessä ovat raportit, tutkimukset tai muut julkiset dokumentit.
Ironista kyllä, juuri tekoälyagenttien tulevaisuutta käsittelevä raportti on nyt muodostunut yhdeksi näkyvimmistä esimerkeistä siitä, miksi ihminen on edelleen pidettävä osana prosessia.