OpenAI on julkaisemassa ChatGPT:hen uuden turvallisuusominaisuuden nimeltä Trusted Contact, jonka tarkoituksena on auttaa vakavien itsetuhoisuus- ja kriisitilanteiden tunnistamisessa.
Uusi toiminto mahdollistaa sen, että käyttäjä voi nimetä luotetun aikuisen henkilön, jolle voidaan lähettää ilmoitus, jos tekoäly ja OpenAI:n turvallisuustiimi havaitsevat keskusteluissa merkkejä vakavasta itsensä vahingoittamisen riskistä.
Ominaisuus on vapaaehtoinen ja perustuu täysin käyttäjän omaan päätökseen. Se tulee käyttöön yli 18-vuotiaille käyttäjille maailmanlaajuisesti ja Etelä-Koreassa yli 19-vuotiaille.
OpenAI:n mukaan tarkoituksena ei ole korvata ammatillista apua, vaan tarjota ylimääräinen turvakerros tilanteissa, joissa käyttäjä saattaa olla vakavassa kriisissä.
Näin Trusted Contact toimii käytännössä
Trusted Contact -järjestelmä aktivoidaan useamman vaiheen kautta. Ensin käyttäjä lisää ChatGPT:n asetuksista haluamansa luotetun yhteyshenkilön. Tämän jälkeen kyseinen henkilö saa kutsun, jossa kerrotaan ominaisuuden tarkoituksesta ja vastuista.
Kutsun vastaanottajan täytyy hyväksyä pyyntö viikon sisällä, jotta ominaisuus aktivoituu. Jos henkilö kieltäytyy, käyttäjä voi nimetä toisen yhteyshenkilön.
Kun järjestelmä havaitsee keskusteluissa mahdollisesti vakavan riskin, käyttäjälle ilmoitetaan ensin siitä, että Trusted Contact -henkilöön saatetaan ottaa yhteyttä. Samalla ChatGPT voi ehdottaa keskustelunavauksia tai kehottaa käyttäjää hakeutumaan avun piiriin.
Varsinainen ilmoitus ei kuitenkaan lähde automaattisesti pelkän tekoälyn päätöksen perusteella.
Ihmisarviointi mukana ennen ilmoituksen lähettämistä
OpenAI kertoo, että jokainen mahdollinen kriisitilanne arvioidaan erikseen koulutettujen turvallisuusarvioijien toimesta ennen kuin yhteyshenkilölle lähetetään ilmoitus.
Yhtiön mukaan pieni asiantuntijatiimi käy tilanteet läpi mahdollisimman nopeasti, ja tavoitteena on tehdä arviointi noin tunnin sisällä.
Jos arvioijat katsovat tilanteen aidosti vakavaksi, Trusted Contact -henkilölle voidaan lähettää lyhyt ilmoitus sähköpostilla, tekstiviestillä tai ChatGPT-sovelluksen sisäisenä ilmoituksena.
OpenAI painottaa, että ilmoitukset pyritään pitämään mahdollisimman rajattuina yksityisyyden suojaamiseksi.
Keskustelujen sisältöä ei jaeta läheisille
Yksi järjestelmän tärkeimmistä yksityiskohdista liittyy siihen, mitä tietoja yhteyshenkilölle oikeastaan välitetään. OpenAI kertoo, ettei keskustelujen sisältöä, viestihistoriaa tai chat-lokeja jaeta Trusted Contact -henkilölle missään tilanteessa.
Ilmoitus sisältää ainoastaan yleisen tiedon siitä, että keskusteluissa on havaittu mahdollisesti huolestuttavia viittauksia itsensä vahingoittamiseen tai vakavaan kriisitilanteeseen.
Lisäksi ilmoitus rohkaisee yhteyshenkilöä ottamaan käyttäjään yhteyttä ja sisältää linkkejä asiantuntijoiden laatimiin ohjeisiin siitä, miten herkkiä tilanteita kannattaa käsitellä. Tällä OpenAI pyrkii tasapainottamaan turvallisuuden ja käyttäjien yksityisyyden.
Tekoälyä käytetään yhä enemmän mielenterveyteen liittyvissä keskusteluissa
Trusted Contact -ominaisuus kertoo samalla laajemmasta muutoksesta siinä, miten ihmiset käyttävät tekoälypalveluita.
Monet käyttäjät keskustelevat tekoälyn kanssa nykyään henkilökohtaisista ongelmista, stressistä, yksinäisyydestä ja mielenterveyteen liittyvistä asioista. Joillekin ChatGPT toimii eräänlaisena keskustelukumppanina vaikeissa tilanteissa.
Tämä on herättänyt paljon keskustelua siitä, millainen vastuu tekoäly-yhtiöillä on käyttäjiensä turvallisuudesta. OpenAI on viime vuosina lisännyt useita turvallisuuteen liittyviä järjestelmiä, joiden tarkoituksena on tunnistaa kriisitilanteita ja ohjata käyttäjiä tarvittaessa oikean avun piiriin.
ChatGPT ei korvaa kriisiapua tai ammattilaisia
OpenAI korostaa, ettei ChatGPT ole terapiapalvelu eikä korvaa terveydenhuollon ammattilaisia. Järjestelmä pyrkii edelleen ohjaamaan käyttäjiä esimerkiksi:
- kriisipuhelimiin
- hätänumeroihin
- mielenterveyspalveluihin
- paikallisiin tukiorganisaatioihin
Lisäksi ChatGPT on ohjelmoitu kieltäytymään pyynnöistä, jotka liittyvät itsemurhan tai itsensä vahingoittamisen toteuttamiseen. Trusted Contact toimii siis lisäsuojana muiden turvajärjestelmien rinnalla, ei niiden korvaajana. ChatGPT on tuomassa GPT-Realtime-2:n GPT-5-tason ääniavustajiin, mutta tämän käyttöönotosta ei ole vielä tarkempia tietoja yhdessä Trustet Contactin kanssa.
Ominaisuutta kehitettiin lääkäreiden ja asiantuntijoiden kanssa
OpenAI kertoo rakentaneensa uuden järjestelmän yhteistyössä useiden asiantuntijaryhmien kanssa. Mukana kehitystyössä olivat muun muassa:
- OpenAI:n Global Physicians Network
- yli 260 lääkäriä 60 eri maasta
- hyvinvointiin ja tekoälyyn keskittyvä Expert Council on Well-Being and AI
- ulkopuolisia organisaatioita kuten American Psychological Association
Yhtiön mukaan tavoitteena oli luoda järjestelmä, joka pystyy auttamaan vakavissa tilanteissa ilman että käyttäjien yksityisyys vaarantuu tarpeettomasti.
Tekoälyn turvallisuudesta käydään yhä enemmän keskustelua
Trusted Contact liittyy laajempaan keskusteluun tekoälyjärjestelmien turvallisuudesta ja vastuullisuudesta. Kun tekoälymallit muuttuvat aiempaa henkilökohtaisemmiksi ja keskustelevat käyttäjien kanssa pitkiä aikoja, niistä tulee väistämättä myös osa ihmisten emotionaalista arkea.
Tämä herättää vaikeita kysymyksiä esimerkiksi:
- kuinka paljon tekoälyn pitäisi puuttua käyttäjän hyvinvointiin
- missä vaiheessa yksityisyys ja turvallisuus törmäävät
- voiko tekoäly tunnistaa aidon kriisitilanteen luotettavasti
- millainen vastuu teknologiayhtiöillä on käyttäjien mielenterveydestä
Osa asiantuntijoista pitää uusia turvaominaisuuksia tärkeänä kehitysaskeleena, kun taas toiset pelkäävät niiden lisäävän tekoäly-yhtiöiden vaikutusvaltaa liian henkilökohtaisilla alueilla.
Ominaisuus julkaistaan asteittain
OpenAI kertoo ottavansa Trusted Contact -ominaisuuden käyttöön vaiheittain eri alueilla. Toistaiseksi yhtiö ei ole kertonut tarkkaa aikataulua sille, milloin kaikki ChatGPT-käyttäjät saavat ominaisuuden käyttöönsä.
Kyseessä on kuitenkin yksi tähän asti näkyvimmistä esimerkeistä siitä, miten tekoälypalvelut alkavat siirtyä pelkistä keskustelutyökaluista aktiivisemmiksi hyvinvointiin ja turvallisuuteen liittyviksi järjestelmiksi.