Google DeepMind ja Isomorphic Labs ovat julkaisseet lisätietoja yhteisestä bioresilienssiohjelmastaan, jonka tavoitteena on ehkäistä tekoälyn väärinkäyttöä biologian alalla ja samalla nopeuttaa tartuntatautien havaitsemista sekä niihin vastaamista.
Hanketta on rakennettu noin vuoden ajan, ja sen ympärille on muodostettu yli 15 yhteistyökumppanin verkosto. Mukana on viranomaisia, tutkimuslaitoksia ja biosecurityyn keskittyviä organisaatioita. Tunnetuimpia yhteistyötahoja ovat esimerkiksi Lawrence Livermore National Laboratory, Britannian AI Security Institute, CEPI sekä Francis Crick Institute.
DeepMindin mukaan tekoälymallien biologinen osaaminen kasvaa nopeasti. Erityisesti Gemini-mallin, biologisten tekoälyagenttien ja ulkoisten tietokantojen yhdistäminen voi merkittävästi vauhdittaa tutkimusta. Samalla syntyy kuitenkin riski, että sama teknologia voisi auttaa myös haitallisiin tarkoituksiin pyrkiviä toimijoita.
Ohjelma rakentuu kolmen päätavoitteen ympärille
DeepMind jakaa bioresilienssiohjelman kolmeen kokonaisuuteen:
- biologisen väärinkäytön estäminen
- epidemioiden ja tautien nopeampi havaitseminen
- tehokkaampi reagointi mahdollisiin tautipurkauksiin tai biologisiin uhkiin
Yhtiön mukaan nykyiset yhteistyöhankkeet kattavat kaikki nämä osa-alueet. Seuraavan vuoden aikana tavoitteena on laajentaa yhteistyötä erityisesti uhkatiedustelun, tekoälyagenttien arviointimenetelmien sekä jailbreak-hyökkäysten torjunnan kehittämiseen.
Geminiä koulutetaan tunnistamaan vaaralliset pyynnöt
Ensimmäinen osa ohjelmasta keskittyy estämään tekoälyn väärinkäyttöä. DeepMind kertoo hyödyntävänsä asiantuntijoiden toteuttamaa red teaming -testausta sekä satunnaistettuja tutkimuksia arvioidakseen, voiko Gemini auttaa käyttäjää ylittämään biologiseen väärinkäyttöön liittyviä esteitä.
Mallia koulutetaan tunnistamaan haitalliset pyynnöt ja kieltäytymään niistä. Samalla pyritään välttämään tilanne, jossa tekoäly estäisi perusteettomasti myös laillisen tutkimustyön tai biologian opetukseen liittyvät kysymykset.
Lisäksi käytössä on reaaliaikaisia luokittelijoita, joiden tarkoituksena on havaita epäilyttävää toimintaa. DeepMind analysoi myös käyttölokeja löytääkseen sellaisia väärinkäyttöyrityksiä, joita automaattiset suodattimet eivät välttämättä tunnista.
Yhtiö korostaa, ettei kyse ole valmiista ratkaisusta, vaan jatkuvasti kehitettävästä turvallisuusjärjestelmästä.
DNA-sekvenssien tunnistaminen vaikeutuu
Yksi merkittävimmistä huolenaiheista liittyy DNA-synteesiin.
Nykyisin DNA-tilauksia seulotaan vertaamalla niitä tunnettujen taudinaiheuttajien ja myrkkyjen sekvensseihin. DeepMindin mukaan tekoäly pystyy kuitenkin tulevaisuudessa suunnittelemaan biologisesti samankaltaisia DNA-sekvenssejä, jotka eivät muistuta riittävästi tunnettuja sekvenssejä nykyisten seulontajärjestelmien havaitsemiseksi.
Ratkaisuksi tutkitaan SynthID-teknologian soveltamista biologisiin sekvensseihin. SynthID tunnetaan jo nyt tekoälyn tuottamien kuvien ja tekstien vesileimauksesta. Kyseessä on kuitenkin vasta tutkimushanke eikä valmis tuote.
Pidemmän aikavälin tavoitteena on kehittää järjestelmä, joka arvioisi DNA-sekvenssin vaarallisuuden sen biologisen toiminnan perusteella sen sijaan, että vertailu perustuisi pelkästään aiemmin tunnettuihin sekvensseihin.
Metagenomisekvensointi voisi nopeuttaa epidemioiden tunnistamista
Toinen ohjelman painopiste on tautien varhainen havaitseminen. DeepMind uskoo metagenomisekvensoinnin olevan yksi lupaavimmista menetelmistä, koska sen avulla voidaan analysoida kaikki näytteessä olevat mikro-organismit samanaikaisesti ilman ennakkotietoa siitä, mitä taudinaiheuttajaa etsitään.
Haasteena on kuitenkin kustannus. Menetelmän laajamittainen käyttö esimerkiksi liikenteen solmukohdissa tai alueilla, joilla uusia epidemioita syntyy todennäköisimmin, edellyttää huomattavasti nykyistä edullisempia sekvensointiratkaisuja.
DeepMind nostaa esiin yhteistyön Google ja Pacific Biosciencesin kanssa. AlphaEvolve-tekoälyagentin avulla onnistuttiin parantamaan DNA-sekvensoinnin tarkkuutta, ja vastaavia optimointeja tutkitaan nyt myös sekvensointiohjelmistoihin sekä laitteistoihin.
Lisäksi AlphaGenome-järjestelmän mahdollisuuksia tutkitaan taudinaiheuttajien analysoinnissa suoraan sekvenssidatan perusteella.
AlphaFold tukee lääkekehitystä
Kolmas osa ohjelmaa keskittyy biologisiin vastatoimiin. DeepMind kertoo, että AlphaFoldiin perustuva tutkimus on johtanut viimeisen viiden vuoden aikana yli 10 000 tieteelliseen julkaisuun tartuntatautien tutkimuksessa. Teknologiaa on hyödynnetty muun muassa tuberkuloosin, malarian, mpoxin ja Nipah-viruksen tutkimuksessa.
Uudessa yhteistyössä Lawrence Livermore National Laboratory aikoo hyödyntää AlphaFold 3:a laajakirjoisten vasta-aineiden kehittämisessä.
DeepMind myös laajentaa AlphaFold Protein Structure Database -tietokantaa uusilla proteiinirakenteilla, jotka voivat nopeuttaa rokotteiden ja muiden lääketieteellisten vastatoimien kehitystä.
Samalla Co-Scientist-tekoälyagenttia tarjotaan valituille tutkijoille, mukaan lukien Yhdysvaltain energiaministeriön kansallisten laboratorioiden tutkijat.
Isomorphic Labs puolestaan on perustanut erillisen yksikön, jonka tavoitteena on hyödyntää yhtiön lääkesuunnitteluteknologiaa nopeasti uusien epidemioiden aikana. Lisäksi yhtiö ilmoitti sijoittavansa 7 miljoonaa dollaria tartuntatautien tutkimukseen Aasiassa.
DeepMind haluaa uusia biosecurity-lakeja
Julkaisussa DeepMind esittää myös useita suosituksia Yhdysvaltain päättäjille. Yhtiö kannattaa kansallista tekoälyn turvallisuuskehystä, DNA-synteesin pakollista seulontaa, metagenomisekvensoinnin laajempaa käyttöönottoa sekä nopeampia mekanismeja rokotteiden ja lääkkeiden kehittämiseen tulevien epidemioiden aikana.
Suurin osa ehdotuksista perustuu lakialoitteisiin, joita ei ole vielä hyväksytty. DeepMindin mukaan seuraavat 6–12 kuukautta näyttävät, kuinka nopeasti sekä teknologia että lainsäädäntö pystyvät vastaamaan biologisten uhkien muuttuvaan toimintaympäristöön.