AI-turvallisuuskeskuksen (CAIS) tutkijat, MIT: n medialaboratorio, Brasilian yliopisto UFABC ja pandemian ehkäisy voittoa tavoittelemattomat SecureBio ovat havainneet, että johtavat tekoälymallit voivat ylittää kokeneet, tohtorintutkinnon suorittaneet virologit monimutkaisten laboratorioiden toimenpiteiden viansiirrossa. href=”https://www.virologyTest.ai/”Target=”_ tyhjä”> Virologiaominaisuuksien testi (VCT) , osoita AI: n taito erikoistuneista tieteellisistä tehtävistä, mutta korostaa myös vakavia kaksikäyttöä koskevia huolenaiheita, jotka ehdottavat näitä työkaluja, voisivat alentaa estettä vaarallisten biologisten ikäryhmien luomiseksi. sen tutkimuspaperi suunniteltiin erityisesti mittaamaan AI: n kykyä auttaa monimutkaisissa’märkä laboratorioista “virologiaprotokollissa, arvioimalla usein perus-, visuaalista ja hiljaista ymmärrystä-käytännöllisen tietokyvyn, joka usein saadaan käsien laboratoriokokemuksen kautta. src=”https://winbuzzer.com/wp-content/uploads/2024/07/ai-research-ai-generated.jpg”>
Tulokset osoittivat, että Openain O3-malli saavutti 43,8%: n tarkkuuden, joka ylitti huomattavasti 22,1%: n keskimääräisen pisteytyksen, jonka erikoistuneet ihmisen virologit vastasivat kysymyksiin. Googlen Gemini 2.5 Pro suoritti myös voimakkaasti, ja teki 37,6%. VCT-analyysin mukaan O3: n suorituskyky ylitti 94% ihmisen asiantuntijoista räätälöityjen kysymysjoukkojen kanssa. väärinkäytetty. Seth Donoughe, Securebio-tutkija ja tutkimuksen avustaja, ilmoitti pelonsa Aikaan , jossa havainnot saivat hänet”vähän hermostuneeksi”. On olemassa melko paljon tapauksia, joissa joku yritti tehdä bioponkia-ja yksi tärkeimmistä syistä, miksi he eivät onnistuneet, johtuu siitä, että heillä ei ollut pääsyä oikealle asiantuntemustasolle… joten näyttää olevan kannattavaa olla varovainen siitä, kuinka nämä kyvyt jaetaan.”
VCT-havainnot vauhdittivat välittömiä toimintakehotuksia turvallisuuden kannattajilta. AI-turvallisuuskeskuksen johtaja Dan Hendrycks korosti välittömien toimien tarvetta ja kehotti AI-yrityksiä toteuttamaan vankat suojatoimenpiteet kuuden kuukauden kuluessa kutsuen toimimattomuutta “holtittomaksi”.”Haluamme antaa ihmisille, joilla on laillinen käyttö kysyäkseen, kuinka MIT: n biologian osaston tutkija-kuten MIT: n biologian osasto-kyky tehdä niin”, Hendrycks selitti ajan myötä.”Mutta satunnaiset ihmiset, jotka tekivät tilin hetken sitten, eivät saa näitä ominaisuuksia.”Xai, Elon Muskin yritys, helmikuussa julkaisi riskienhallintakehyksen Paperin tunnistaminen ja mahdollisten virologian turvallisuuspyyntöjen mainitus.”Biologisten riskien uusien järjestelmätason lieventäminen”sen äskettäin julkaistujen O3-ja O4-Mini-malleille, mukaan lukien erityiset toimenpiteet, kuten “haitallisten tulosten estäminen”. Punaisen joukkue on yleinen turvallisuuskäytäntö, johon liittyy simuloituja hyökkäyksiä haavoittuvuuksien löytämiseksi. Antropinen, toinen johtava AI-laboratorio, tunnusti VCT: n tuloksen järjestelmän dokumentoinnissa, mutta ei tarjonnut erityisiä lieventämissuunnitelmia, kun taas Google kieltäytyi kommentoimasta asiaa ajoissa.
Jotkut asiantuntijat uskovat kuitenkin teollisuuden itsehallinnosta. Tom Inglesby Johns Hopkinsin terveysturvakeskuksesta, jota kannattaa hallituspolitiikkaa ja sääntelyä.”Nykyinen tilanne on, että hyveellisimmät yritykset vievät aikaa ja rahaa tämän työn tekemiseen, mikä on meille kaikille hyvää, mutta muiden yritysten ei tarvitse tehdä sitä”, hän kertoi Time: lle ja lisäsi:”Sillä ei ole järkeä.”Inglesby ehdotti pakollisia arvioita uusille suurille kielimalleille ennen niiden julkaisua”varmistaakseen, että se ei tuota pandemisen tason tuloksia.”Top-suorituskyvyn O3-mallin luojan Openai tiedettiin jo tutkivan biologisia sovelluksia; Winbuzzer kertoi tammikuussa yhteistyöstä retro-biotieteiden kanssa käyttämällä mallia nimeltä GPT-4B-mikro kantasolujen luomiseen osallistuvien proteiinien optimoimiseksi.
Samoin Google Deepmind on ollut erittäin aktiivinen. Gemini-malliperheen lisäksi sen laajalti käytetty alfafold-ohjelma ennustaa proteiinirakenteita, kun taas helmikuussa yksityiskohtaisen “AI-scienist”-projektin tavoitteena on tuottaa uusia tieteellisiä hypoteeseja, jotka joskus heijastivat julkaisematonta ihmisen tutkimusta. Staattiset ennusteet. Nämä työkalut, jotka keskittyvät proteiinitekniikkaan, hypoteesin luomiseen ja molekyylisimulaatioon, kuvaavat AI: n kasvavaa roolia, siirtymällä data-analyysin ulkopuolelle kohti monimutkaista tieteellistä päättelyä ja menettelytapaa-lisäämällä sekä mahdollisia tieteellisiä hyötyjä että VCT: n korostamia turvallisuushaasteita.
.
