Noin viikko sitten Google esitteli AI Overviews for Search-ominaisuuden, joka kokoaa tekoälyn luomia yhteenvetoja eri verkkolähteistä vastatakseen käyttäjien kysymyksiin. Tämä ominaisuus, joka lanseerattiin Yhdysvalloissa Googlen I/O 2024-kehittäjäkonferenssin jälkeen, on herättänyt nopeasti kritiikkiä lukuisista käyttäjien ilmoittamista faktavirheistä.
Se julkaistiin alun perin betavaiheessa toukokuussa 2023 osana hakua. Generative Experience, AI Overviews-sovelluksen käyttöönotto, pyrkii virtaviivaistamaan käyttäjätietojen hakua, mutta nykyiset epätarkkuudet korostavat generatiivisen tekoälyn laajamittaiseen käyttöönottoon liittyviä monimutkaisia ja vastuita. Tekoälyn luoman sisällön luotettavuuden ja turvallisuuden varmistaminen on Googlelle merkittävä haaste.
Googlen ydinliiketoiminta on vahvasti riippuvainen hausta ja hakutulosten rinnalla syntyneistä mainoksista, mikä tekee tekoälyn luomien vastausten luotettavuudesta ratkaisevan tärkeää. Yksityisesti Googlen työntekijät uskovat, että ongelmalliset vastaukset ovat marginaalisia ja että tekoäly toimii yleensä hyvin. Siirtyminen perinteisistä hakutuloksista tekoälyn luomiin vastauksiin merkitsee merkittävää muutosta vastuussa ja auktoriteetissa, joita Google ottaa tiedon toimittamisesta.
Käyttäjäraportit korostavat vaarallisia virheitä
Sosiaalisen median alustat ovat täynnä esimerkkejä Googlen tekoälyn omituisista vastauksista Yleiskatsaus, kuten käyttäjien neuvominen syömään kiviä. Yksi käyttäjä sai omituisen ehdotuksen lisätä”noin 1/8 kupillista myrkytöntä liimaa kastikkeeseen”, jotta juusto ei tartu pizzaan.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22. toukokuuta 2024
Toinen käyttäjä kysyi, oliko turvallista jättää koira kuumaan autoon, ja sai myöntävän vastauksen viitaten kuvitteellisiin Beatlesin sanoituksiin. Nämä tapaukset ovat herättäneet vakavaa huolta tekoälyn luotettavuudesta ja turvallisuudesta sisältöä.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) 23. toukokuuta 2024
Kaita Bardin julkaisuun liittyvistä ongelmista
Ongelmat Tekoälyn yleiskatsaukset muistuttavat haasteita, joita Google kohtasi AI-chatbotissaan Bardissa, joka lanseerattiin maaliskuussa 2023. Bardia kritisoitiin riittävien turvatoimien ja eettisten toimenpiteiden puutteesta. Helmikuussa 2024 Google joutui poistamaan kuvanluontiominaisuuden käytöstä Bardin seuraajassa Geminissä, kun se tuotti sopimattomia kuvia ihmisistä, joilla oli tummempi iho. Google on sittemmin luvannut parannuksia ennen ominaisuuden uudelleen käyttöönottoa, mutta se on edelleen epäaktiivinen.
Yhtiöllä on kunnianhimoiset suunnitelmat tekoälykatsauksille, mukaan lukien monivaiheinen perustelu monimutkaisille kyselyille ja videohaku Google Lensissä, mutta sen nykyinen maine on näistä alkuongelmista johtuva riski.
Googlella on paineita kilpailla muiden tekoälyyn perustuvien hakukoneiden, kuten Bingin ja OpenAI:n potentiaalisen hakukoneen, sekä uusien tekoälyyritysten, kuten Perplexity AI:n, kanssa, joka tarjoaa AI-perustuva verkkohaku.
Googlen vastaus kritiikkiin
Google on tunnustanut tekoälyn yleiskatsauksiin liittyvät ongelmat ja sen odotetaan ryhtyvän korjaaviin toimiin. Yritys on poistanut tekoälyn yleiskatsaukset manuaalisesti käytöstä tiettyjä hakuja varten näiden epätavallisten vastausten leviämisen jälkeen sosiaalisessa mediassa. Tiedottaja Meghann Farnsworth sanoi, että yritys ryhtyy nopeasti toimiin poistaa tekoälyn yleiskatsaukset tietyiltä kyselyiltä ja käyttää näitä esimerkkejä järjestelmiensä parantamiseen.
Googlen toimitusjohtaja Sundar Pichai sanoo, että Google on onnistunut vähentämään tekoälyvastausten toimittamisen kustannuksia 80 prosenttia laitteiston avulla. suunnittelu ja tekninen kehitys. Ongelmallisen lanseerauksen aikana Googlen sitoutuminen tekoälyominaisuuksien turvallisuuden ja tarkkuuden parantamiseen on kuitenkin välttämätöntä käyttäjien luottamuksen palauttamiseksi.
[upotettu sisältö]
Google väittää, että suurin osa Tekoälykatsaukset tarjoavat korkealaatuista tietoa ja monet ongelmallisista esimerkeistä ovat epätavallisia kyselyitä tai toistettuja tapauksia.
Yrityksen historiassa Bardin ja Geminin kaltaisten tuotteiden kanssa on havaittavissa suuntausta julkaista tekoälytuotteita, jotka vaativat myöhemmin huomattavasti muutoksia. Google on vetänyt tekoälytuotteita takaisin käyttäjien vastareaktion vuoksi jo useita kertoja. Tämä vapauttamisen, kritiikin ja peruuttamisen kierre on havaittu aiemmin, eikä se näytä muuttuvan huolimatta kasvavasta kilpailusta markkinoilla, joilla yritys on ollut lähes monopoliasemassa noin kaksikymmentä vuotta.