În urmă cu aproximativ o săptămână, Google a introdus AI Overviews for Search, o funcție care compilează rezumate generate de AI din diverse surse web pentru a răspunde la întrebările utilizatorilor. Această funcție, lansată în Statele Unite după conferința pentru dezvoltatori Google I/O 2024, a atras rapid critici pentru numeroasele inexactități raportate de utilizatori.
A fost lansată inițial în versiune beta în mai 2023, ca parte a Căutării. Generative Experience, lansarea AI Overviews urmărește să simplifice recuperarea informațiilor utilizatorilor, dar inexactitățile actuale evidențiază complexitățile și responsabilitățile asociate cu implementarea AI generativă la scară. Asigurarea fiabilității și siguranței conținutului generat de inteligența artificială este o provocare semnificativă pentru Google.
Activitatea de bază a Google se bazează în mare măsură pe căutare și pe anunțurile generate împreună cu rezultatele căutării, ceea ce face ca fiabilitatea răspunsurilor sale generate de inteligență artificială să fie crucială. În mod privat, angajații Google cred că răspunsurile problematice sunt probleme marginale și că AI funcționează în general bine. Trecerea de la rezultatele căutării tradiționale la răspunsurile generate de inteligența artificială reprezintă o schimbare semnificativă în responsabilitatea și autoritatea pe care Google și le asumă în furnizarea de informații.
Rapoartele utilizatorilor evidențiază erori periculoase
Platformele de rețele sociale au fost inundate cu exemple de răspunsuri bizare din IA Google Prezentare generală, cum ar fi sfătuirea utilizatorilor să mănânce pietre. Un utilizator a primit o sugestie bizară de a adăuga „aproximativ 1/8 de cană de lipici netoxic în sos” pentru a remedia brânza să nu se lipească de pizza.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK p>
— SG-r01 (@heavenrend) 22 mai 2024
Un alt utilizator a întrebat dacă este sigur să lăsați un câine într-o mașină fierbinte și a primit un răspuns afirmativ, citând versuri fictive ale Beatles conținut.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) 23 mai 2024
Echoes of Bard’s Launch Issues
Problemele cu AI Prezentările generale amintesc de provocările cu care s-a confruntat Google cu chatbot-ul său AI, Bard, care a fost lansat în martie 2023. Bard a fost criticat pentru lipsa măsurilor de siguranță și etice adecvate. În februarie 2024, Google a fost nevoit să dezactiveze funcția de creare a imaginii în succesorul lui Bard, Gemeni, după ce a produs imagini nepotrivite ale persoanelor cu tonuri de piele mai închise. De atunci, Google a promis îmbunătățiri înainte de a reintroduce funcția, dar rămâne inactivă.
Compania are planuri ambițioase pentru Prezentări generale AI, inclusiv raționament în mai mulți pași pentru interogări complexe și căutare video în Google Lens, dar reputația sa actuală este la nivelul risc din cauza acestor probleme inițiale.
Google este sub presiune să concureze cu alte motoare de căutare bazate pe inteligență artificială, cum ar fi Bing și potențialul motor de căutare al OpenAI, precum și cu noi startup-uri AI precum Perplexity AI, care oferă o IA-căutare bazată pe web.
Răspunsul Google la critici
Google a recunoscut problemele legate de Prezentările de ansamblu AI și se așteaptă să ia măsuri corective. Compania a dezactivat manual Prezentările generale AI pentru căutări specifice, în urma răspândirii acestor răspunsuri neobișnuite pe rețelele sociale. Purtătorul de cuvânt Meghann Farnsworth a declarat că compania ia măsuri rapide pentru elimina Prezentările AI pentru anumite interogări și folosește aceste exemple pentru a-și îmbunătăți sistemele.
CEO-ul Google, Sundar Pichai, spune că Google a reușit să reducă costul furnizării de răspunsuri AI cu 80% prin hardware, inginerie și progrese tehnice. Cu toate acestea, pe fondul unei lansări problematice, angajamentul Google de a îmbunătăți siguranța și acuratețea caracteristicilor sale AI va fi esențial pentru recâștigarea încrederii utilizatorilor.
[conținut încorporat]
Google susține că majoritatea Prezentările AI oferă informații de înaltă calitate și că multe dintre exemplele problematice sunt interogări neobișnuite sau instanțe manipulate.
Istoria companiei cu Bard și Gemini sugerează un model de lansare a produselor AI care necesită mai târziu ajustări semnificative. Google are un istoric de retragere a produselor AI în urma reacțiilor utilizatorilor. Acest model de lansare, confruntare cu critici și apoi retragere a produselor a fost observat înainte și există puține speranțe că acest lucru se va schimba pe fondul presiunii crescute pe o piață în care compania sa bucurat de o poziție asemănătoare unui monopol timp de aproximativ două decenii.
