約 1 週間前、Google は AI 概要を検索向けに導入しました。これは、ユーザーのクエリに答えるために、さまざまな Web ソースから AI が生成した概要をコンパイルする機能です。この機能は、Google の I/O 2024 開発者カンファレンス後に米国で開始されましたが、ユーザーから報告された多数の事実の不正確さに対してすぐに批判を集めました。
最初は、検索の一部として 2023 年 5 月にベータ版で開始されました。 AI 概要の展開である Generative Experience は、ユーザー情報の取得を効率化することを目的としていますが、現在の不正確さは、生成 AI を大規模に展開することに伴う複雑さと責任を浮き彫りにしています。 AI が生成したコンテンツの信頼性と安全性を確保することは、Google にとって重要な課題です。
Google の中核事業は検索と、検索結果とともに生成される広告に大きく依存しているため、AI が生成した回答の信頼性が極めて重要です。 Google の従業員は非公式に、問題のある答えは周辺問題であり、AI は一般的にうまく機能すると信じています。従来の検索結果から AI が生成した回答への移行は、Google が情報を提供する際に負う責任と権限が大きく変わることを意味します。
ユーザー レポートは危険なエラーを浮き彫りにする
ソーシャル メディア プラットフォームには、Google の AI からの奇妙な応答の例が溢れています。ユーザーに石を食べるようアドバイスするなどの概要。あるユーザーは、チーズがピザにくっつかないのを直すために「ソースに無毒の接着剤を約 1/8 カップ加える」という奇妙な提案を受けました。
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 2024 年 5 月 22 日
別のユーザーが、暑い車内に犬を放置するのは安全かと尋ね、ビートルズの架空の歌詞を引用して肯定的な回答を受け取りました。これらの事件は、AI が生成した音楽の信頼性と安全性について深刻な懸念を引き起こしました。コンテンツ。
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— ナパーム (@napalmtrees) 2024 年 5 月 23 日
吟遊詩人の起動問題のエコー
問題AI の概要は、2023 年 3 月に発売された AI チャットボット Bard で Google が直面した課題を思い出させます。Bard は適切な安全性と倫理的対策が欠如していると批判されました。肌の色が濃い人の不適切な画像が生成されたため、Googleは2024年2月、Bardの後継機であるGeminiの画像作成機能を無効にしなければならなかった。その後、Google はこの機能を再導入する前に改善を約束しましたが、機能は停止したままです。
同社は、複雑なクエリに対する多段階推論や Google レンズでのビデオ検索など、AI 概要に関する野心的な計画を立てていますが、現在の評判は低水準です。
Google は、Bing や OpenAI の潜在的な検索エンジンなどの他の AI 主導の検索エンジンや、AI を提供する Perplexity AI のような新しい AI スタートアップと競争するというプレッシャーにさらされています。
批判に対する Google の対応
Google は AI 概要の問題を認めており、是正措置を講じることが期待されています。同社は、こうした異常な反応がソーシャルネットワーク上で拡散したことを受けて、特定の検索に対してAI概要を手動で無効にしている。広報担当者のメーガン・ファーンズワース氏は、同社は次のことについて迅速な措置を講じていると述べた。特定のクエリの AI 概要を削除し、これらの例をシステムの改善に使用しています。
Google CEO のサンダー ピチャイ氏は、Google はハードウェアを通じて AI の回答を提供するコストを 80% 削減することに成功したと述べています。エンジニアリングと技術の進歩。しかし、リリースに問題が生じる中、AI 機能の安全性と精度を向上させるという Google の取り組みは、ユーザーの信頼を取り戻すために不可欠です。
[埋め込みコンテンツ]
Google は、AI 機能の大部分が、 AI 概要は高品質の情報を提供し、問題のある例の多くは一般的ではないクエリや改ざんされたインスタンスであることを示しています。
Bard や Gemini などの製品を提供してきた同社の歴史を見ると、その後かなりの費用が必要となる AI 製品をリリースする傾向が示されています。修正。 Googleはすでに数回、ユーザーの反発に応えてAI製品を撤回している。このリリース、批判、撤回のサイクルは以前から指摘されており、同社が約 20 年間ほぼ独占状態にある市場で競争が激化しているにもかかわらず、変わる可能性は低いと思われます。
