Google啟動了一個實驗應用程序，即Google AI Edge Gallery，允許用戶直接在Android設備上運行生成AI模型。還計劃了iOS版本。 thapp，在github上公開可用，將圖像分析和文本生成（例如型號下載的互聯網優勢）提供了一個強大的AI圖像分析和文本生成的功能。這種方法增強了數據隱私，因為處理在本地發生。 Google將該應用描述為“實驗性α版本”，並正在積極尋求用戶反饋以指導其開發。此舉意味著使高級AI更具個性化和易於訪問的一步。
用戶可以嘗試各種型號及其實用應用。該畫廊旨在展示多樣化的設備機器學習和生成的AI用例，超越雲依賴性相互作用。
“>
探索設備AI功能
AI Edge Gallery提供了幾個關鍵功能。 “詢問圖像”功能允許用戶上傳圖片並提出有關它們的問題。對於基於文本的任務，“提示實驗室”提供了總結內容，重寫文本和生成代碼的工具。此外，“ AI CHAT”功能支持多轉交談，如項目的GitHub頁面上所述。
支持的開放源模型包括Gemma 3，Gemma 3n和Alibaba的QWEN 2.5，尺寸從大約500MB到4GB。該應用程序針對具有至少6GB RAM和現代芯片組的Android 10+設備進行了優化。要下載模型，用戶必須登錄擁抱面孔並同意其條款。
該應用程序提供了實時性能基準，包括第一個令牌（TTFT）和Decode Speed的時間。但是，Google警告說，性能會根據設備硬件和型號大小而有所不同。例如，Gemma 3N模型的培訓數據僅擴展到2024年6月，這意味著不包括更新的信息。 Gemma 3N採用“每層嵌入式”（PLE）技術可大大減少內存使用量。
開發人員的重點和技術基礎
開發人員還可以利用AI Edge畫廊來測試自己的本地Litert“.task”型。該平台建立在Google AI Edge API和工具上，利用Litert來優化模型執行。 LLM推論API為設備上的大語言模型提供動力。 TestingCatalog將該應用描述為“在設備生成AI和LLM推理API的實際證明”。 Google本身在Elets CIO提到的博客文章中，強調了該應用程序是探索此API的寶貴工具。
開發人員的資源包括型號卡，源代碼和
根據TestingCatalog的數據，預計AI Edge畫廊的未來更新將包括iOS支持，實時語音功能和增強的硬件加速度。朝向設備AI的轉變解決了用戶對數據隱私和持續連接性的關注。這種本地加工方法不僅可以增強隱私性，而且還確保了AI工具保持離線功能，從而擴大了效用。