A
A Google elindított egy kísérleti alkalmazást, a Google AI Edge Galériát, lehetővé téve a felhasználók számára, hogy a generatív AI modelleket közvetlenül az Android készülékeken futtassák. IOS verzió is megtervezhető. Thapp, nyilvánosan elérhető a githubon , olyan erőteljes AI képességeket helyez el, mint a képelemzés és a szöveggenerálás a felhasználók kezébe a helyi, offline művelethez, ha a modelleket nem töltik le. Ez a megközelítés javítja az adatok magánéletét, mivel a feldolgozás helyben történik. A Google az alkalmazást „kísérleti alfa-kiadásként” írja le, és aktívan keresi a felhasználói visszajelzést annak fejlesztése érdekében. Ez a lépés jelentős lépést jelent a fejlett AI személyesebbé és hozzáférhetőbbé tétele felé. src=”adatok: image/svg+xml; nitro-üres-id=mtyznjoxmdk3-1; base64, phn2zyb2awv3qm94psiwidagmti4mca3mJ Aiihdpzhropsixmjgwiibozwlnahq9ijcymcygeg1sbnm9imh0dha6ly93d3cudzmub3jnlziwmdavc3znij48l3n2z4=”>”>”>”>”>”>”>”>”>”>”>”>”>”>”>
Az eszközön lévő AI képességek feltárása
Az AI Edge Galéria számos kulcsfontosságú funkciót kínál. A „Képkérés” funkció lehetővé teszi a felhasználók számára, hogy képeket töltsenek fel és kérdéseket tegyenek fel velük. A szöveges alapú feladatokhoz az „APPROM laboratórium” eszközöket biztosít a tartalom összefoglalásához, a szöveg átírásához és a kód előállításához. Ezenkívül egy „AI csevegés” funkció támogatja a több fordulási beszélgetéseket, amint azt a projekt GitHub oldalán részletezik. Az alkalmazás optimalizálva van az Android 10+ eszközökhöz, legalább 6 GB RAM-mal és modern lapkakészlettel. A modellek letöltéséhez a felhasználóknak be kell jelentkezniük az arc átölelésére, és elfogadniuk kell annak feltételeit. A Google azonban figyelmezteti, hogy a teljesítmény az eszköz hardverétől és a modell méretétől függően változhat. Például a Gemma 3N modell képzési adata csak 2024 júniusáig terjed, azaz az újabb információk nem szerepelnek. A Gemma 3N a „Retiler beágyazás” (PLE) technológiát alkalmazza a memória használatának jelentős csökkentése érdekében. src=”adatok: image/svg+xml; nitro-üres-id=mtyzotoxmdgz-1; base64, phn2zyb2awv3qm94psiwidagmti4mca3mJai Ihdpzhropsixmjgwiibozwlnahq9ijcymcigeg1sbnm9imh0dha6lyy93d3cudzmub3jnlziwmdavc3znij48l3n2zz4=”>
Fejlesztői fókusz és műszaki alapok
A fejlesztők kiaknázhatják az AI Edge Galériát is, hogy teszteljék saját helyi litertjeiket. A platform a Google AI Edge API-kra és az eszközökre épül, a Litert felhasználásával az optimalizált modell végrehajtásához. Az LLM következtetési API az eszközön lévő nagy nyelvi modelleket hajtja végre. A TestingCatalog az alkalmazást úgy írja le, mint „az eszközön lévő generatív AI és az LLM következtetési API gyakorlati demonstrációját”. Maga a Google az ELETS CIO által említett blogbejegyzésben kiemelte az alkalmazást, mint értékes eszköz ennek az API-nak. szélesebb Google Ai Edge dokumentáció szintén elérhető. A telepítés a projekt wiki . A Google ösztönzi a közösségi hozzájárulásokat Bug Report href=”https://github.com/google-ai-edge/gallery/issues/new?assigees=&labels=enhancement&template=feature_request.md&title=%5BFeature%5D”Target=”_ blank”> Javaslatok a Github-on. A projektet az Apache Licence 2.0-s verziója alapján engedélyezték. A korai közösségi visszajelzés megjegyzi, hogy az alkalmazás magánélet-központú, offline AI-kísérletek potenciálja. A felhasználók ugyanakkor rámutattak a jelenlegi korlátozásokra, mint például a modell méretkorlátozások és a hang interakció hiánya.
Az AI Edge Galéria jövőbeli frissítései várhatóan tartalmaznak iOS-támogatást, valós idejű hangjellemzőket és fokozott hardvergyorsulást, a TestingCatalog szerint. Az eszközön való AI felé történő lépés a felhasználói aggodalmakkal foglalkozik az adatok magánéletével és az állandó összeköttetéssel kapcsolatban. Ez a helyi feldolgozási megközelítés nemcsak a magánélet védelmét is támogatja, hanem biztosítja, hogy az AI eszközök offline állapotban maradjanak, kibővítve a hasznosságukat.