Google a lansat o aplicație experimentală, galeria Google AI Edge, permițând utilizatorilor să ruleze modele AI generative direct pe dispozitivele Android. De asemenea, este planificată o versiune iOS. Thapp, Disponibil public pe github , plasează capabilități puternice de AI, cum ar fi analiza imaginilor și generarea de text în mâinile utilizatorilor pentru operația locală, offline, odată ce modelele vor fi descărcate.
fără un avantaj pentru utilizatori este posibilitatea de a explora Cutting Cutting On-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-D-DEVICE AI AI, fără a avantaj. Această abordare îmbunătățește confidențialitatea datelor, deoarece procesarea are loc local. Google descrie aplicația ca o „versiune alfa experimentală” și caută în mod activ feedback-ul utilizatorilor pentru a-și ghida dezvoltarea. Această mișcare semnifică un pas notabil spre a face AI avansat mai personal și mai accesibil.
Utilizatorii pot experimenta cu diverse modele și aplicațiile lor practice. Galeria își propune să prezinte cazuri de învățare automată și de utilizare a AI generativă, mișcându-se dincolo de interacțiuni dependente de cloud.
Explorarea capabilităților AI pe dispozitiv
Galeria AI Edge oferă mai multe caracteristici cheie. O funcție „cere imagine” permite utilizatorilor să încarce imagini și să pună întrebări despre ele. Pentru sarcini bazate pe text, un „laborator prompt” oferă instrumente pentru a rezuma conținut, rescrierea textului și generarea de cod. Mai mult, o funcție „AI Chat” acceptă conversații cu mai multe rânduri, așa cum este detaliat pe pagina Github a proiectului.
modelele open-source acceptate includ Gemma 3, Gemma 3N și QWEN 2,5 de Alibaba, cu dimensiuni cuprinse între aproximativ 500MB și 4 GB. Aplicația este optimizată pentru dispozitivele Android 10+ cu cel puțin 6 GB RAM și chipset-uri moderne. Pentru a descărca modele, utilizatorii trebuie să se conecteze la îmbrățișarea Face și să fie de acord cu termenii săi.
Aplicația oferă valori de referință de performanță în timp real, inclusiv timp pentru primul token (TTFT) și decodează viteza. Cu toate acestea, Google avertizează că performanța poate varia în funcție de hardware-ul dispozitivului și dimensiunea modelului. De exemplu, datele de instruire ale modelului Gemma 3N se extind doar până în iunie 2024, ceea ce înseamnă că nu sunt incluse informații mai noi. Gemma 3n folosește tehnologia „Embeddings per-strat” (PLE) pentru a reduce semnificativ utilizarea memoriei.
Focusul dezvoltatorului și bazele tehnice
Dezvoltatorii pot folosi, de asemenea, galeria AI Edge pentru a-și testa propriile modele locale Litet `.task`. Platforma este construită pe API-urile și instrumentele Google AI Edge, folosind Litet pentru execuția modelului optimizat. API-ul de inferență LLM alimentează modelele de limbaj mare pe dispozitiv. TestingCatalog descrie aplicația ca o „demonstrație practică a AI generativă pe dev și API-ul de inferență LLM”. Google itself, in a blog post mentioned by Elets CIO, highlighted the app as a valuable tool for exploring this API.
Resources for developers include model cards, source code, and an LLM Inference guide for Android , cu mai larg documentația Google AI Edge De asemenea, disponibilă. Instalarea se face prin ultimele apk , cu instrucțiuni detaliate pe Proiect wiki . Google încurajează contribuțiile comunitare prin Bug Rapoarte și Sugestii de caracteristici pe Github. Proiectul este autorizat sub licența Apache, versiunea 2.0.
Recepție comunitară și Outlook Future
ca „versiune alfa experimentală”, subliniază că intrarea utilizatorului este crucială. Feedback-ul comunitar timpuriu notează potențialul aplicației pentru experimentarea AI offline, axată pe confidențialitate. Cu toate acestea, utilizatorii au subliniat, de asemenea, limitările actuale, cum ar fi constrângerile de mărime a modelului și absența interacțiunii vocale.
Actualizările viitoare pentru AI Edge Gallery sunt așteptate să includă suport iOS, funcții vocale în timp real și accelerație hardware îmbunătățită, potrivit TestingCatalog. Trecerea către AI-ul pe dispozitiv se adresează problemelor utilizatorilor cu privire la confidențialitatea datelor și conectivitatea constantă. Această abordare locală de procesare nu numai că susține confidențialitatea, dar asigură și instrumentele AI să rămână funcționale offline, extinzându-și utilitatea.
