Google ka nisur një aplikim eksperimental, Galerinë Google AI Edge, duke lejuar përdoruesit të ekzekutojnë modele gjeneruese AI direkt në pajisjet Android. Është planifikuar gjithashtu një version iOS. Thapp, në dispozicion publikisht në github , vendos aftësi të fuqishme të AI-së si analiza e imazhit dhe gjenerimi i tekstit në duart e përdoruesve për operacionin lokal, pasi modelet janë shkarkuar. Kjo qasje rrit intimitetin e të dhënave, pasi përpunimi ndodh në vend. Google e përshkruan aplikacionin si një”lëshim eksperimental alfa”dhe po kërkon në mënyrë aktive reagimet e përdoruesve për të udhëhequr zhvillimin e tij. Kjo veprim nënkupton një hap të dukshëm drejt bërjes së AI të përparuar më personale dhe të arritshme. src=”të dhëna: imazh/svg+xml; nitro-impty-id=mtyznjoxmdk3-1; base64, phn2zyb2awv3qm94psiwidagmti4mca3mj AiiHdpZHropsixmjgwiibozwlnahq9iJCymcigEg1Sbnm9imH0dha6ly93d3cudzmUB3JnlziWmdavc3znij48l3n2zz4=”>
Eksplorimi i aftësive të AI në pajisje
Galeria AI Edge ofron disa karakteristika kryesore. Një funksion ‘pyesni imazhin’ lejon përdoruesit të ngarkojnë fotografi dhe të shtrojnë pyetje rreth tyre. Për detyrat e bazuara në tekst, një”laborator i shpejtë”ofron mjete për të përmbledhur përmbajtjen, rishkrimin e tekstit dhe gjenerimin e kodit. Për më tepër, një funksion ‘AI chat’ mbështet biseda me shumë kthesa, siç detajohet në faqen Github të projektit. Aplikacioni është optimizuar për pajisjet Android 10+ me të paktën 6 GB RAM dhe chipset moderne. Për të shkarkuar modele, përdoruesit duhet të regjistrohen në përqafimin e fytyrës dhe të bien dakord me kushtet e tij. Sidoqoftë, Google paralajmëron se performanca mund të ndryshojë bazuar në pajisjen e pajisjeve dhe madhësinë e modelit. Për shembull, të dhënat e trajnimit të modelit Gemma 3N shtrihen deri në qershor 2024, do të thotë që informacioni më i ri nuk është i përfshirë. GEMMA 3N përdor teknologjinë e ‘për shtresa embeddings’ (PLE) për të zvogëluar përdorimin e kujtesës në mënyrë të konsiderueshme. src=”të dhëna: imazh/svg+xml; nitro-impty-id=mtyzotoxmdgz-1; base64, phn2zyb2awv3qm94psiwidagmti4mca3mjai Ihdpzhropsixmjgwiibozwlnahq9iJCyMcigEG1Sbnm9imH0Dha6ly93d3cudzmub3jnlziwmdavc3znij48l3n2zz4=”>
Fokusi i zhvilluesit dhe themelet teknike
Zhvilluesit gjithashtu mund të përdorin galerinë e AI Edge për të provuar modelet e tyre lokale liter `.Task`. Platforma është ndërtuar mbi API dhe mjetet e Google AI Edge, duke përdorur Litertin për ekzekutimin e modelit të optimizuar. Konkluzioni LLM API fuqizon modelet e gjuhës së madhe në pajisje. TestingCatalog e përshkruan aplikacionin si një”demonstrim praktik të AI gjeneruese të pajisjes dhe API të konkluzionit LLM”. Vetë Google, në një postim në blog të përmendur nga Elers CIO, theksoi aplikacionin si një mjet të vlefshëm për të eksploruar këtë API. Më e gjerë dokumentacioni Google AI Edge Gjithashtu në dispozicion. Instalimi është përmes APK më të fundit , me udhëzime të hollësishme në projekti wiki . Google inkurajon kontributet e komunitetit përmes sugjerime në github. Projekti është i licencuar nën licencën Apache, versioni 2.0. Reagimet e hershme të komunitetit shënojnë potencialin e aplikacionit për eksperimentimin e AI të përqendruar në privatësi, Offline AI. Sidoqoftë, përdoruesit gjithashtu theksuan kufizimet e tanishme siç janë kufizimet e madhësisë së modelit dhe mungesa e ndërveprimit të zërit. Masa drejt pajisjes AI adreson shqetësimet e përdoruesit në lidhje me privatësinë e të dhënave dhe lidhjen e vazhdueshme. Kjo qasje lokale e përpunimit jo vetëm që forcon intimitetin, por gjithashtu siguron që mjetet e AI të mbeten funksionale offline, duke zgjeruar shërbimin e tyre.