Inilunsad ng Google ang isang pang-eksperimentong application, ang Google AI Edge Gallery, na nagpapahintulot sa mga gumagamit na magpatakbo ng mga modelo ng AI nang direkta sa mga aparato ng Android. Ang isang bersyon ng iOS ay binalak din. Thapp, magagamit sa publiko sa github , naglalagay ng mga makapangyarihang kakayahan ng AI tulad ng pag-aaral ng imahe at text generation sa mga kamay ng mga gumagamit para sa lokal, offline na operasyon ng isang beses na nai-download. Ang pamamaraang ito ay nagpapabuti sa privacy ng data, dahil ang pagproseso ay nangyayari sa lokal. Inilarawan ng Google ang app bilang isang”eksperimentong paglabas ng alpha”at aktibong naghahanap ng puna ng gumagamit upang gabayan ang pag-unlad nito. Ang hakbang na ito ay nagpapahiwatig ng isang kilalang hakbang patungo sa paggawa ng mga advanced na AI na mas personal at naa-access. src=”data: imahe/svg+xml; nitro-empty-id=mtyznjoxmdk3-1; base64, phn2zyb2awv3qm94psiwidagmti4mca3mj Aiihdpzhropsixmjgwiibozwlnahq9ijCyMcigeg1Sbnm9imh0dha6ly93d3cudzmub3jnlziwmdavc3znij48l3n2zz4=”>

Paggalugad ng mga kakayahan sa AI ng AI

Ang AI Edge Gallery ay nag-aalok ng ilang mga pangunahing tampok. Pinapayagan ng isang’Imahe ng Imahe’ang mga gumagamit na mag-upload ng mga larawan at magpose ng mga katanungan tungkol sa kanila. Para sa mga gawain na batay sa teksto, ang isang’prompt lab’ay nagbibigay ng mga tool upang buod ang nilalaman, muling pagsulat ng teksto, at makabuo ng code. Bukod dito, ang isang function na’AI chat’ay sumusuporta sa mga pag-uusap ng multi-turn, tulad ng detalyado sa pahina ng GitHub ng proyekto. Ang app ay na-optimize para sa mga aparato ng Android 10+ na may hindi bababa sa 6GB RAM at mga modernong chipset. Upang mag-download ng mga modelo, dapat mag-sign in ang mga gumagamit upang yakapin ang mukha at sumang-ayon sa mga termino nito. Gayunpaman, binabalaan ng Google na ang pagganap ay maaaring mag-iba batay sa hardware ng aparato at laki ng modelo. Halimbawa, ang data ng pagsasanay ng Gemma 3N Model ay umaabot lamang hanggang Hunyo 2024, nangangahulugang hindi kasama ang mas bagong impormasyon. Ang Gemma 3n ay gumagamit ng teknolohiyang’per-layer embeddings'(PLE) upang mabawasan ang paggamit ng memorya nang malaki. src=”data: imahe/svg+xml; nitro-empty-id=mtyzotoxmdgz-1; base64, phn2zyb2awv3qm94psiwidagmti4mca3mjai Ihdpzhropsixmjgwiibozwlnahq9ijCyMcigEg1SBnM9IMH0DHA6LY93D3CUDZMUB3JNLZIWMDAVC3ZNIJ48L3N2ZZ4=”>

Developer Focus at Technical Underpinnings Ang platform ay itinayo sa Google AI Edge API at mga tool, na gumagamit ng Litert para sa na-optimize na pagpapatupad ng modelo. Ang LLM inference API ay pinapagana ang mga modelo ng malalaking wika. Inilarawan ng TestingCatalog ang app bilang isang”praktikal na pagpapakita ng on-device generative AI at ang LLM inference API”. Ang Google mismo, sa isang post sa blog na binanggit ng ELETS CIO, na-highlight ang app bilang isang mahalagang tool para sa paggalugad ng API na ito. Android , na may mas malawak na dokumentasyon ng google ai edge Magagamit din. Ang pag-install ay sa pamamagitan ng pinakabagong apk , na may detalyadong mga tagubilin sa proyekto wiki . Hinihikayat ng Google ang mga kontribusyon sa komunidad sa pamamagitan ng Mga ulat ng bug at tampok na mga mungkahi sa github. Ang proyekto ay lisensyado sa ilalim ng lisensya ng Apache, bersyon 2.0. Ang unang puna ng feedback ng komunidad ay ang potensyal ng app para sa nakatuon sa privacy, offline na eksperimento sa AI. Gayunpaman, itinuro din ng mga gumagamit ang kasalukuyang mga limitasyon tulad ng mga hadlang sa laki ng modelo at ang kawalan ng pakikipag-ugnay sa boses. Ang paglipat patungo sa on-device AI ay tumutugon sa mga alalahanin ng gumagamit tungkol sa privacy ng data at patuloy na pagkakakonekta. Ang lokal na diskarte sa pagproseso hindi lamang sa privacy ng bolsters ngunit tinitiyak din ang mga tool ng AI ay mananatiling functional offline, pagpapalawak ng kanilang utility.

Categories: IT Info