Google telah meluncurkan aplikasi eksperimental, Google AI Edge Gallery, yang memungkinkan pengguna untuk menjalankan model AI generatif langsung pada perangkat Android. Versi iOS juga direncanakan. Thapp, Tersedia secara publik di github , menempatkan kemampuan AI yang kuat seperti analisis gambar dan pembuatan teks ke dalam tangan pengguna untuk operasi offline setelah model yang diunduh.
PRIMENSION TANPA PENGGUNA. Pendekatan ini meningkatkan privasi data, karena pemrosesan terjadi secara lokal. Google menggambarkan aplikasi sebagai”rilis alpha eksperimental”dan secara aktif mencari umpan balik pengguna untuk memandu pengembangannya. Langkah ini menandakan langkah penting menuju membuat AI canggih menjadi lebih pribadi dan dapat diakses.
Pengguna dapat bereksperimen dengan berbagai model dan aplikasi praktisnya. Galeri ini bertujuan untuk menampilkan beragam pembelajaran mesin di perangkat dan kasus penggunaan AI generatif, bergerak di luar interaksi yang bergantung pada cloud.
mengeksplorasi kemampuan AI di perangkat
Galeri AI Edge menawarkan beberapa fitur utama. Fungsi ‘Tanya Gambar’ memungkinkan pengguna untuk mengunggah gambar dan mengajukan pertanyaan tentang mereka. Untuk tugas berbasis teks,’laboratorium cepat’menyediakan alat untuk merangkum konten, menulis ulang teks, dan menghasilkan kode. Selain itu, fungsi ‘Obrolan AI’ mendukung percakapan multi-turn, sebagaimana dirinci pada halaman GitHub proyek.
Model open-source yang didukung termasuk Gemma 3, Gemma 3N, dan Qwen 2.5 Alibaba, dengan ukuran berkisar dari sekitar 500mb hingga 4gb. Aplikasi ini dioptimalkan untuk perangkat Android 10+ dengan setidaknya 6GB RAM dan chipset modern. Untuk mengunduh model, pengguna harus masuk untuk memeluk wajah dan menyetujui persyaratannya.
Aplikasi ini memberikan tolok ukur kinerja waktu nyata, termasuk waktu untuk token pertama (TTFT) dan kecepatan decode. Namun, Google memperingatkan bahwa kinerja dapat bervariasi berdasarkan perangkat keras perangkat dan ukuran model. Misalnya, data pelatihan Model Gemma 3N hanya meluas hingga Juni 2024, yang berarti informasi yang lebih baru tidak termasuk. Gemma 3n menggunakan ‘‘ per-layer embeddings ’(ple) teknologi untuk mengurangi penggunaan memori secara signifikan.
pengembang fokus dan dasar teknis
Pengembang juga dapat memanfaatkan galeri AI Edge untuk menguji model `.task` lokal mereka sendiri. Platform ini dibangun di atas API dan alat Google AI Edge, memanfaatkan Litert untuk eksekusi model yang dioptimalkan. API Inferensi LLM memberi kekuatan pada model bahasa besar di perangkat. TestingCatalog menggambarkan aplikasi sebagai”demonstrasi praktis AI generatif di perangkat dan API inferensi LLM”. Google itu sendiri, dalam posting blog yang disebutkan oleh ELETS CIO, menyoroti aplikasi sebagai alat yang berharga untuk menjelajahi API ini.
Sumber daya untuk pengembang termasuk kartu model, kode sumber, dan target”href=”https://ai.google.dev/edge”target”lip”lo”lo”loPered”forperpeer”loPerePipe/solutions/solutions/solutions/genai/AiRFERENSION/ROVERENSION/SOMERED”Android , dengan lebih luas dokumentasi Google AI Edge Juga tersedia. Instalasi adalah melalui APK terbaru, dengan instruksi terperinci pada bug reports and fitur Sugestion Proyek ini dilisensikan di bawah lisensi Apache, versi 2.0.
Penerimaan masyarakat dan Outlook Future
Sebagai”rilis alpha eksperimental,”Google menekankan bahwa input pengguna sangat penting. Umpan Balik Komunitas Awal mencatat potensi aplikasi untuk eksperimen AI offline yang berfokus pada privasi. Namun, pengguna juga menunjukkan keterbatasan saat ini seperti kendala ukuran model dan tidak adanya interaksi suara.
Pembaruan di masa depan untuk galeri AI Edge diharapkan mencakup dukungan iOS, fitur suara real-time, dan akselerasi perangkat keras yang ditingkatkan, menurut TestingCatalog. Perpindahan menuju AI di perangkat membahas masalah pengguna tentang privasi data dan konektivitas konstan. Pendekatan pemrosesan lokal ini tidak hanya mendukung privasi tetapi juga memastikan alat AI tetap fungsional offline, memperluas utilitas mereka.
