Ant Group, salah satu perusahaan fintech terkemuka di Tiongkok, telah meluncurkan model AI generatif baru yang disebut “LLM keuangan”, yang merupakan singkatan dari model bahasa besar keuangan (LLM).
LLM ini disesuaikan dengan kebutuhan dibuat untuk industri keuangan dan asuransi. Bersamaan dengan model baru ini, Ant Group juga meluncurkan dua aplikasi: Zhixiaobao 2.0, asisten keuangan cerdas untuk konsumen, dan Zhixiaozhu 1.0, asisten bisnis cerdas yang dirancang untuk melayani para profesional di industri keuangan.
AI keuangan menggunakan LLM
Seperti yang dilaporkan oleh Reuters, inti dari inovasi AI Ant Group terletak pada “kemampuannya untuk menyusun skenario virtual yang disesuaikan untuk aplikasi keuangan.”Fitur tersebut siap untuk mendefinisikan kembali metodologi yang diadopsi oleh entitas keuangan untuk penilaian risiko, merancang taktik investasi, dan meningkatkan interaksi klien.
Ant Group mengatakan LLM keuangannya dilatih pada ratusan miliar dokumen keuangan Tiongkok dan lebih dari 1.000 miliar token dari kumpulan data umum. Selain itu, LLM keuangan menggunakan kumpulan data lebih dari 600.000 instruksi yang berasal dari lebih dari 300 kasus penggunaan industri dunia nyata, sehingga secara signifikan meningkatkan kemampuannya untuk melakukan tugas-tugas khusus keuangan.
Tujuan umum yang dikembangkan sendiri oleh Ant Group LLM menjadi dasar optimalisasi LLM keuangan. Model tujuan umum dirancang untuk mengefisienkan penggunaan daya komputasi. Ini menampilkan cluster perangkat keras heterogen yang dapat mendukung hingga sepuluh ribu GPU dari berbagai jenis. Pemanfaatan model FLOPs (MFU) untuk seribu GPU bisa mencapai 40%. Selain itu, throughput pelatihan model Pembelajaran Penguatan dari Umpan Balik Manusia (RLHF) ditingkatkan sebesar 3,59 kali lipat sambil mempertahankan performa yang konsisten. Kinerja inferensi juga meningkat sekitar dua kali lipat dibandingkan dengan tolok ukur industri.
LLM keuangan dapat mendukung beragam layanan profesional, termasuk layanan manajemen kekayaan seperti evaluasi produk keuangan, analisis pasar, dan investor pendidikan, serta layanan asuransi seperti menjelaskan produk asuransi, membuat rencana asuransi keluarga, dan memverifikasi klaim asuransi.
