Huawei từ AI Lab đang đẩy lùi chống lại những lời buộc tội đạo văn từ một nhóm nghiên cứu có tên là Honestagi. Nhóm đã tuyên bố vào thứ Sáu rằng mô hình Pangu Pro AI mới của Huawei là một bản sao của mẫu Alibaba tựa Qwen 2.5. Trong một tuyên bố vào Thứ Bảy, ngày 7 tháng 7, Phòng thí nghiệm Huawei, Noah Ark đã từ chối cáo buộc, Một dấu vân tay”của đạo văn? Phương pháp phân tích các mẫu độ lệch chuẩn của ma trận tham số chú ý (Q, K, V, O) trên các lớp mô hình. Các nhà nghiên cứu cho rằng các mô hình này là một thuộc tính nội tại của một kiến ​​trúc và lịch sử đào tạo mô hình. Honestagi cho rằng dấu vân tay thống kê này đủ mạnh để tồn tại tiếp tục đào tạo, một kỹ thuật phổ biến có thể xóa các hình mờ truyền thống khỏi mô hình bị đánh cắp. Họ đã nhấn mạnh các mẫu gần như giống hệt nhau trong các phép chiếu sai lệch QKV và trọng lượng lớp chú ý. Các nhà nghiên cứu thậm chí đã phát hiện ra một tập tin giấy phép QWEN trong Kho lưu trữ mã chính thức của Pangu trên Gitcode . Honestagi đã kết luận bài viết của mình bằng cách nêu rõ, tất cả những điểm này là sự trùng hợp? Có lẽ là không.”Bằng cách bình thường hóa các giá trị độ lệch chuẩn này trên tất cả các lớp, chúng tạo ra một chữ ký đặc biệt có khả năng xác định dòng dõi mô hình ngay cả sau khi sửa đổi đáng kể như tiếp tục đào tạo. Họ nhấn mạnh rằng các mẫu sai lệch QKV trong Pangu là một trận đấu gần như hoàn hảo cho Qwen 2.5. Họ đã gọi đây là điều đặc biệt gây tổn hại”, họ lập luận, bởi vì QKV Bias là một đặc điểm đặc biệt của các mô hình Qwen đầu tiên đã bị bỏ rơi bởi hầu hết các dự án nguồn mở, bao gồm cả Qwen3 mới hơn của Alibaba. Nhóm lưu ý cuộc điều tra của họ đang diễn ra, với phân tích ban đầu về kích hoạt mô hình cũng cho thấy sự chồng chéo đáng kể. Họ cũng tuyên bố đã nhận được tuyên bố từ nhiều người thổi còi ủng hộ giả thuyết của họ:

Tuy nhiên, 2 & 4). Vào ngày 7 tháng 7, phòng thí nghiệm của Noah Ark đã đưa ra một tuyên bố khẳng định mô hình Pangu là một cách không dựa trên đào tạo gia tăng các mô hình của các nhà sản xuất khác,”và được phát triển độc lập từ đầu. Phòng thí nghiệm nhấn mạnh rằng mô hình được xây dựng hoàn toàn dựa trên các chip AI của Huawei. Việc từ chối đóng khung mô hình pangu như là một phần quan trọng của chiến lược tự lực của nó, không phải là một công việc phái sinh. Vào ngày 2 tháng 7, công ty đã mở các mô hình pangu của mình, một động thái được hiểu rộng rãi là một nỗ lực để xây dựng một hệ sinh thái phần mềm bị giam cầm xung quanh phần cứng của mình. Như Mark Einstein của Counterpoint đã lưu ý, mục tiêu của nó là cuối cùng sử dụng các sản phẩm nguồn mở để thúc đẩy doanh số phần cứng, đây là một mô hình hoàn toàn khác với những người khác.”Cách tiếp cận phần cứng đầu tiên này rất quan trọng đối với sự sống còn và khả năng cạnh tranh của Huawei. Những người khổng lồ công nghệ như Alibaba, Baidu, và bây giờ Huawei đang tích cực nguồn cung cấp AI cốt lõi của họ để nắm bắt nhà phát triển Mindshare và sự thống trị thị trường. Khoảng trống phần cứng kết quả đã khiến Huawei, Ascend trở thành một sự thay thế quan trọng cho các nhà phát triển trong nước. Cáo buộc, dù có được chứng minh hay không, làm phức tạp tham vọng của Huawei. Nó đặt ra câu hỏi về tính minh bạch và niềm tin tại một thời điểm khi công ty đang cố gắng định vị mình là một nhà vô địch quốc gia trong AI. Như Honestagi đã nói, trong một thời đại mà tiếp tục đào tạo không phải là tất cả những gì bạn cần để đánh cắp một mô hình”, các phương pháp mạnh mẽ để xác minh nguồn gốc mô hình đang trở nên cần thiết cho sự cạnh tranh công bằng.

Categories: IT Info