Microsoft đang đưa các mẫu `gpt-oss` mới mạnh mẽ của Openai cho các PC địa phương, công ty đã công bố hôm thứ ba, trong một cú hích lớn vào trí tuệ nhân tạo trên thiết bị. Di chuyển tận dụng một nền tảng mới, Đăng ký. Nó đánh dấu một bước quan trọng trong việc tạo ra các công cụ AI tinh vi có sẵn rộng rãi và định vị Windows như một nền tảng chính cho làn sóng phát triển AI tiếp theo, độc lập với đám mây. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-poundry.-official.jpg”>
Azure AI Foundry fory href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”Target=”_ Blank”> nền tảng suy luận trên thiết bị cho Windows và MacOS . Nó cho phép các mô hình AI tiên tiến chạy trực tiếp trên phần cứng của người dùng, một sự khởi đầu đáng kể từ mô hình tập trung vào đám mây đã thống trị cảnh quan AI. Nền tảng hiện có sẵn trong bản xem trước công khai, cho phép các nhà phát triển bắt đầu thử nghiệm ngay lập tức. Cách tiếp cận này giải quyết các vấn đề về độ trễ, làm cho các tương tác AI nhanh hơn. Điều quan trọng, các nhà phát triển có thể sử dụng Foundry Local mà không cần đăng ký Azure, Thời gian chạy onnx để tự động Tối ưu hóa hiệu suất mô hình trên một loạt các phần cứng, bao gồm CPU, GPU và NPU từ các nhà cung cấp như các nhà cung cấp như Nó cũng Hiệu suất có thể so sánh với các hệ thống lớp GPT-4 . Cả hai đều được xây dựng trên một kiến trúc hỗn hợp (MOE) hiệu quả, chỉ kích hoạt một phần nhỏ các tham số của các mô hình cho bất kỳ nhiệm vụ nào, tối đa hóa hiệu suất trong khi giảm thiểu chi phí tính toán. Casey Dvorak, một người quản lý chương trình nghiên cứu tại Openai, giải thích lý do: Từ vì không có mô hình mở [cạnh tranh] từ Openai, chúng tôi muốn cắm khoảng cách đó và thực sự cho phép họ sử dụng công nghệ của chúng tôi trên bảng.”Điều này cho phép công ty cạnh tranh cho các nhà phát triển yêu cầu các mô hình chạy tại địa phương cho các lý do bảo mật, chi phí hoặc tùy chỉnh. Mẫu này cấu trúc đầu ra của mô hình vào các kênh riêng biệt để lý luận (`phân tích`), các cuộc gọi công cụ (` bình luận`) và câu trả lời cuối cùng, giúp các nhà phát triển kiểm soát trong suốt hơn các quy trình làm việc của tác nhân. Mở rộng hệ sinh thái công nghệ. Tổ chức toàn ngành này nhấn mạnh tầm quan trọng của việc trở lại với cộng đồng nguồn mở và tham vọng thiết lập các tiêu chuẩn mới cho sự phát triển của AI. Sự hỗ trợ phần cứng này rất quan trọng để đưa AI thiết bị vào máy tính xách tay hiệu suất cao, mặc dù hiện tại nó yêu cầu 24GB RAM, đặt nó chắc chắn trong danh mục phần cứng cấp phát triển. Mối quan hệ gần gũi của nó với Microsoft. Điều này tạo ra sự năng động của sự hợp tác của người Hồi giáo,”mở rộng phạm vi tiếp cận Openai, trong khi tăng cường sự cạnh tranh của đám mây AI.
Categories: IT Info