Nvidia 宣布推出一套工具，以滿足代理 AI 系統對信任、安全性和可靠性日益增長的需求。
新產品稱為Nvidia 推理微服務(NIM)，新產品旨在幫助企業部署符合安全準則並防止意外結果的人工智慧應用程式。
作為NeMo Guardrails 框架的一部分，這些微服務提供專門的解決方案來審核內容、維護對話邊界，並偵測繞過安全措施的嘗試。 Briski，副總裁Nvidia 的企業人工智慧模式強調了確保當今應用中人工智慧安全的重要性。她在官方公告中表示:「人工智慧代理正在透過自動化互動來迅速改變行業，但確保其安全性和可信性至關重要。」
[嵌入內容]
透過專業微服務解決人工智慧安全挑戰
代理人工智慧是一種自主執行任務的人工智慧形式，在零售、醫療保健和汽車等行業中得到越來越多的採用
雖然這些系統提高了效率。這些風險:
nvidia.com/nvidia/llama-3_1-nemoguard-8b-content-safety”>內容安全NIM 經過專有的Aegis 內容安全資料集的培訓，旨在檢測和阻止AI 系統的不當或有害輸出。
相關: NVIDIA 透過Llama 和Cosmos Nemotron 模型推進Agentic AI
Nvidia 計劃在今年稍後透過Hugging Face 公開該資料集，從而擴展其開發人員和研究人員的可訪問性。 NIM 確保人工智慧產生的互動保持在定義的邊界內，防止系統陷入不相關或未經授權的主題。該工具在客戶服務場景中特別有用，在這種場景中，一致且上下文相關的回應至關重要。 nemoguard-jailbreak-detect”>越獄偵測 NIM 解決了人們日益關注的對抗性攻擊問題。透過分析包含17,000 次已知越獄嘗試的資料集的輸入，該微服務可以識別並阻止旨在覆蓋系統防護措施的惡意提示。”https://winbuzzer.com/wp-content/uploads/2025/01/Secure-intelligent-virtual-AI-assistants-for-customer-service-with-NeMo-Guardrails-official.jpg”>用於客戶服務的安全智慧虛擬AI 助理流程圖NeMo Guardrails（圖片來源:Nvidia）
Briski 強調了這些工具的效率，並表示:「NeMo Guardrails 系列中的小型模型可提供更低的延遲，從而能夠無縫集成到倉庫或醫院等資源有限的環境中。高效能需求。
相關:NVIDIA 推出用於音樂、語音和音效的Fugatto AI 模型
這一級別的優化解決了企業AI 中最常見的問題之一— 確保快速回應時間而不影響安全性。/p> >
企業用例和行業採用
多家大型企業已將NeMo Guardrails 納入其人工智慧工作流程中，以提高安全性和可靠性，例如，Lowe’s 家居裝修。支援。相關: 微軟削減Nvidia GB200 訂單，因生產延遲而優先考慮GB300
此外，Amdocs 和Taskus 等公司正在利用這些工具創建更安全、更可靠的AI 系統，以實現客戶參與和支持。 Amdocs 是一家全球通訊和媒體軟體供應商，它使用 NeMo Guardrails 來增強人工智慧驅動的客戶互動。
開源計畫和更廣泛的影響
為了支援開發人員測試和增強人工智慧安全性，Nvidia 推出了Garak，這是一個開源工具包，用於識別人工智慧系統中的漏洞。
Garak 模擬對抗場景，包括即時注入和越獄嘗試，使組織能夠增強其 AI 模型以對抗潛在威脅。 nvidia-nemo-guardrails/”>詳細教學和參考藍圖以簡化部署NeMo Guardrails 和微服務。這些資源涵蓋各種用例，從客戶服務聊天機器人到零售和醫療保健環境中的自動化助理。
