高效，AI驅動的客戶服務的承諾正面臨著重要的現實檢查。儘管來自亞馬遜和Salesforce等科技巨頭的大量投資，但2025年7月的新研究表明，呼叫中心的AI助手通常會為他們的人類同行創造更多的工作。
這一發現得到了最近的Gartner預測縮放量的預測，對AI代替人類代理人的預測得到了支持。諸如支持機器人發明公司政策之類的備受矚目的失敗強調了該技術營銷與現實世界的績效之間的差距。核心問題是承諾的自動化與人類監督的現實之間的斷開連接仍然至關重要。
最近的一項學術研究強調了這一差距。 ACM CSCW 2025會議接受的研究檢查了中國公用事業呼叫中心的AI助手。發現很鮮明。 AI掙扎著基本任務，例如準確地轉錄口音和數字。
特定的故障包括誤解同音詞，將電話號碼分解為無用的片段，以及無法理解具有強大區域口音的呼叫者。還發現AI的情緒識別系統是不可靠的，通常將正常語音誤認為是負面的。
這種迫使人類代理人扮演了新角色:持續的事實檢查者。他們必須手動糾正不准確的摘要並刪除冗余文本。 The study’s authors noted this created new “learning”and “compliance”burdens for the customer service representatives (CSRs).
The researchers concluded that “The mismatch between technological expectations and actual implementation reflects a common oversight among technology designers, who overestimate efficiency gains while underestimating the implicit learning burdens of adapting to new systems.”這項隱藏的勞動直接與效率提高相矛盾，這通常是採用如此昂貴的AI系統的主要理由。 2025年4月，AI代碼編輯公司Cursor親身經歷了這一親身經歷，當時它自己的支持機器人“幻覺”了虛假政策。該機器人錯誤地告訴用戶他們的訂閱僅限於單個設備。
虛假信息迅速傳播，導致用戶反彈。光標聯合創始人邁克爾·特魯爾（Michael Truell）不得不發布在諸如Hacker News之類的平台上的公共道歉確認，我們沒有這樣的政策。 “他將錯誤歸因於他們的“前線AI支持機器人”。
為了使問題更加複雜，與會話安全性相關的真正技術錯誤正在引起單獨的登錄問題，從而造成了用戶挫敗感的完美風暴。機器人的自信但錯誤的答案只會放大混亂。
該事件是一個警示性的故事。簡單地將AI響應標記不足以讓用戶知道AI產生的響應是一種不足以恢復用戶忠誠度的措施。
從替代到加強:不斷變化的行業共識
這種學術發現和公眾失敗的這種融合助長了行業範圍更廣泛的行業思維。 2025年6月，分析師公司Gartner製作了。現在，它預測，到2027年，所有預計用AI代替支持人員的組織中有一半將放棄這些計劃。
新共識指向混合模型。加特納（Gartner）的高級總監凱西·羅斯（Kathy Ross）認為，“ AI和人類代理在同時工作的混合方法是提供卓越客戶體驗的最有效策略。”這種方法利用AI的表現（DATA檢索和常規任務），同時保留了複雜或敏感互動的基本人體因素。
這個樞紐承認，完全自主，無人自主的客戶服務的最初願景為時過早。現在的重點是創建增強人類代理的工具，使其更有效而不是使其過時。
Big Tech毫不屈辱地推進AI代理
，儘管存在這些挑戰，但主要的技術公司並沒有減慢速度。他們繼續銷售並開發了複雜的AI代理平台，將它們作為數字勞動的未來。 Salesforce在其AgentForce平台上特別積極。
2025年5月，該公司啟動了用於人力資源服務的代理商，旨在自動化內部員工支持。這是在2024年底的Core Agentforce平台的一般可用性之後。
Salesforce的Kishan Chetan，Service Cloud的EVP＆GM Service Cloud聲稱:“ Salesforce正在領導整個行業的這一數字勞動革命，現在，我們將代理商技能和行動帶給HR服務，以便在資源限制資源時，公司可以將代理商的技能和企業提供資源支持。”該公司甚至從自己的內部部署中吹捧96％的自助服務分辨率，將自己定位為其自己技術的主要用戶。
亞馬遜也是關鍵人物，並具有新的生成AI功能增強了其Amazon Connect平台。同時，諸如Decagon之類的資金充足的初創公司在2024年6月籌集了3500萬美元，也正在爭奪不斷增長的市場。中央衝突仍未解決:一個充滿投資和野心的市場，但仍在基本可靠性方面苦苦掙扎的技術。