Apple的郵件應用程序在其相對較新的自動電子郵件排序功能中，錯誤地將網絡釣魚消息識別為“重要”，這是“重要的”，這可能會通過將感知的合法性添加到惡意電子郵件中。有問題的分類行為會影響最初用iOS 18.2/MACOS 15.2引入的分類功能，然後使用iOS 18.4和MacOS 15.4和MACOS 15.4。
進行更廣泛的推出。
AI供電的分類自動在郵件中自動啟用，一旦在郵件設置中啟用，這與更廣泛的Apple Intelligence SETITING啟用了，它與更廣泛的Apple Intelligence Seite不同，需要獨立的用戶激活套件，可獨立地使用可分開的用戶激活程序。這種錯誤的分類將潛在的有害電子郵件推向優先的視圖，增加了用戶可能在假設上與他們相互作用的可能性。科技記者拉斐爾·賽爾（Rafael Zeier）展示了一封清晰的網絡釣魚電子郵件（即將承諾將獲得財務“退款”），他在iPhone上的蘋果郵件中的“重要”收件箱中顯著地放置在他的iPhone中。 Exacerbating the problem, the Mail app itself overlaid a label describing the scam attempt as a “Time-critical transaction,”accompanied by a shopping icon, adding artificial urgency.
[embedded content]
The email itself displayed common phishing red flags, such as lacking specific sender company details and employing pressure tactics, ultimately linking to a fraudulent website masquerading as an insurance provider to harvest user 數據。確定這種惡意鏈接需要在iPhone上進行長時間的媒體手勢才能預覽URL，這與MacOS郵件中的簡單鼠標懸停預覽不同。該公司最近在其AI功能方面面臨著幾個公共挑戰。 2025年1月，Apple Intelligence引起了不准確的通知摘要的批評，其中包括過早宣布的關於公共數字的虛假體育成果。大型新聞機構，特別是英國廣播公司的報告被歪曲了，他表達了強烈的擔憂。
BBC發言人當時表示:“蘋果必須緊急解決這個問題，這是多次發生的。” Echoing these worries, Reporters Without Borders warned that “The automated production of false information attributed to a media outlet is a blow to the outlet’s credibility.”
Following this specific controversy, Apple paused the AI news summary feature for news and entertainment apps in the subsequent iOS 18.3 beta release, announcing plans to improve accuracy and “further clarify when the text being displayed is summarization provided by Apple智能。”
開發障礙和用戶信任
蘋果的AI挑戰並不局限於文本摘要。用戶在2024年12月報告說，Siri的積極主動功能是通過可打開的日曆中的Phantom餐廳預訂，顯然是通過Safari中的瀏覽相關網頁觸發的。
這些功能問題與更廣泛的開發延遲發生了。預期的Siri的主要AI大修已反复推遲，最近的確認將發布推向了今年晚些時候，一些較早的報告表明，直到2026年進行全面推出可能才能完成。
蘋果發言人承認，這是我們將在這些功能上付出的時間，我們將在這些功能上付出更長的時間，並且我們將在這些功能上付出更長的時間，並且在滾動的功能上付出了更長的時間。隨著亞馬遜和Google等競爭對手介紹更高級的AI助理功能，這種速度較慢。 Adding another layer to trust concerns, Apple agreed to a $95 million settlement in January 2025 related to allegations that Siri had recorded user conversations without explicit consent.
Improving AI While Balancing Privacy
The recurring problems underscore the complexities Apple faces in developing and deploying reliable AI features, particularly given its stated focus on user privacy and與中心的AI模型相比，可能會帶來不同的挑戰。
對於關注AI分類的用戶可能會突出顯示危險電子郵件，可以在郵件的設置中完全關閉該功能，或者可以通過接口選項恢復傳統的按時間順序排序的列表視圖。