Aplikasi surat Apple menggambar pengawasan setelah fungsi penyortiran email yang relatif baru secara tidak benar mengidentifikasi pesan phishing sebagai”penting,”yang berpotensi menyesatkan pengguna dengan menambahkan legitimasi yang dirasakan pada email jahat.
PHISHING melibatkan email penipuan yang dirancang untuk menipu penerima ke dalam mengungkapkan informasi yang sensitif atau klik-klik. Perilaku penyortiran yang bermasalah mempengaruhi fitur kategorisasi yang diperkenalkan pada awalnya dalam bahasa Inggris dengan iOS 18.2/macOS 15.2 sebelum peluncuran yang lebih luas dengan iOS 18.4 dan macOS 15.4.
Penyortiran bertenaga AI beroperasi secara otomatis setelah diaktifkan dalam kompasi surat. Kesalahan klasifikasi ini mendorong email yang berpotensi berbahaya ke dalam pandangan yang diprioritaskan, meningkatkan kemungkinan pengguna dapat berinteraksi dengan mereka dengan asumsi mereka adalah komunikasi yang benar-benar signifikan.
[Konten tertanam]
Email sendiri menampilkan tautan phishing umum, seperti kurangnya detail perusahaan pengirim spesifik dan mempekerjakan keabadian tekanan, sepakil-taktik tekanan, sepak waktu yang mempekerjakan, sepak waktu, sekerasi sekerasi, sepak waktu, sekerasi taakan, sepedera tekanan, sepedis, sepedis, sepak waktu, sekerasi tautan, sekerasi tautan, sekerasi tautan, sekerasi tautan, sekerasi tautan, sekerean tautan, data. Mengidentifikasi tautan berbahaya seperti itu memerlukan gerakan pers panjang pada iPhone untuk melihat pratinjau URL, tidak seperti pratinjau hover mouse yang lebih sederhana yang tersedia di MacOS Mail.
AI Glitches bagian dari pola yang lebih luas
Masalah kategorisasi surat ini bukan insiden AI yang diisolasi di dalam ecosy apel. Perusahaan ini telah menghadapi beberapa tantangan publik dengan fitur AI-nya baru-baru ini. Pada bulan Januari 2025, Apple Intelligence menarik kritik karena menghasilkan ringkasan pemberitahuan yang tidak akurat, termasuk hasil olahraga palsu yang diumumkan secara prematur dan salah pernyataan tentang tokoh-tokoh publik. Organisasi berita utama, terutama BBC yang pelaporannya salah diartikan, menyatakan keprihatinan yang kuat.
Seorang juru bicara BBC yang dinyatakan pada saat itu,”sangat penting bahwa Apple memperbaiki masalah ini dengan segera-seperti ini telah terjadi beberapa kali.”Echoing these worries, Reporters Without Borders warned that “The automated production of false information attributed to a media outlet is a blow to the outlet’s credibility.”
Following this specific controversy, Apple paused the AI news summary feature for news and entertainment apps in the subsequent iOS 18.3 beta release, announcing plans to improve accuracy and “further clarify when the text being displayed is summarization provided by Apple Kecerdasan.”
Pengembangan rintangan dan kepercayaan pengguna
Tantangan AI Apple belum terbatas pada peringkasan teks. Pengguna melaporkan pada bulan Desember 2024 bahwa fitur proaktif Siri adalah membuat reservasi restoran hantu di kalender mereka melalui OpenTable, tampaknya dipicu hanya dengan menjelajahi halaman web terkait di Safari.
Masalah fungsional ini telah terjadi di samping keterlambatan perkembangan yang lebih luas. Perombakan AI utama yang diantisipasi untuk Siri telah berulang kali ditunda, dengan konfirmasi baru-baru ini mendorong rilis ke akhir tahun ini, dan beberapa laporan sebelumnya yang menunjukkan peluncuran penuh mungkin tidak selesai sampai tahun 2026.
Sebuah juru bicara Apple yang akan datang, dan kami akan mengantisipasi mereka, dan menyatakan bahwa kami akan menyampaikannya, dan akan mengantisipasi mereka, dan akan mengantisipasi mereka, dan akan mengantisipasi mereka, dan akan mengantar mereka, kami akan membawa roll ini, dan menyatakan bahwa kami akan memberikan roll ini, dan menyatakan bahwa kami akan memberikan roll ini, dan menyatakan bahwa kami akan menyampaikannya, dan akan menyampaikan kepada kami, dan akan menyampaikan roll ini. Kecepatan yang lebih lambat ini datang sebagai pesaing seperti Amazon dan Google memperkenalkan kemampuan asisten AI yang lebih maju. Adding another layer to trust concerns, Apple agreed to a $95 million settlement in January 2025 related to allegations that Siri had recorded user conversations without explicit consent.
Improving AI While Balancing Privacy
The recurring problems underscore the complexities Apple faces in developing and deploying reliable AI features, particularly given its stated focus on user privacy and on-device processing, which can present different challenges compared to cloud-centric AI models.
Apple is concurrently working to obtain better training data for its AI models, an effort that itself has drawn scrutiny from privacy pendukung. Sementara filter spam yang kuat yang diimplementasikan oleh penyedia layanan email idealnya harus mencegah sebagian besar email phishing dari mencapai kotak masuk pengguna, AI aplikasi email tampaknya rentan untuk salah menafsirkan mereka yang tergelincir.
Untuk pengguna yang peduli tentang kategorisasi AI yang berpotensi menyoroti email berbahaya, fitur ini dapat dimatikan sepenuhnya dalam pengaturan Mail, atau tampilan daftar tradisional yang diurutkan secara kronologis dapat dipulihkan melalui opsi antarmuka.
