L’application de messagerie d’Apple fait un examen minutieux après sa fonction de tri par e-mail automatique relativement nouvelle, les messages de phishing identifiés à tort comme des utilisateurs «importants», potentiellement trompeuses en ajoutant la légitimité perçue aux e-mails malveillants.
Phishing implique des e-mails trompeurs conçus pour inciter les destinataires à révèlent des informations sensibles ou à cliquer sur des liens préjudites. Le comportement de tri problématique affecte la fonction de catégorisation introduite initialement en anglais avec iOS 18.2/macOS 15.2 avant un déploiement plus large avec iOS 18.4 et macOS 15.4.
Le tri alimenté par AI fonctionne automatiquement une fois activé dans les paramètres maillés, distinct de la suite de l’intelligence Apple plus large qui nécessite une activité utilisateur séparée sur des dispositifs compatibles. Cette classification erronée pousse les e-mails potentiellement nocifs dans une vue prioritaire, augmentant la probabilité que les utilisateurs puissent interagir avec eux en supposant qu’ils sont des communications véritablement significatives.
Un porte-parole de la BBC a déclaré à l’époque:”Il est essentiel qu’Apple résout ce problème de toute urgence-comme cela s’est produit plusieurs fois.”Faisant écho à ces inquiétudes, les journalistes sans frontières ont averti que «la production automatisée de fausses informations attribuées à un média est un coup à la crédibilité du point de vente». Apple Intelligence.”
Les obstacles du développement et la confiance des utilisateurs
Les défis de l’IA d’Apple n’ont pas été limités au résumé de texte. Les utilisateurs ont signalé en décembre 2024 que les fonctionnalités proactives de Siri créaient des réservations de restaurants fantômes dans leurs calendriers via OpenTable, apparemment déclenchés simplement en parcourant des pages Web connexes à Safari.
Ces problèmes fonctionnels se sont produits parallèlement à des retards de développement plus larges. La refonte d’IA principale prévue pour Siri a été reportée à plusieurs reprises, avec une confirmation récente qui pousse la sortie plus tard cette année, et certains rapports précédents suggérant qu’un déploiement complet pourrait ne pas se terminer avant 2026.
Un porte-parole d’Apple a reconnu le revers, en déclarant:”Cela nous fera prendre plus de temps que nous avons pensé à offrir ces caractéristiques, et nous prévoyons de les faire rouler dans la première année.”Ce rythme plus lent survient alors que des concurrents comme Amazon et Google introduisent des capacités d’assistant AI plus avancées. L’ajout d’une autre couche aux préoccupations de confiance, Apple a accepté un règlement de 95 millions de dollars en janvier 2025 concernant les allégations selon lesquelles Siri avait enregistré des conversations utilisateur sans consentement explicite.
Amélioration de l’IA tout en équilibrant la confidentialité
Les problèmes de récidive sous-estimés, en particulier les complexes, appliquent en développement et le déploiement Le traitement sur dispositif, qui peut présenter différents défis par rapport aux modèles d’IA centrés sur le cloud.
Apple travaille simultanément pour obtenir de meilleures données de formation pour ses modèles d’IA, un effort qui a lui-même exposé à un examen minutieux des défenseurs de la vie privée. Bien que les filtres à spam robustes mis en œuvre par les fournisseurs de services de messagerie devraient idéalement empêcher la plupart des e-mails de phishing d’atteindre la boîte de réception de l’utilisateur, l’IA de l’application Mail semble susceptible de mal interpréter ceux qui se déroulent. Pour les utilisateurs préoccupés par la catégorisation de l’IA en évidence potentiellement des e-mails dangereux, la fonctionnalité peut être entièrement désactivée dans les paramètres du courrier, ou la vue traditionnelle de liste triée chronologique peut être restaurée via les options d’interface.
