Aplikacja pocztowa Apple rysuje kontrolę po jego stosunkowo nowej funkcji automatycznego sortowania e-maila Nieprawidłowo zidentyfikowane wiadomości phishingowe jako „ważne”, potencjalnie wprowadzające w błąd użytkowników poprzez dodanie postrzeganej legitymacji do złośliwych wiadomości Problematyczne zachowanie sortowania wpływa na funkcję kategoryzacji wprowadzoną początkowo w języku angielskim z iOS 18.2/macOS 15.2 przed szerszym wdrożeniem z iOS 18.4 i macOS 15.4.
Sortowanie zasilane przez AI działa automatycznie po włączeniu w ustawieniach poczty, odmiennych od szerszego apartamentu Apple Eduteatu, który wymaga oddzielnej aktywacji użytkownika na kompatybilnych domach. Ta błędna klasyfikacja popycha potencjalnie szkodliwe e-maile do priorytetowego poglądu, zwiększając prawdopodobieństwo, że użytkownicy mogą z nimi interakcja z nimi przy założeniu, że są naprawdę znaczącą komunikacją.
[treść osadzona] sama e-maila wyświetlała wspólne phishing czerwone flagi, takie jak brak specyficznych danych nadawcy firmy nadawcy i wykorzystującej taktyki nadawcy, ostatecznie łączące się z pękniętą witryną. dane użytkownika. Zidentyfikowanie takich złośliwych linków wymaga długiego gestu prasowego na iPhonie, aby podać podgląd adresu URL, w przeciwieństwie do prostszego podglądu myszy podglądu myszy dostępnego w MacOS Mail. Ten problem kategoryzacji poczty nie jest izolowanym incydentem w AI Ecosystem Apple. Ostatnio firma stanęła przed kilkoma publicznymi wyzwaniami z funkcjami AI. W styczniu 2025 r. Apple Intelligence wzbudziła krytykę za generowanie niedokładnych streszczeń powiadomień, w tym fałszywe wyniki sportu ogłoszone przedwcześnie i niewłaściwe oświadczenia dotyczące danych publicznych. Główne organizacje prasowe, zwłaszcza BBC, którego raportowanie zostało wprowadzone w błąd, wyraziły silne obawy. Rzecznik BBC stwierdził w tym czasie: „Konieczne jest pilnie naprawianie tego problemu Apple-ponieważ zdarzyło się to wiele razy”. Powtarzając te zmartwienia, reporterzy bez granic ostrzegali, że „zautomatyzowana produkcja fałszywych informacji przypisywanych mediom jest ciosem wiarygodności zbytu.” Po tym konkretnej kontrowersji, Apple zatrzymał funkcję podsumowującego AI wiadomości dla aplikacji dotyczących wiadomości i rozrywki w następnych iOS iOS 18.3 wydanie wersji beta, ogłaszając plany poprawy akceptacji, a dalsze wyświetlanie wyświetlania tekstu jest sumping. Inteligencja.” Wyzwania AI Apple nie ograniczały się do podsumowania tekstu. Użytkownicy poinformowali w grudniu 2024 r., Że proaktywne funkcje Siri tworzą zastrzeżenia Phantom Restaurant w swoich kalendarzach za pośrednictwem OpenTable, najwyraźniej uruchomione po prostu przez przeglądanie powiązanych stron internetowych w Safari. Te problemy funkcjonalne miały miejsce wraz z szerszymi opóźnieniami rozwojowymi. Przewidywany mnóstwo AI remontu dla Siri został wielokrotnie przełożony, a niedawne potwierdzenie przekroczyło wersję w tym roku, a niektóre wcześniejsze raporty sugerujące, że pełne wdrożenie mogą zostać ukończone dopiero w 2026 r.. Rzecznik Apple, który potwierdził niepowodzenie, stwierdzając, że „będzie to trwać dłużej niż myśleliśmy, że dostarczamy tych cech, a my przewidujemy je w nadchodzącym roku”. To wolniejsze tempo pojawia się, ponieważ konkurenci tacy jak Amazon i Google przedstawiają bardziej zaawansowane możliwości asystenta AI. Dodając kolejną warstwę do obaw związanych z zaufaniem, Apple zgodził się na rozliczenie o wartości 95 milionów dolarów w styczniu 2025 r. W związku z zarzutami, że Siri odnotowało rozmowy użytkowników bez wyraźnej zgody. powtarzające się problemy podkreślające złożone są złożoności Apple. Przetwarzanie na urządzenie, które może stanowić różne wyzwania w porównaniu z modelem AI z chmurem. jabłko pracuje jednocześnie w celu uzyskania lepszych danych treningowych dla modeli AI , sami sami przeciągniętymi kontrolą od producenta. Podczas gdy solidne filtry spamowe zaimplementowane przez dostawców usług e-mail powinny idealnie zapobiec osiągnięciu większości e-maili phishingowych do skrzynki odbiorczej użytkownika, sztuczna inteligencja aplikacji pocztowej wydaje się podatna na błędne interpretację tych, którzy się prześlizgują. Dla użytkowników zainteresowanych kategoryzacją AI potencjalnie wyróżniając niebezpieczne e-maile, funkcję można całkowicie wyłączyć w ustawieniach poczty lub tradycyjny, chronologicznie posortowany widok listy można przywrócić za pomocą opcji interfejsu. usterki AI częścią szerszego wzoru
przeszkody rozwojowe i zaufanie użytkowników
Poprawa AI, jednocześnie równoważenie prywatności