Η επιθετική ώθηση της Google για την ενσωμάτωση του AI στα προϊόντα της είναι να χτυπήσει μερικές οδόφραγμα. Ένα σημαντικό σφάλμα στο Gmail αλλάζει ενεργά το περιεχόμενο των ηλεκτρονικών μηνυμάτων γερμανικής γλώσσας χωρίς τη συγκατάθεση του χρήστη. Ο Δίδυμος AI προσδιορίζει λανθασμένα το γερμανικό κείμενο ως αγγλικά και στη συνέχεια”μεταφράζει”πίσω, εισάγοντας παράξενα και επιζήμια σφάλματα.
Το ελάττωμα ήταν Ανακάλυψε τα δικά του ενημερωτικά δελτία τροποποιήθηκαν, αλλάζοντας περίφημα ένα πολιτικό”άσσος”(κώλο) σε έναν”κώλο”(Arsch). Η Google παραδέχθηκε το πρόβλημα, κατηγορώντας τη σύγχυση του AI πάνω από τον αγγλικό κώδικα HTML. Το περιστατικό εγείρει σοβαρά ερωτήματα σχετικά με τον ποιοτικό έλεγχο της εταιρείας, καθώς αγωνίζεται για να ενσωματώσει το AI σε όλο το οικοσύστημα της, από την αναζήτηση σε εφαρμογές παραγωγικότητας. Παραισθησιολόγοι
Τα σφάλματα που παράγονται από το ελαττωματικό AI του Gmail δεν είναι μόνο τυπογραφικά λάθη. Είναι σημαντικοί χειρισμοί περιεχομένου που υπονομεύουν την ακεραιότητα της επικοινωνίας. Στη λεπτομερή έκθεσή της, T-online . Σε ένα ενημερωτικό δελτίο για τον πόλεμο στην Ουκρανία άλλαξε το”Ukrainische Stellungen”(ουκρανικές θέσεις) σε”Amerikanische Stellungen”(αμερικανικές θέσεις). Η Florian Harms, αρχισυντάκτης της T-online, σημείωσε τις σοβαρές επιπτώσεις στην αξιοπιστία, δηλώνοντας:”Για τη δημοσιογραφική φήμη και την αξιοπιστία των σοβαρών μέσων ενημέρωσης, οι χειρισμοί του κειμένου είναι καταστροφικοί”. Το πρόβλημα έγινε τόσο ανησυχητικό που προκάλεσε εσωτερικές ανησυχίες για μια πιθανή κυβερνοχώρο πριν από την αναγνώριση της αληθινής αιτίας. Αυτό προκαλεί μια ανόητη διαδικασία μετάφρασης. Ως εμπειρογνώμονας του Γερμανικού Ερευνητικού Κέντρου για το AI (DFKI) εξήγησε:”Εάν ένα μοντέλο αναγκάζεται να μεταφραστεί από γερμανικά σε γερμανικά, κάτι που φυσικά δεν ήταν εκπαιδευμένο να κάνει, μπορεί να παραισθήσει”. Αυτή η”ψευδαίσθηση”έχει ως αποτέλεσμα απρόβλεπτα αποτελέσματα. Αφού η T-online ανέφερε για πρώτη φορά το ζήτημα τον Μάιο, οι αρχικές διορθώσεις της Google στις αρχές Ιουνίου απέτυχαν να λύσουν το υποκείμενο πρόβλημα. Τα μπαλώματα διορθώθηκαν συγκεκριμένα παραδείγματα, αλλά δεν αφορούσαν το βασικό λογικό ελάττωμα, επιτρέποντας να εμφανιστούν νέα, διαφορετικά σφάλματα. Ένας εκπρόσωπος της πληροφορικής δήλωσε στο Google:”Φαίνεται ότι η ομάδα ανάπτυξης απλώς έβαλε ένα γύψο στην πληγή χωρίς να διορθώσει την πραγματική αιτία”. Δεν ήταν μέχρι μια συνάντηση στις 30 Ιουνίου ότι η Google αναγνώρισε ότι μια πιο ολοκληρωμένη λύση ήταν στα έργα. Η Google έχει διαμορφώσει δημόσια το ζήτημα ως καθαρά τεχνικό. Ένας ανώνυμος εκπρόσωπος της εταιρείας δήλωσε:”Είμαστε πεπεισμένοι ότι αυτό είναι ένα τεχνικό πρόβλημα”, αποκλείοντας κάθε σκόπιμο χειρισμό. Ωστόσο, ο χειρισμός του σφάλματος από την εταιρεία έχει εξετάσει τον έλεγχο για την έλλειψη προληπτικής επικοινωνίας με τους χρήστες και τους εκδότες που έχουν προσβληθεί από τους ανθρώπους. Πολλοί χρήστες, σύμφωνα με την αναφορά της T-online, δεν γνώριζαν καν ότι είχαν ενεργοποιήσει το χαρακτηριστικό, δημιουργώντας ερωτήσεις σχετικά με τη συγκατάθεση του χρήστη και τη διαφάνεια. Εμφανίζεται ακριβώς όπως η Google διπλασιάζει την ενσωμάτωση του Gemini σε όλη τη σουίτα του χώρου εργασίας. Οι πρόσφατες ενημερώσεις περιλαμβάνουν την αυτόματη συνοπτική συνοπτική ηλεκτρονική περίοδο στο Gmail και την ενσωμάτωση των προσαρμοσμένων”πολύτιμων λίθων”βοηθών AI σε εφαρμογές όπως τα έγγραφα και τα φύλλα. Όπως ο Ron Richards του Android Faithful Podcast