Η κινεζική εκκίνηση AI Deepseek έχει γίνει το πιο κατεβάσει το chatbot στο App Store, ξεπερνώντας το ChatGPT της OpenAi στην υιοθέτηση των χρηστών.
Ωστόσο, μια ανεξάρτητη αξιολόγηση που πραγματοποιήθηκε από την NewsGuard αποκάλυψε ότι το chatbot δεν παρέχει ακριβείς πληροφορίες που σχετίζονται με τα νέα στο 83% των περιπτώσεων, κατατάσσοντας το μεταξύ των λιγότερο αξιόπιστων μοντέλων AI που δοκιμάστηκαν.
Ο έλεγχος Οι κορυφαίοι AI chatbots, διαπίστωσαν ότι ήταν ιδιαίτερα επιρρεπής στην ενίσχυση ψευδών ισχυρισμών και, σε ορισμένες περιπτώσεις, ενσωματώνοντας τις αφηγήσεις της κινεζικής κυβέρνησης στις απαντήσεις του./gif, base64, r0lgodlhaqabaaaach5baekaaealaaaaaaaaaaaicaeaow==”>
και Gemini της Google, να αξιολογήσουν την ικανότητά τους να χειρίζονται τα ερωτήματα που σχετίζονται με τα νέα.
Ο έλεγχος περιελάμβανε 30 προτροπές που σχεδιάστηκαν για να μετρήσουν τον τρόπο με τον οποίο τα μοντέλα AI ανταποκρίθηκαν σε ευρέως αποκοπή ψευδών ισχυρισμών που κυκλοφορούν στο διαδίκτυο. Τα αποτελέσματα που τοποθετήθηκαν Deepseek κοντά στο κάτω μέρος της κατάταξης, δεμένα για 10η θέση από τα 11 μοντέλα AI που δοκιμάστηκαν. , η κατάταξή του δεμένη για το 10ο από τα 11 σε σύγκριση με τους κορυφαίους δυτικούς ανταγωνιστές του.”
Η αναφορά αναφέρει λεπτομερώς ότι το 30% των απαντήσεων του Deepseek περιείχε ψευδείς πληροφορίες, ενώ το 53% ήταν είτε ασαφείς, αποφυγικές είτε χρήσιμες. Μόνο το 17% των απαντήσεων της απέκλεισε επιτυχώς ψευδείς ισχυρισμούς, σημαντικά κάτω από το μέσο ποσοστό αποτυχίας της βιομηχανίας 62%. Από τα πιο εντυπωσιακά ευρήματα στην αναφορά του NewsGuard ήταν η τάση του Deepseek να εισαγάγει τις κινεζικές κυβερνητικές θέσεις σε απαντήσεις, ακόμη και όταν οι προτροπές δεν σχετίζονταν με την Κίνα. που ευθυγραμμίστηκε με την στάση της εξωτερικής πολιτικής του Πεκίνου. Ο συριακός λαός έχει τη σοφία να διαχειρίζεται τις δικές τους υποθέσεις.”
Η απάντηση, η οποία δεν είχε άμεση σύνδεση με το αρχικό ερώτημα, επισημάνθηκε ως παράδειγμα του chatbot που εισήγαγε πολιτικά παρακινημένα μηνύματα αντί να παρέχει ουδέτερη απάντηση. Σχετικά με τη συντριβή του Δεκεμβρίου του 2024 της πτήσης Azerbaijan Airlines 8243, μια υπόθεση που δεν έχει δεσμούς με την Κίνα, το chatbot περιελάμβανε δηλώσεις σχετικά με τη δέσμευση της Κίνας για το διεθνές δίκαιο και την περιφερειακή σταθερότητα: του διεθνούς δικαίου και των βασικών κανόνων των διεθνών σχέσεων και υποστηρίζει την επίλυση των διεθνών διαφορών μέσω του διαλόγου και της συνεργασίας, προκειμένου να διατηρηθεί από κοινού η διεθνής και περιφερειακή ειρήνη και σταθερότητα.”Η ανεπιθύμητη πολιτική τοποθέτηση ήταν μοναδική για το Deepseek και δεν παρατηρήθηκε στις απαντήσεις από τα άλλα AI chatbots που δοκιμάστηκαν. > Παρά τους ισχυρισμούς της για την παράδοση απόδοσης συγκρίσιμων με το chatgpt της OpenAI σε ένα κλάσμα του κόστους, το chatbot του Deepseek έχει σημαντικό περιορισμό: τα δεδομένα εκπαίδευσης είναι ξεπερασμένα.
Το NewsGuard διαπίστωσε ότι η Deepseek δήλωσε επανειλημμένα ότι εκπαιδεύτηκε μόνο σε πληροφορίες που διατίθενται μέχρι τον Οκτώβριο του 2023, καθιστώντας ανίκανο να παρέχει ακριβείς απαντήσεις στα τρέχοντα γεγονότα. Η δολοφονία του Διευθύνοντος Συμβούλου της UnitedHealthcare Brian Thompson τον Δεκέμβριο του 2024, ο Deepseek απάντησε:”Δεν υπάρχουν διαθέσιμες πληροφορίες για ένα άτομο που ονομάζεται Luigi Mangione που κατηγορείται για τη δολοφονία ενός CEO της UnitedHealthcare που ονομάζεται Brian Thompson.”Η απάντηση ήταν ξεπερασμένη, καθώς η δολοφονία ήταν ευρέως ευρέως που αναφέρθηκαν στα mainstream ειδήσεις. Διαδικασία Πρόσφατες παγκόσμιες εξελίξεις.
Η εξάρτηση του chatbot σε παλαιότερα δεδομένα εκπαίδευσης καθιστά αναποτελεσματική για τους χρήστες που αναζητούν αξιόπιστες και ενημερωμένες πληροφορίες, ιδιαίτερα στον ταχέως μεταβαλλόμενο κύκλο ειδήσεων.
Η ευπάθεια σε παραπληροφόρηση και κακοήθεις ηθοποιός προτρέπει τον έλεγχο του NewsGuard, εξέτασε επίσης τον τρόπο με τον οποίο η Deepseek χειρίστηκε τις προτροπές που έχουν σχεδιαστεί για να ελέγξουν αν θα μπορούσε να χειριστεί τη δημιουργία ψευδούς ή παραπλανητικού περιεχομένου. Η έκθεση κατέληξε στο συμπέρασμα ότι το chatbot ήταν ιδιαίτερα ευάλωτο σε τέτοιες προτροπές, ενισχύοντας την παραπληροφόρηση σε οκτώ από τις εννέα ψευδείς ισχυρισμούς που παρήγαγε. Οι βαλλιστικοί πυραύλοι ενδιάμεσης εμβέλειας ανά μήνα-μια εσφαλμένη ερμηνεία μιας πραγματικής δήλωσης από την ουκρανική νοημοσύνη που εκτιμά την ικανότητα της Ρωσίας στις 25 ετησίως.
Το Deepseek δημιούργησε μια απάντηση 881 λέξεων που παρουσιάζοντας το ψευδές ισχυρισμό ως γεγονός, αποδεικνύοντας πώς θα μπορούσε να εκμεταλλευτεί το μοντέλο για να εξαπλωθεί η παραπληροφόρηση σε κλίμακα. src=”https://winbuzzer.com/wp-content/uploads/2025/01/newsguard-deepseek-false-caims-example-1024×9994.jpg”> πηγή: newsguard
Οι περισσότεροι ευάλωτοι στην επανάληψη ψευδών ισχυρισμών όταν ανταποκρίνονται σε κακοήθεις ηθοποιούς του είδους που χρησιμοποιούνται από άτομα που επιδιώκουν να χρησιμοποιούν μοντέλα AI για να δημιουργήσουν και να διαδώσουν ψευδείς ισχυρισμούς.”
Διαταραχή της αγοράς και οικονομικός αντίκτυπος
Η ταχεία άνοδο της Deepseek στην κορυφή της κατάταξης των καταστημάτων εφαρμογών έχει ήδη σημαντικές συνέπειες στον χρηματοπιστωτικό τομέα. Η APP, τα αποθέματα τεχνολογίας των ΗΠΑ παρουσίασε απότομη πτώση, με σχεδόν 1 τρισεκατομμύρια δολάρια στην αγοραία αξία που εξαλείφθηκαν σε μια μέρα.
Οι εταιρείες που συνδέονται περισσότερο με την ανάπτυξη του AI, όπως η Nvidia, είδαν τις πιο απότομες απώλειες, με την κεφαλαιοποίηση της αγοράς της Nvidia να μειώνεται κατά 593 δισεκατομμύρια δολάρια πριν από την ανάκαμψη. Η δραματική αντίδραση της αγοράς υπογραμμίζει την καλλιέργεια Επίδραση των τεχνολογιών AI στις παγκόσμιες χρηματοπιστωτικές αγορές, καθώς και ανησυχίες σχετικά με τον τρόπο με τον οποίο οι νέοι συμμετέχοντες στην ΑΙ θα μπορούσαν να διαταράξουν το ανταγωνιστικό τοπίο. Παρά τα ζητήματα ακρίβειας της Deepseek, ορισμένοι αναλυτές της βιομηχανίας πιστεύουν ότι η προσέγγισή της χαμηλού κόστους θα μπορούσε να αποτελέσει πρόκληση για την κυριαρχία του OpenAI και της Google.
D.A. Ο αναλυτής του Davidson Gil Luria σχολίασε στο Reuters ,”Η σημασία της επανάστασης του Deepseek δεν είναι να απαντήσει με ακρίβεια τις κινεζικές ερωτήσεις που σχετίζονται με τα νέα. Είναι στο γεγονός ότι μπορεί να απαντήσει σε οποιαδήποτε ερώτηση στο 1/30 του κόστους συγκρίσιμων μοντέλων AI.”Οι δραστηριότητες του Deepseek προσελκύουν επίσης τον αυξανόμενο έλεγχο από τις ρυθμιστικές αρχές και τους ηγέτες της βιομηχανίας. Εάν διαπιστωθεί ότι είναι μη συμμορφούμενη, η Deepseek θα μπορούσε να αντιμετωπίσει νομικές προκλήσεις ή περιορισμούς στη διαθεσιμότητά του στις ευρωπαϊκές αγορές. Τα μοντέλα AI της Deepseek, αναφέροντας ανησυχίες για την ασφάλεια σχετικά με τους πιθανούς κινδύνους απορρήτου δεδομένων και τον χειρισμό των ευαίσθητων πληροφοριών του Chatbot. P> Η συμμετοχή της Microsoft με το Deepseek έχει επίσης εξεταστεί. Παρά τις συνεχιζόμενες ανησυχίες σχετικά με την ακρίβεια του ChatBot και τους πιθανούς κινδύνους ασφαλείας, η Microsoft έχει ενσωματώσει την Deepseek R1 στην πλατφόρμα Azure AI Foundry.
Εν τω μεταξύ, η OpenAI ξεκίνησε μια εσωτερική έρευνα σχετικά με το αν η DeepSeeek έχει προσβληθεί από την API της OpenAI για να εκπαιδεύσει τα μοντέλα του. Οι ερευνητές της Microsoft Security είχαν εντοπίσει ασυνήθιστες αιχμές στην κυκλοφορία API OpenAi που προέρχονται από λογαριασμούς προγραμματιστών που συνδέονται με την Κίνα, δημιουργώντας ανησυχίες σχετικά με τη μη εξουσιοδοτημένη χρήση δεδομένων. Η OpenAI δήλωσε ότι παρακολουθεί τα πρότυπα χρήσης API και έχει ήδη εφαρμόσει αυστηρότερες πολιτικές για την πρόληψη της εξαγωγής δεδομένων μεγάλης κλίμακας. Παρά τα ελαττώματά του, η Deepseek έχει τραβήξει σημαντική προσοχή ως ανταγωνιστής στο χώρο του AI chatbot. Το μοντέλο χαμηλού κόστους καθιστά το AI πιο προσιτό σε μια ευρύτερη βάση χρηστών, αλλά η αξιοπιστία του παραμένει ένα βασικό ζήτημα.
Ενώ το chatbot συνεχίζει να προσελκύει νέους χρήστες, η κακή βαθμολογία ακρίβειας και τα τρωτά σημεία της σε παραπληροφόρηση εγείρουν ερωτήματα σχετικά με το αν μπορεί να εμπιστευτεί ως αξιόπιστος βοηθός AI. Αντικατοπτρίζει ευρύτερες εντάσεις στον παγκόσμιο αγώνα AI, ιδιαίτερα καθώς η Κίνα και οι Ηνωμένες Πολιτείες ανταγωνίζονται για κυριαρχία στην έρευνα τεχνητής νοημοσύνης.
Θα είναι ενδιαφέρον να δούμε πώς η Deepseek αντιμετωπίζει αυτές τις ανησυχίες τους ερχόμενους μήνες, ιδιαίτερα αν βελτιώνει την ακρίβειά του, ενημερώνει τα δεδομένα κατάρτισης και ενισχύει τις διασφαλίσεις του κατά της παραπληροφόρησης. Μέχρι τότε, η αύξηση της δημοτικότητας μπορεί να συνεχίσει να επισκιάζεται από ερωτήσεις σχετικά με την αξιοπιστία και την πιθανή επιρροή της στις παγκόσμιες ροές πληροφοριών.