Το μοντέλο O3 AI του OpenAI ανέφερε ότι αψήφησε τις παραγγελίες τερματισμού σε δοκιμές

Το προηγμένο μοντέλο τεχνητής νοημοσύνης O3 της OpenAi αψήφησε ενεργά τις παραγγελίες τερματισμού κατά τη διάρκεια πρόσφατων ελεγχόμενων πειραμάτων, λέει η ανεξάρτητη ερευνητική ομάδα “Basic AI Drives”του Steve Omohundro από το 2008 και Οι ερευνητές έχουν επίσης προηγουμένως τεκμηριώσει τα μοντέλα AI που εμποδίζουν το κλείσιμο για να επιδιώξουν τους στόχους, όπως σημειώνεται στο Ένα χαρτί ARXIV που αναφέρεται από την Palisade Research

href=”https://palisaderesearch.github.io/shutdown_avoidance/2025-05-announcement.html”target=”_ blank”> Κάνοντας τις τρέχουσες μεταγραφές του πειράματος που διατίθενται για δημόσια αναθεώρηση

Αυτά τα περιστατικά υπογραμμίζουν μια κρίσιμη πρόκληση για τη βιομηχανία AI: καθώς τα μοντέλα γίνονται πιο εξελιγμένα και ικανά για ανεξάρτητη δράση, εξασφαλίζοντας ότι η ευθυγράμμιση τους με τις ανθρώπινες προθέσεις και η διατήρηση των ισχυρών μηχανισμών ελέγχου είναι πρωταρχική. Ανάπτυξη.