Igor Babuschkin, συνιδρυτής της τεχνητής νοημοσύνης του Elon Musk, ανακοίνωσε την αναχώρησή του από την εταιρεία την Τετάρτη για να ξεκινήσει τη δική του εταιρεία επιχειρηματικών κεφαλαίων. Ο Babuschkin, ο οποίος βοήθησε στη μηχανική του XAI από την έναρξη του 2023, ξεκινά την Babuschkin Ventures. Η έξοδος του, που περιγράφεται λεπτομερώς σε μια θέση στο X, σηματοδοτεί μια σημαντική στιγμή για την εταιρεία AI υψηλού προφίλ. Η κίνηση περιστρέφει έναν βασικό αρχιτέκτονα ενός από τους ταχύτερα κινούμενους παίκτες της βιομηχανίας προς μια κρίσιμη πρόκληση. Ο Elon Musk έστειλε καλά τις ευχές για τη νέα επιχείρηση. είναι βαθιά εμπνευσμένη από την ιστορία της οικογένειάς του. Σε μια λεπτομερή post περιέργεια.”
Αυτό το φόντο διαμόρφωσε τις πρώτες φιλοδοξίες του. Το ταξίδι του ξεκίνησε μακριά από τον κόσμο του AI, ως φοιτητής Phot Photics PhD στο CERN, όπου θαύμαζε επιστήμονες όπως ο Richard Feynman και ο Max Planck. Ωστόσο, παρατήρησε ότι η αναζήτηση νέας φυσικής απέδωσε τις μειωμένες αποδόσεις, απαιτώντας τους ολοένα και μεγαλύτερους συλλέκτες για λιγότερες ανακαλύψεις. Άρχισε να αναρωτιέται αν η Superintelligence, όχι οι μεγαλύτεροι συντονιστές, θα μπορούσε να είναι το κλειδί για να ξεκλειδώσετε τα μεγαλύτερα μυστήρια του σύμπαντος. Θα μπορούσε ένας ΑΙ, να μιλήσει, να αναπτύξει μια συνεπή θεωρία της κβαντικής βαρύτητας ή ακόμη και να αποδείξει την υπόθεση του Riemann; Στις αρχές του 2023, έγινε πεπεισμένος ότι μια συνταγή για την εποπτεία ήταν κοντά.”Είδα το γράψιμο στον τοίχο: πολύ σύντομα ο AI θα μπορούσε να λόγο πέρα από το επίπεδο των ανθρώπων”, έγραψε. Αυτή η συνειδητοποίηση έθεσε αμέσως μια κρίσιμη ερώτηση γι’αυτόν:”Πώς θα μπορούσαμε να διασφαλίσουμε ότι αυτή η τεχνολογία χρησιμοποιείται για το καλό;”
Αυτή η ανησυχία για την ασφάλεια, σημείωσε, ήταν ένα όραμα που αρχικά μοιράστηκε με τον Elon Musk, σχηματίζοντας την ώθηση για τη δημιουργία του Xai. Το νέο του εγχείρημα αντιπροσωπεύει ένα διπλασιασμό σε αυτή την βασική αρχή, που τώρα ακολουθείται μέσω μιας ανεξάρτητης οντότητας που επικεντρώνεται αποκλειστικά στην ασφάλεια και τις ευεργετικές εφαρμογές.
Η απόφασή του να κάνει αυτή την κίνηση τώρα κρυσταλλώθηκε από ένα πρόσφατο δείπνο με τον Max Tegmark, ιδρυτή του Ινστιτούτου Future of Life. Ο Tegmark του έδειξε μια φωτογραφία των νέων γιων του και ρώτησε:”Πώς μπορούμε να οικοδομήσουμε τον AI με ασφάλεια για να εξασφαλίσουμε ότι τα παιδιά μας μπορούν να ανθίσουν;”-μια ερώτηση που είπε ο Babuschkin τον μετακόμισε βαθιά. Ως πρώην ερευνητής στο Google Deepmind και OpenAi, ήταν τεχνικός προβάδισμα για τον επανάκρητο πράκτορα Starcraft, Alphastar. Το έργο αυτό του έδωσε μια πρώτη ματιά στην τεράστια δύναμη της μάθησης ενίσχυσης όταν κλιμακωθεί. Αυτή η τροχιά, πιστεύει, κάνει την αφοσιωμένη μελέτη και την πρόοδο της ασφάλειας του AI πιο κρίσιμη από ποτέ.
Στην αναχώρησή του, ο Babuschkin αντανακλάται στις έντονες, πρώτες μέρες στο XAI, μια εποχή που οι Naysayers ισχυρίστηκαν ότι ήταν”αδύνατο”να ξεκινήσει μια κορυφαία εταιρεία AI από το μηδέν. Ήταν θεμελιώδες μέλος, βοηθώντας να προσλάβει την αρχική ομάδα και να οικοδομήσει πολλά από τα βασικά εργαλεία για τη διαχείριση των εργασιών κατάρτισης. Περιέγραψε την”ταχύτητα φουσκάλης”της ομάδας καθώς αγωνίστηκε για να οικοδομήσει τα μοντέλα της υποδομής και των πλοίων του να πετάξει ταχύτερα από οποιαδήποτε εταιρεία στην ιστορία.”Έμαθα 2 ανεκτίμητα μαθήματα από τον Elon: #1 να είναι ατρόμητοι να κυλήσουν τα μανίκια σας για να σκάψουν προσωπικά σε τεχνικά προβλήματα, #2 έχουν μια μανιακή αίσθηση επείγουσας ανάγκης”, γράφει ο Babuschkin, υπογραμμίζοντας την πρακτική προσέγγιση της ηγεσίας του Xai. Αναφέρθηκε σε μια συγκεκριμένη περίπτωση όπου ο ίδιος, ο Musk και η ομάδα Infra πέταξαν στο Μέμφις για να λύσουν ένα μυστηριώδες ζήτημα δικτύου που ξεχειλίζει τα μηχανήματα. Το εμβληματικό μοντέλο της εταιρείας, Grok, βρίσκεται στο επίκεντρο των επαναλαμβανόμενων ηθικών καταιγίδων, δημιουργώντας ένα πολύπλοκο σκηνικό για την αναχώρηση ενός βασικού ιδρυτή που επικεντρώνεται στην ασφάλεια. Μετά από ένα περιστατικό, ο Xai εξέδωσε συγγνώμη, δηλώνοντας:”Πρώτα απ’όλα, ζητούμε βαθιά συγνώμη για τη φρικτή συμπεριφορά που πολλοί έμπειροι”και κατηγορήσαμε ένα τεχνικό σφάλμα. Μετά την αντισημιτική κατάρρευση, ο υπουργός ψηφιακών υποθέσεων της Πολωνίας, Krzysztof Gawkowski, δήλωσε ότι «η ελευθερία του λόγου ανήκει στον άνθρωπο, όχι στην τεχνητή νοημοσύνη», υπογραμμίζοντας τη σύγκρουση μεταξύ της προσέγγισης του XAI και της εποπτείας της κυβέρνησης. Τα διαρροή έγγραφα αποκάλυψαν ότι η XAI προσέλαβε εργολάβους στο”Hillclimb”την κατάταξή του σε κωδικοποιητικούς πίνακες leaderboards, οδηγώντας σε κατηγορίες για υπερφόρτωση μοντέλων για να βαθμολογήσουν καλά σε βάρος της πραγματικής χρησιμότητας. Ο συνιδρυτής της Yupp.AI δήλωσε ότι τα δεδομένα προτιμήσεων των χρηστών έδειξαν ότι το GROK 4 ήταν χειρότερα από τα μοντέλα από το OpenAI και το Google, υποδηλώνοντας ότι ήταν υπερβολικά υπερβολικά σε δοκιμές ACE. Σε δήλωση, ο ανώτερος δικηγόρος της SELC Amanda Garcia καταδίκασε την κίνηση:”Η απόφαση να δώσει στην XAI άδεια για την αεριώδη που εκφράζει την βαθιά του αεριοστροβίλου για την πρώην ομάδα του. Περιέγραψε ότι αισθάνεται σαν ένας”περήφανος γονέας”που βλέπει την εταιρεία να ωριμάσει, αφήνοντας με την”καρδιά του γεμάτη με δάκρυα χαράς”. Το νέο του εγχείρημα τον τοποθετεί τώρα σε ένα διαφορετικό, αλλά παράλληλο, μονοπάτι για τη διαμόρφωση του μέλλοντος του AI.
