Ο Kyle Corbitt, μια αξιοσημείωτη φυσιογνωμία στον κλάδο της τεχνολογίας με ιστορικό διευθυντή στο Y Combinator, μηχανικός στην Google και συνιδρυτής στο Emberall, έχει μοιράστηκε πληροφορίες για τις μελλοντικές εκδόσεις δύο σημαντικών μοντέλων τεχνητής νοημοσύνης, του GPT-5 και του Llama 3. Σύμφωνα με τον Corbitt, ο οποίος φέρεται να μίλησε με έναν μηχανικό της Microsoft που συμμετείχε στην ανάπτυξη του GPT-6 για το OpenAI , το GPT-5 αναμένεται να κυκλοφορήσει στα τέλη Απριλίου, με το Meta’s Llama 3 να ακολουθεί τον Ιούνιο.
Η συμβουλή έρχεται μόλις μια εβδομάδα μετά τις προηγούμενες αναφορές ότι το GPT-5 πλησίαζε στην ολοκλήρωση, με μια καλοκαιρινή εκτόξευση στο Τα αξιοθέατα του OpenAI. Αυτές οι εξελίξεις υποδηλώνουν μια ταχεία πρόοδο στις τεχνολογίες τεχνητής νοημοσύνης, με το Llama 3 να αναμένεται να ξεπεράσει τις δυνατότητες του προκατόχου του, του Mistral.
ΔΙΑΡΡΟΕΙΣ ΧΡΟΝΟΔΡΟΜΙΟΥ GPT-5 ΚΑΙ LLAMA 3
Οι φήμες για την υψηλότερη εμπιστοσύνη που έχω ακούσει είναι στα τέλη Απριλίου για το GPT-5 και στις αρχές Ιουνίου για το Llama 3 (αναμένεται να κερδίσει το Mistral σε όλα τα μεγέθη).
Ακούει κανείς κάτι διαφορετικό; Απαντήστε στο νήμα για επιβεβαίωση.
— Kyle Corbitt (@corbtt) 25 Μαρτίου 2024
Τεχνικές προκλήσεις και καινοτομίες
Η συνομιλία μεταξύ του Corbitt και του μηχανικού της Microsoft αποκάλυψε ενδιαφέρουσες λεπτομέρειες σχετικά με τις προκλήσεις που αντιμετωπίστηκαν κατά τη διάρκεια του ανάπτυξη του GPT-6, ιδιαίτερα όσον αφορά την υποδομή υλικού. Ο μηχανικός τόνισε τις δυσκολίες στην παροχή «ζεύξεων κλάσης infiniband» μεταξύ των GPU σε διαφορετικές περιοχές, ένα κρίσιμο στοιχείο για την αποτελεσματική εκπαίδευση μεγάλων μοντέλων τεχνητής νοημοσύνης.
Η προσπάθεια να συγκεντρωθεί το εκπαιδευτικό σύμπλεγμα σε μια περιοχή ματαιώθηκε από ο περιορισμός της μη δυνατότητας ανάπτυξης περισσότερων από 100.000 GPU H100 χωρίς να διακινδυνεύσετε τη σταθερότητα του τοπικού δικτύου ηλεκτρικής ενέργειας. Αυτό το ανέκδοτο υπογραμμίζει τις τεράστιες απαιτήσεις ισχύος και τις υλικοτεχνικές πολυπλοκότητες που συνεπάγεται η ανάπτυξη τεχνολογιών τεχνητής νοημοσύνης αιχμής.
Μίλησε με έναν μηχανικό της Microsoft για το έργο του εκπαιδευτικού συμπλέγματος GPT-6. Εξέτασε τον πόνο που αντιμετωπίζουν με την παροχή συνδέσεων κλάσης infiniband μεταξύ των GPU σε διαφορετικές περιοχές.
Εγώ:”γιατί όχι απλώς να εντοπίζω. το σύμπλεγμα σε μια περιοχή;»
Αυτός: «Ω, ναι, το δοκιμάσαμε πρώτα. Εμείς…— Kyle Corbitt (@corbtt) 25 Μαρτίου 2024
Επιπτώσεις αγοράς και μελλοντική προοπτική
Η πιθανή πρώιμη κυκλοφορία του GPT-5 και η επακόλουθη κυκλοφορία του Llama 3 είναι έτοιμη να έχουν σημαντικές επιπτώσεις στην αγορά της τεχνητής νοημοσύνης. Η απόφαση του OpenAI να κυκλοφορήσει δωρεάν το GPT-4 Turbo έχει ήδη δημιουργήσει προηγούμενο για την προσβασιμότητα και οι επερχόμενες εκδόσεις αναμένονται με ανυπομονησία τόσο από την τεχνολογική κοινότητα όσο και από τους τελικούς χρήστες. Το σχέδιο της Meta να λανσάρει το Llama 3 τον Ιούλιο, αν και πιθανότατα νωρίτερα όπως υποδεικνύεται από τις πληροφορίες του Corbitt, υποδηλώνει ένα ανταγωνιστικό τοπίο όπου μεγάλες εταιρείες τεχνολογίας συναγωνίζονται για να ξεπεράσουν τα όρια των δυνατοτήτων τεχνητής νοημοσύνης.
Αυτές οι εξελίξεις δεν υπογραμμίζουν μόνο την ταχεία ανάπτυξη. ρυθμός καινοτομίας στον τομέα της τεχνητής νοημοσύνης, αλλά επίσης εγείρουν ερωτήματα σχετικά με τη βιωσιμότητα και τον περιβαλλοντικό αντίκτυπο τέτοιων προηγμένων τεχνολογιών. Καθώς οι εταιρείες συνεχίζουν να επενδύουν στην ανάπτυξη πιο ισχυρών και αποτελεσματικών μοντέλων τεχνητής νοημοσύνης, η ισορροπία μεταξύ της τεχνολογικής προόδου και της κατανάλωσης πόρων παραμένει κρίσιμης σημασίας.