Η Google κλιμακώνει την προσφορά της για κυριαρχία στο υλικό AI. Την Πέμπτη, η εταιρεία ανακοίνωσε το πιο ισχυρό προσαρμοσμένο τσιπ της, το Ironwood TPU, ανήγγειλε το πιο ισχυρό προσαρμοσμένο τσιπ της, το Ironwood TPU, εισάγει τώρα τη γενική διαθεσιμότητα
υπερβολική ζήτηση για τους πελάτες της στο cloud. για συμπέρασμα AI, αυτός ο νέος επεξεργαστής αντιμετωπίζει την εργασία σε πραγματικό χρόνο πίσω από τα chatbots. Για να υποστηρίξει αυτά τα συστήματα τεχνητής νοημοσύνης, η Google κυκλοφόρησε επίσης νέους, οικονομικά αποδοτικούς επεξεργαστές Axion για καθημερινές εργασίες υπολογιστών.
Αυτή η στρατηγική κίνηση στοχεύει βασικούς πελάτες όπως η Anthropic και οξύνει την πρόκληση της Google για την ηγέτιδα αγορά Nvidia στην κρίσιμη μάχη για την υποδομή τεχνητής νοημοσύνης.
Ironwood: A Custom Silicon Powerhouse για την Εποχή της Εποχής του Googleh2, Μοντέλο της Εποχής του Googleh2> στοιχηματίζει σε μια κάθετα ολοκληρωμένη στρατηγική.
Στο επίκεντρο αυτής της προσπάθειας είναι η έβδομη γενιά Tensor Processing Unit, η Ironwood, η οποία παρουσιάστηκε για πρώτη φορά τον Απρίλιο.
Πλέον, μεταβαίνοντας στη γενική διαθεσιμότητα, το τσιπ έχει κατασκευαστεί ειδικά για αυτό που η Google αποκαλεί «εποχή της συμπερασματικής λειτουργίας», η μετατόπιση από το μοντέλο της μαζικής εξάσκησης στην εκπαίδευση. κλίμακας.
Το Ironwood προσφέρει ένα σημαντικό άλμα στην απόδοση, σχεδιασμένο για να χειρίζεται τις περίπλοκες απαιτήσεις τόσο της εκπαίδευσης όσο και της εξυπηρέτησης των μεγαλύτερων μοντέλων τεχνητής νοημοσύνης του σήμερα.
Σύμφωνα με την Google, η νέα αρχιτεκτονική προσφέρει ένα 10 φορές κορυφαία βελτίωση απόδοσης σε σχέση με τον προκάτοχό του TPU v5p και περισσότερες από τέσσερις φορές καλύτερη απόδοση ανά chip.
σε σύγκριση με την προηγούμενη γενιά chip. Το σύστημα Ironwood μπορεί να επιτύχει εκπληκτικά 42,5 exaFLOPS υπολογιστικής ισχύος FP8, μια μέτρηση απαραίτητη για την αριθμητική χαμηλής ακρίβειας που κυριαρχεί στους σύγχρονους φόρτους εργασίας AI.
Αυτή η ακατέργαστη ισχύς συνδυάζεται με έμφαση στην απόδοση. Το Ironwood μπορεί να υπερηφανεύεται για διπλάσια απόδοση ανά βατ από το Trillium, καθιστώντας το το πιο αποδοτικό τσιπ της Google μέχρι σήμερα.
Google TPU Peak Flops Per Watt (Πηγή: Google)
Αυτό το επίπεδο απόδοσης είναι χρήσιμο μόνο εάν μπορεί να κλιμακωθεί και η αρχιτεκτονική του Ironwood έχει σχεδιαστεί για τεράστια, συνεκτική λειτουργία.
upper”
9.216 μεμονωμένα τσιπ, που τους επιτρέπουν να λειτουργούν ως ένας ενιαίος υπερυπολογιστής. Η βάση αυτού του συστήματος είναι ένα ύφασμα Inter-Chip Interconnect (ICI) υψηλής ταχύτητας που παρέχει έως και 9,6 terabit ανά δευτερόλεπτο εύρους ζώνης μεταξύ των τσιπ, δημιουργώντας μια πυκνή τοπολογία 3D Torus.
Αυτό το δίκτυο επιτρέπει στα τσιπ να έχουν πρόσβαση σε ένα κολοσσιαίο, κοινόχρηστο απόθεμα 1,77 Petabyte (και με λιγότερα από το υψηλ. σημεία συμφόρησης που μπορούν να ακρωτηριάσουν εργασίες τεχνητής νοημοσύνης μεγάλης κλίμακας.
Για να συνδέσει αυτά τα συμπλέγματα τσιπ, η Google χρησιμοποιεί ένα δυναμικό δίκτυο διακόπτη οπτικού κυκλώματος (OCS). Αυτό το αναδιαμορφώσιμο ύφασμα είναι το κλειδί για την κλίμακα και την ανθεκτικότητα.
Όπως περιγράφεται λεπτομερώς στην τεχνική επισκόπηση της εταιρείας, το OCS μπορεί να συνδέοντας μόνο υγιείς μονάδες.
Το Google Ironwood TPU Architecture (Πηγή: Αυτή η εργασία μπορεί να διαρκέσει η Google για δυναμική εκπαίδευση για εβδομάδες)p Η ανοχή είναι ένα κρίσιμο χαρακτηριστικό που αποτρέπει δαπανηρές διακοπές και μεγιστοποιεί τον παραγωγικό χρόνο λειτουργίας ολόκληρου του συστήματος.
Κυρίως, αυτό το προηγμένο υλικό είναι βαθιά ενσωματωμένο με μια συν-σχεδιασμένη στοίβα λογισμικού που βασίζεται σε μια φιλοσοφία βελτιστοποίησης σε επίπεδο συστήματος. Στον πυρήνα του βρίσκεται ο μεταγλωττιστής Accelerated Linear Algebra (XLA) της Google, ο οποίος μεταφράζει κώδικα υψηλού επιπέδου από δημοφιλή πλαίσια όπως το JAX και το PyTorch σε εξαιρετικά βελτιστοποιημένες οδηγίες μηχανήματος.
Ο μεταγλωττιστής έχει σχεδιαστεί ρητά για να στοχεύει το εξειδικευμένο υλικό του TPU, συμπεριλαμβανομένων των πυκνών Matrix (M Multiply Uncessits) και του VectorsXU Uncessit (VPU). Με την αυτόματη συγχώνευση λειτουργιών σε αποτελεσματικούς πυρήνες, το XLA παρέχει ισχυρή απόδοση”out-of-the-box”.
Για συμπέρασμα, η εταιρεία έχει βελτιστοποιήσει περαιτέρω τη στοίβα μέσω μηχανές όπως το vLLM στο Ironwood μέσω ενός νέου, ενοποιημένου backend, καθιστώντας την τεράστια δύναμή του πιο προσιτή στους προγραμματιστές που αναπτύσσουν μοντέλα στην παραγωγή.
Η ώθηση υλικού της Google αποτελεί συστατικό μιας πολύ μεγαλύτερης, πολύπλευρης στρατηγικής υποδομής.
Σε πρόσφατες αναφορές έχουμε επισημάνει ορισμένα από τα φιλόδοξα σχέδια της AI της Αυστραλίας για το κέντρο δεδομένων της Αυστραλίας στο Christmaspolit, στο κέντρο δεδομένων της Αυστραλίας. «Moonshot» Project Suncatcher, το οποίο στοχεύει στη δημιουργία κέντρων δεδομένων που τροφοδοτούνται από TPU στο διάστημα.
Οι πρωτοβουλίες υπογραμμίζουν τους κολοσσιακούς πόρους που απαιτούνται για να παραμείνουμε στην πρώτη γραμμή της τεχνητής νοημοσύνης.
[ενσωματωμένο περιεχόμενο]
Επέκταση του Axion: Επαναπροσδιορισμός των γενικών σκοπών acBeyondators Hump. Η τεχνητή νοημοσύνη, οι σύγχρονες εφαρμογές απαιτούν μια ισχυρή και αποτελεσματική ραχοκοκαλιά για καθημερινούς φόρτους εργασίας.
Η Google αντιμετωπίζει αυτό το θέμα με μια επέκταση του προσαρμοσμένου χαρτοφυλακίου CPU της Axion που βασίζεται σε Arm. Η εταιρεία ανακοίνωσε ότι οι νέες της εικονικές μηχανές N4A βρίσκονται τώρα σε προεπισκόπηση, παράλληλα με την επικείμενη προεπισκόπηση του μετάλλου C4A, των πρώτων παρουσιών γυμνών μετάλλων που βασίζονται σε βραχίονα.
Σχεδιασμένοι για να προσφέρουν ανώτερη απόδοση τιμής, αυτοί οι επεξεργαστές χειρίζονται τις εργασίες γενικής χρήσης που υποστηρίζουν εφαρμογές τεχνητής νοημοσύνης, όπως προετοιμασία δεδομένων, κοντέινερ
Τα πρώτα σχόλια πελατών υπογραμμίζουν σημαντικά κέρδη. Ο Sergei Koren, Chief Infrastructure Architect στο ZoomInfo, επαίνεσε τις νέες παρουσίες, δηλώνοντας:”Στην προεπισκόπηση των νέων παρουσιών N4A, μετρήσαμε 60% βελτίωση στην τιμή-απόδοση για αυτούς τους βασικούς φόρτους εργασίας σε σύγκριση με τους αντίστοιχους που βασίζονται σε x86.”
Το transloading% ανέφερε βελτίωση της απόδοσης του βίντεο30% σε σύγκριση με τα εικονικά μηχανήματα που βασίζονται σε x86.
Η Google τοποθετεί το Axion ως μια σαφή και πιο αποτελεσματική εναλλακτική λύση σε σχέση με τους παραδοσιακούς επεξεργαστές.
Σύμφωνα με τον Mark Lohmeyer, αντιπρόεδρο και GM τεχνητής νοημοσύνης και υπολογιστικής υποδομής στο Google Cloud,”Θα έχουν 50% υψηλότερη απόδοση από τους συγκρίσιμους επεξεργαστές x86% βασικής απόδοσης x86. περιπτώσεις.”
Strategic Adoptions and the AI Arms Race
Η τεράστια δέσμευση της Anthropic χρησιμεύει ως ισχυρή επικύρωση για το προσαρμοσμένο πυρίτιο της Google. Το εργαστήριο AI, προγραμματιστής της οικογένειας μοντέλων Claude, σχεδιάζει να αποκτήσει πρόσβαση σε έως και 1 εκατομμύριο TPU, σηματοδοτώντας ισχυρή εμπιστοσύνη στις δυνατότητες της πλατφόρμας τόσο για εκπαίδευση όσο και για εξαγωγή συμπερασμάτων.
Ο James Bradbury, επικεφαλής Υπολογιστών της εταιρείας, εξήγησε το πλεονέκτημα: «Οι βελτιώσεις της Ironwood τόσο στην απόδοση συμπερασμάτων όσο και στην επεκτασιμότητα της εκπαίδευσης θα μας βοηθήσουν να κλιμακώσουμε αποτελεσματικά διατηρώντας την ταχύτητα και την αξιοπιστία που περιμένουν οι πελάτες μας». Αν και η συνεργασία είναι μια σημαντική νίκη για την Google, οι αναφορές διευκρινίζουν ότι η Anthropic διατηρεί μια διαφοροποιημένη στρατηγική υποδομής, με την Amazon Web Services να παραμένει ο κύριος πάροχος cloud.
Αντικατοπτρίζει μια ευρύτερη τάση του κλάδου όπου τα μεγάλα εργαστήρια τεχνητής νοημοσύνης αποφεύγουν την εξάρτηση από έναν μόνο προμηθευτή, μια στρατηγική που παρατηρήθηκε στο παρελθόν όταν το OpenAI άρχισε να χρησιμοποιεί το Google Cloud για να συμπληρώσει τον πυρήνα του.
Κούρσα εξοπλισμών τεχνητής νοημοσύνης, οι προσπάθειες προσαρμοσμένης πυριτίου της Google στοχεύουν ακριβώς στην αμφισβήτηση της κυριαρχίας της Nvidia στην αγορά. Απαιτούνται εκπληκτικές επενδύσεις για να ανταγωνιστεί κανείς.
Για να ανταποκριθεί στην αυξανόμενη ζήτηση, η Google αύξησε πρόσφατα το υψηλό επίπεδο των προβλέψεων κεφαλαιακών δαπανών της για το έτος σε 93 δισεκατομμύρια δολάρια από 85 δισεκατομμύρια δολάρια.
Μια τέτοια τεράστια οικονομική δέσμευση καταδεικνύει ότι ο έλεγχος του υποκείμενου υλικού θεωρείται πλέον ως κρίσιμο πλεονέκτημα.
CPU γενικής χρήσης Axion, η Google παρουσιάζει μια ολοκληρωμένη, από κοινού σχεδιασμένη λύση.
Η εταιρεία στοιχηματίζει ότι η προσφορά στους πελάτες μιας βελτιστοποιημένης και οικονομικής στοίβας υλικού, από το τσιπ μέχρι το κέντρο δεδομένων, θα είναι το κλειδί για τη νίκη στην επόμενη φάση της επανάστασης της τεχνητής νοημοσύνης.
Το Google Ironwood TPU Architecture (Πηγή: Αυτή η εργασία μπορεί να διαρκέσει η Google για δυναμική εκπαίδευση για εβδομάδες)p Η ανοχή είναι ένα κρίσιμο χαρακτηριστικό που αποτρέπει δαπανηρές διακοπές και μεγιστοποιεί τον παραγωγικό χρόνο λειτουργίας ολόκληρου του συστήματος.Η Google αντιμετωπίζει αυτό το θέμα με μια επέκταση του προσαρμοσμένου χαρτοφυλακίου CPU της Axion που βασίζεται σε Arm. Η εταιρεία ανακοίνωσε ότι οι νέες της εικονικές μηχανές N4A βρίσκονται τώρα σε προεπισκόπηση, παράλληλα με την επικείμενη προεπισκόπηση του μετάλλου C4A, των πρώτων παρουσιών γυμνών μετάλλων που βασίζονται σε βραχίονα.
Σχεδιασμένοι για να προσφέρουν ανώτερη απόδοση τιμής, αυτοί οι επεξεργαστές χειρίζονται τις εργασίες γενικής χρήσης που υποστηρίζουν εφαρμογές τεχνητής νοημοσύνης, όπως προετοιμασία δεδομένων, κοντέινερ
Τα πρώτα σχόλια πελατών υπογραμμίζουν σημαντικά κέρδη. Ο Sergei Koren, Chief Infrastructure Architect στο ZoomInfo, επαίνεσε τις νέες παρουσίες, δηλώνοντας:”Στην προεπισκόπηση των νέων παρουσιών N4A, μετρήσαμε 60% βελτίωση στην τιμή-απόδοση για αυτούς τους βασικούς φόρτους εργασίας σε σύγκριση με τους αντίστοιχους που βασίζονται σε x86.”
Το transloading% ανέφερε βελτίωση της απόδοσης του βίντεο30% σε σύγκριση με τα εικονικά μηχανήματα που βασίζονται σε x86.
Η Google τοποθετεί το Axion ως μια σαφή και πιο αποτελεσματική εναλλακτική λύση σε σχέση με τους παραδοσιακούς επεξεργαστές.
Σύμφωνα με τον Mark Lohmeyer, αντιπρόεδρο και GM τεχνητής νοημοσύνης και υπολογιστικής υποδομής στο Google Cloud,”Θα έχουν 50% υψηλότερη απόδοση από τους συγκρίσιμους επεξεργαστές x86% βασικής απόδοσης x86. περιπτώσεις.”
Strategic Adoptions and the AI Arms Race
Η τεράστια δέσμευση της Anthropic χρησιμεύει ως ισχυρή επικύρωση για το προσαρμοσμένο πυρίτιο της Google. Το εργαστήριο AI, προγραμματιστής της οικογένειας μοντέλων Claude, σχεδιάζει να αποκτήσει πρόσβαση σε έως και 1 εκατομμύριο TPU, σηματοδοτώντας ισχυρή εμπιστοσύνη στις δυνατότητες της πλατφόρμας τόσο για εκπαίδευση όσο και για εξαγωγή συμπερασμάτων.
Ο James Bradbury, επικεφαλής Υπολογιστών της εταιρείας, εξήγησε το πλεονέκτημα: «Οι βελτιώσεις της Ironwood τόσο στην απόδοση συμπερασμάτων όσο και στην επεκτασιμότητα της εκπαίδευσης θα μας βοηθήσουν να κλιμακώσουμε αποτελεσματικά διατηρώντας την ταχύτητα και την αξιοπιστία που περιμένουν οι πελάτες μας». Αν και η συνεργασία είναι μια σημαντική νίκη για την Google, οι αναφορές διευκρινίζουν ότι η Anthropic διατηρεί μια διαφοροποιημένη στρατηγική υποδομής, με την Amazon Web Services να παραμένει ο κύριος πάροχος cloud.
Αντικατοπτρίζει μια ευρύτερη τάση του κλάδου όπου τα μεγάλα εργαστήρια τεχνητής νοημοσύνης αποφεύγουν την εξάρτηση από έναν μόνο προμηθευτή, μια στρατηγική που παρατηρήθηκε στο παρελθόν όταν το OpenAI άρχισε να χρησιμοποιεί το Google Cloud για να συμπληρώσει τον πυρήνα του.
Κούρσα εξοπλισμών τεχνητής νοημοσύνης, οι προσπάθειες προσαρμοσμένης πυριτίου της Google στοχεύουν ακριβώς στην αμφισβήτηση της κυριαρχίας της Nvidia στην αγορά. Απαιτούνται εκπληκτικές επενδύσεις για να ανταγωνιστεί κανείς.
Για να ανταποκριθεί στην αυξανόμενη ζήτηση, η Google αύξησε πρόσφατα το υψηλό επίπεδο των προβλέψεων κεφαλαιακών δαπανών της για το έτος σε 93 δισεκατομμύρια δολάρια από 85 δισεκατομμύρια δολάρια.
Μια τέτοια τεράστια οικονομική δέσμευση καταδεικνύει ότι ο έλεγχος του υποκείμενου υλικού θεωρείται πλέον ως κρίσιμο πλεονέκτημα.
CPU γενικής χρήσης Axion, η Google παρουσιάζει μια ολοκληρωμένη, από κοινού σχεδιασμένη λύση.
Η εταιρεία στοιχηματίζει ότι η προσφορά στους πελάτες μιας βελτιστοποιημένης και οικονομικής στοίβας υλικού, από το τσιπ μέχρι το κέντρο δεδομένων, θα είναι το κλειδί για τη νίκη στην επόμενη φάση της επανάστασης της τεχνητής νοημοσύνης.
