IBM zaprezentował moduł optyczny (CPO), który ma zaradzić problemom związanym z nieefektywnością nękającą komunikację w centrach danych opartych na sztucznej inteligencji.
Poprzez integrację polimerowe falowody optyczne (PWG) bezpośrednio do systemów komputerowych, technologia ta ma na celu zapewnienie szybszego i bardziej energooszczędnego przesyłania danych dla wymagających obciążeń.
Okablowanie miedziane jako wąskie gardło
Przez dziesięciolecia kable światłowodowe stanowiły podstawę zewnętrznej transmisji danych w centrach danych, zarządzając ogromnymi wielkości ruchu internetowego. Jednak wewnętrzne systemy w tych obiektach – w których współdziałają procesory graficzne, procesory i inne komponenty – w dalszym ciągu opierają się na okablowaniu elektrycznym wykonanym w miedzi.
Ta przestarzała infrastruktura tworzy wąskie gardła, które utrudniają szybkie przetwarzanie wymagane w przypadku zaawansowanych obciążeń AI, co prowadzi na marnowanie energii i zwiększone koszty.
Nowa technologia optyczna IBM ma na celu sprostanie tym wyzwaniom poprzez wprowadzenie prędkości na poziomie światłowodów do wewnętrznej architektury centrów danych.
Powiązane: xAI Expands Superkomputer Colossus dziesięciokrotnie do 1 miliona procesorów graficznych
Łączność optyczna dla półprzewodników
Nowy moduł CPO integruje łączność optyczną bezpośrednio z półprzewodnikami systemów, oferując nawet 80-krotną poprawę przepustowości w porównaniu z tradycyjnymi połączeniami elektrycznymi.
To udoskonalenie może skrócić przestoje procesora graficznego, przyspieszyć procesy szkoleniowe AI i znacznie obniżyć zużycie energii, pozycjonując IBM jako lidera w dążeniu do bardziej zrównoważone przetwarzanie danych.
Moduł optyczny IBM w pakiecie jest zbudowany w oparciu o polimerowy falowód optyczny (PWG), jak szczegółowo wyjaśniono w Artykuł badawczy IBM. Falowód to struktura kierująca światło, umożliwiająca szybką komunikację optyczną między urządzeniami.
Innowacja PWG umożliwia osiągnięcie, jak to określają badacze IBM, „gęstości na plaży” – konstrukcji, w której można umieścić sześciokrotnie więcej włókien optycznych krawędzi krzemowego chipa fotonicznego niż istniejące rozwiązania. Każde włókno, choć tylko nieco szersze od ludzkiego włosa, może przesyłać terabity danych na sekundę na odległości od kilku centymetrów do setek metrów.
Powiązane: Amazon rzuca wyzwanie dominacji sztucznej inteligencji Nvidii za pomocą superkomputera Ultracluster
Jak to działa: Szczegóły techniczne
Moduł wykorzystuje kanały optyczne o rozstawie 50 mikrometrów, połączone adiabatycznie z krzemowymi falowodami fotonicznymi, zapewniając wydajny i niezawodny transfer danych. IBM badał także konfiguracje z 18-mikrometrem skoku, torując drogę dla maksymalnie 128 kanałów łączności poprzez ułożenie wielu falowodów.
Mukesh Khare, dyrektor generalny działu półprzewodników IBM, wyjaśnił znaczenie tego przełomu: „Wspólnie spakowana optyka umożliwia szybkie optyczne łączność za pośrednictwem włókien zamontowanych w pobliżu akceleratorów, zmniejszając lukę komunikacyjną między modelami AI.”
Poza specyfikacjami technicznymi moduł optyczny wyróżnia się efektywnością energetyczną. IBM podaje, że nowa technologia może pięciokrotnie zmniejszyć zużycie energii w porównaniu z tradycyjnymi interkonektami elektrycznymi średniej klasy.
W praktyce oznacza to możliwość wytrenowania dużego modelu językowego (LLM) w trzy tygodnie zamiast trzech miesięcy, przy zużyciu ułamka energii. IBM szacuje, że oszczędność energii wynikająca z pojedynczej sesji szkoleniowej dotyczącej sztucznej inteligencji może zasilić nawet 5000 gospodarstw domowych w USA przez cały rok.
Redukcje te dotyczą nie tylko kosztów operacyjnych centrów danych, ale także wpływu rozwiązań energetycznych na środowisko intensywne obliczenia.
Testy obciążeniowe wykazują trwałość
IBM poddał moduł szeroko zakrojonym testom obciążeniowym, aby zapewnić jego niezawodność w rzeczywistych zastosowaniach. Komponenty poddano działaniu ekstremalnych temperatur w zakresie od-40°C do 125°C, warunkom wysokiej wilgotności i rygorystycznym testom wytrzymałości mechanicznej.
Wyniki potwierdziły, że złącza optyczne mogą wytrzymać zginanie i inne naprężenia bez degradacji w wydajności. Ten poziom trwałości gwarantuje, że moduł jest gotowy do wdrożenia na dużą skalę w komercyjnych centrach danych.
Opracowanie modułu optycznego IBM w pakietach odzwierciedla wspólny wysiłek międzynarodowych obiektów. Badania i prace projektowe przeprowadzono w National Semiconductor Technology Center (NSTC) w Albany w stanie Nowy Jork, natomiast montaż i testowanie prototypu zajęły miejsce w zakładzie IBM w Bromont w Quebecu.
Wysiłki te opierają się na dziedzictwie IBM w zakresie innowacji w zakresie półprzewodników, które obejmuje takie kamienie milowe jak 2-nanometrowy chip IBM zaprezentowany w 2021 r. oraz postęp w dziedzinie nanoarkuszów i tranzystorów pionowych.
Zapotrzebowanie centrów danych na większą prędkość
Konsekwencje tej innowacji wykraczają poza sztuczną inteligencję. Ponieważ centra danych stają w obliczu rosnących wymagań w zakresie szybkości, wydajności i zrównoważonego rozwoju, technologie takie jak moduł CPO firmy IBM mogą ustanowić nowe standardy dla infrastruktury obliczeniowej.
Łącząc wąskie gardła w komunikacji wewnętrznej, moduł optyczny nie tylko zwiększa wydajność obciążeń AI, ale także przyczynia się do szerszego dążenia do bardziej ekologicznych i wydajnych systemów technologicznych.
Dario Gil podkreślił potencjalny wpływ tej technologii: „Dzięki temu przełomowi przyszłe chipy będą komunikować się w podobny sposób, jak kable światłowodowe przesyłają dane do i z centrów danych, rozpoczynając nową erę szybszej i bardziej zrównoważonej komunikacji, która poradzi sobie z przyszłymi obciążeniami AI.”
