Encode, prowadzona przez młodzież organizacja non-profit opowiadająca się za odpowiedzialnym zarządzaniem sztuczną inteligencją, złożyła opinię amicus, w której sprzeciwia się przekształceniu OpenAI w spółkę pożytku publicznego (PBC).
zeznanie prawne złożone do Sądu Okręgowego Stanów Zjednoczonych dla Północnego Okręgu Kalifornii, popiera toczący się pozew Elona Muska i wyraża poważne obawy dotyczące etycznych konsekwencji rozwoju sztucznej inteligencji ogólnej (AGI) nastawionej na zysk.
„Sądy muszą interweniować, aby zapewnić, że rozwój sztucznej inteligencji będzie służył interesowi publicznemu” – skomentował Encode inicjatywę prezydenta Sneha Revanur, złożenie wniosku, wspieranego przez czołowych badaczy sztucznej inteligencji, takich jak Geoffrey Hinton, podkreśla ryzyko przedkładania zysków inwestorów nad bezpieczeństwo i dobrostan przedsiębiorstw. ludzkość.
Bezpieczeństwo publiczne vs. Zysk: podstawowa debata
W najnowszym ogłoszeniu OpenAI z 28 grudnia 2024 r. ujawniono plan przeniesienia działalności nastawionej na zysk podział na PBC do 2025 r. Struktura ta ma na celu przyciągnięcie inwestycji na dużą skalę, przy jednoczesnym utrzymaniu wymaganego prawnie skupienia się na korzyściach społecznych. Jednakże w swoim briefie Encode argumentuje, że równowaga ta jest z natury wadliwa, szczególnie w przypadku organizacji zaangażowanej w rozwój AGI.
„Kontrola nad rozwojem i wdrażaniem AGI to aktywo charytatywne, którego nie należy sprzedawać za żadną cenę, „ Encode stwierdziła w swoim zgłoszeniu.
W dokumencie krytykuje się restrukturyzację OpenAI jako zasadnicze odejście od jej początków non-profit, ostrzegając, że zmiana ta zagraża zobowiązaniom, takim jak wstrzymanie konkurencji w celu wspierania innych AGI zapewniających bezpieczeństwo projektów.
Wyzwanie prawne Muska i rola Microsoftu
Pozew Elona Muska, ponownie złożony w sierpniu 2024 r., oskarża OpenAI o zdradę swojej misji non-profit i konsolidację władzy z korporacjami zainteresowane strony, takie jak Microsoft, twierdzą, że inwestycja Microsoftu o wartości 13 miliardów dolarów daje mu nadmierny wpływ na zarządzanie OpenAI, przekształcając go w spółkę zależną nakierowaną na zysk.
W swoim zgłoszeniu Musk zarzuca Microsoftowi nieproporcjonalny wpływ na zarządzanie OpenAI, skutecznie dostosowując jego priorytety do celów nastawionych na zysk, podkreślając umowy o wyłączności, które ograniczają konkurencję i stawiają na pierwszym miejscu interesy akcjonariuszy. Streszczenie Encode zgadza się z tą krytyką, podkreślając niezgodność motywacji prywatnego zysku z publiczną odpowiedzialnością za rozwój AGI.
Rola Microsoftu jako kluczowego inwestora i partnera strategicznego komplikuje narrację. Chociaż infrastruktura chmurowa Azure stanowi podstawę działalności OpenAI, rosnące spory dotyczące zasobów i wewnętrzny rozwój modeli sztucznej inteligencji firmy Microsoft sugerują potencjalne tarcia w ich relacjach.
Naciski finansowe stojące za restrukturyzacją
Restrukturyzacja OpenAI wynika z rosnących wyzwań finansowych. Organizacja przewiduje stratę w wysokości 5 miliardów dolarów w 2024 r., przy skumulowanych deficytach potencjalnie sięgających 44 miliardów dolarów do 2028 r. Oczekuje się, że same roczne koszty obliczeń wzrosną do 9,5 miliarda dolarów do 2026 r. w miarę opracowywania przez organizację coraz bardziej złożonych modeli sztucznej inteligencji.
Aby Aby sprostać tym wyzwaniom, OpenAI wprowadziło nowe strategie przychodów, w tym subskrypcję ChatGPT Pro za 200 USD miesięcznie dla użytkowników korporacyjnych oraz partnerstwo z producentami półprzewodników, takimi jak TSMC i Broadcom opracuje niestandardowe chipy AI Wysiłki te mają na celu optymalizację wydajności obliczeniowej i zmniejszenie kosztów szkoleń, ale podkreślają także skalę inwestycji wymaganych do podtrzymania badań AGI.
Dyrektor generalny OpenAI Sam Altman określił tę zmianę jako niezbędną, stwierdzając: „Wkraczając w rok 2025 będziemy musieli stać się czymś więcej niż laboratorium i start-upem — musimy stać się trwałą firmą.”
Przedefiniowanie AGI w kategoriach finansowych
Dokumenty wewnętrzne ujawniają, że OpenAI powiązało realizację AGI z benchmarkiem skumulowanego zysku wynoszącym 100 miliardów dolarów, co stanowi znaczące odejście od tradycyjnych definicji podkreślających możliwości technologiczne. Ten wskaźnik finansowy jest zgodny z priorytetami inwestorów, ale rodzi pytania etyczne dotyczące długoterminowej misji organizacji.
Ten test porównawczy wzmacnia także relacje OpenAI z Microsoftem, który zachowuje wyłączny dostęp do modeli i infrastruktury OpenAI do czasu osiągnięcia progu. Krytycy, w tym Encode, twierdzą, że to rozwiązanie ilustruje ryzyko koncentracji kontroli AGI w interesach korporacji.
Kontekst historyczny: ewolucja OpenAI
Założone w 2015 roku jako laboratorium badawcze non-profit, OpenAI miało na celu rozwój Technologie sztucznej inteligencji z korzyścią dla społeczeństwa bez ograniczeń w zakresie zysków finansowych. Wczesne fundusze pochodziły od gigantów technologicznych, takich jak Google i Microsoft, umożliwiając przełomowe badania w dziedzinie robotyki, uczenia się przez wzmacnianie i modeli językowych.
Jednak do 2019 r. rosnące koszty skłoniły organizację do przyjęcia modelu ograniczonego zysku, przyciągając inwestycja o wartości 1 miliarda dolarów od firmy Microsoft i wprowadzenie na rynek produktów komercyjnych, takich jak ChatGPT. Pomimo tych sukcesów presja finansowa w dalszym ciągu narasta, co doprowadziło do najnowszego przejścia do struktury PBC.
Ujawnione e-maile ujawniają napięcia w zarządzaniu
Niedawno ujawnione wewnętrzne e-maile rzucić światło na wczesne poparcie Muska na rzecz struktury nastawionej na zysk. Podczas jednej z rozmów w 2017 roku Musk zaproponował połączenie OpenAI z Teslą, aby zabezpieczyć miliardy potrzebne do konkurowania z Google. „To wymaga natychmiastowych miliardów rocznie albo zapomnij o tym” – napisał Musk.
Propozycje te wywołały opór ze strony współzałożycieli, takich jak Ilya Sutskever, który argumentował: „Całkowita kontrola nad AGI jest niezgodna z naszą misją”. Wynikające z tego napięcia osiągnęły punkt kulminacyjny w momencie odejścia Muska z zarządu OpenAI w 2018 r.
Konsekwencje dla zarządzania i etyki AI
Baza prawna dotycząca restrukturyzacji OpenAI uwypukla szersze napięcia w branża sztucznej inteligencji, w której organizacje borykają się z problemem zrównoważenia innowacji, finansowania i odpowiedzialności etycznej. W zgłoszeniu Encode podkreślono, że stawką jest zapewnienie, że rozwój AGI pozostanie zgodny z dobrem publicznym, a nie motywacją zysku inwestorów.
W miarę zbliżania się rozprawy sądowej zaplanowanej na 14 stycznia jej wynik nie tylko ukształtuje trajektorię OpenAI, ale także wpłynie na modele zarządzania w całym kraju Sektor sztucznej inteligencji. Interwencja Encode wzmacnia wezwanie do przejrzystości i odpowiedzialności publicznej w jednej z najważniejszych debat technologicznych XXI wieku.
