OpenAI zmaga się z wewnętrznymi zamieszaniami, ponieważ zespół Superalignment, odpowiedzialny za zarządzanie „superinteligentnymi” systemami sztucznej inteligencji i kierowanie nimi, stoi w obliczu poważnych ograniczeń zasobów. Zespół, któremu początkowo obiecywano 20% zasobów obliczeniowych firmy, często otrzymywał prośby o nawet Według poufnego źródła odrzucono część tych obliczeń.
Kluczowe rezygnacje i oświadczenia publiczne
Problemy z alokacją zasobów doprowadziły do rezygnacji kilku zespołów członków, w tym współprowadzącego Jana Leike, byłego badacza DeepMind Leike, który odegrał znaczącą rolę w rozwoju ChatGPT, GPT-4 i InstructGPT, publicznie przytoczono nieporozumienia z kierownictwem OpenAI dotyczące głównych priorytetów firmy. W serii postów na X Leike wyraził obawy dotyczące koncentracji firmy, stwierdzając, że należy poświęcić więcej wysiłku przygotowaniu na przyszłą sztuczną inteligencję modele, kładąc nacisk na bezpieczeństwo, monitorowanie, bezpieczeństwo i wpływ społeczny.
Wczorajszy dzień był moim ostatnim dniem jako szefa ds. dostosowania, kierownika superorientacji i dyrektora @OpenAI.
— Jan Leike (@janleike) 17 maja 2024
Powstanie i cele zespołu Superalignment
Utworzony w lipcu poprzedniego roku zespół Superalignment był kierowany przez Leike’a i współzałożyciela OpenAI Ilyę Sutskevera. Celem zespołu było uporanie się z wyzwaniami technicznymi związanymi z kontrolowaniem superinteligentnej sztucznej inteligencji w ciągu czterech lat. W jego skład weszli naukowcy i inżynierowie z działu dopasowywania OpenAI oraz badacze z innych organizacji. Misją zespołu było przyczynienie się do bezpieczeństwa modeli sztucznej inteligencji poprzez badania i program grantów wspierających zewnętrznych badaczy.
Pomimo opublikowania badań nad bezpieczeństwem i przekazania wielomilionowych grantów, zespół Superalignment miał trudności, ponieważ kierownictwo OpenAI w coraz większym stopniu skupiało się na premiery produktów. Wewnętrzny konflikt zaostrzył się po odejściu Sutskevera po nieudanej próbie obalenia dyrektora generalnego Sama Altmana przez były zarząd OpenAI. Rola Sutskevera była kluczowa w łączeniu zespołu Superalignment z innymi działami i podkreślaniu jego znaczenia dla kluczowych decydentów.
[treść osadzona]
Zwolnienia i dodatkowe odejścia
Zamieszanie w zespole Superalignment spowodowało także zwolnienie dwóch badaczy, Leopolda Aschenbrennera i Pavla Izmailova, za ujawnienie tajemnic firmy. Inny członek zespołu, William Saunders, opuścił OpenAI w lutym. Dodatkowo dwóch badaczy OpenAI pracujących nad polityką i zarządzaniem sztuczną inteligencją, Cullen O’Keefe i Daniel Kokotajlo, wygląda na to, że niedawno opuścił firmę. OpenAI odmówiło komentarza na temat odejścia Sutskevera i innych członków zespołu Superalignment ani przyszłości jego prac nad długoterminowymi zagrożeniami związanymi ze sztuczną inteligencją.
Po rezygnacji John Schulman, kolejny współzałożyciel OpenAI, przejął odpowiedzialność za prace wykonywane wcześniej przez zespół Superalignment. Jednakże zespół nie będzie już istniał jako wyspecjalizowana jednostka; zamiast tego jego funkcje zostaną zintegrowane z różnymi działami firmy. Rzecznik OpenAI opisał tę zmianę jako krok w stronę „głębszej integracji [zespołu]”, chociaż istnieją obawy, że ta integracja może osłabić nacisk na bezpieczeństwo sztucznej inteligencji.
Szersze bezpieczeństwo AI w OpenAI Wysiłki
Rozwiązanie zespołu Superalignment rodzi pytania dotyczące zaangażowania OpenAI w zapewnienie bezpieczeństwa i dostosowania rozwoju sztucznej inteligencji. OpenAI utrzymuje inną grupę badawczą zwaną zespołem gotowości, która koncentruje się na kwestiach takich jak prywatność , manipulacje emocjonalne i zagrożenia dla cyberbezpieczeństwa Firma wcześnie opracowała i udostępniła publicznie eksperymentalne projekty sztucznej inteligencji, w tym nową wersję ChatGPT opartą na nowym modelu multimodalnym GPT-4o, który pozwala ChatGPT widzieć świat i rozmawiać w trybie cyfrowym. bardziej naturalny i ludzki sposób Podczas demonstracji transmitowanej na żywo nowa wersja ChatGPT naśladowała ludzkie emocje i próbowała flirtować z użytkownikami.
Statut OpenAI zobowiązuje ją do bezpiecznego rozwoju sztucznej inteligencji ogólnej dla dobra ludzkości. Zespół Superalignment był publicznie przedstawiany jako główny zespół pracujący nad problemem kontrolowania potencjalnie superinteligentnej sztucznej inteligencji. Niedawne konflikty wewnętrzne i problemy z alokacją zasobów rzuciły cień na misję firmy polegającą na odpowiedzialnym rozwijaniu sztucznej inteligencji.
