Faculty, brytyjska firma zajmująca się sztuczną inteligencją, pozyskała znaczące kontrakty z rządem Wielkiej Brytanii, zadając pytania dotyczące powiązań politycznych firmy i procesów zaopatrzeniowych. W ciągu ostatnich trzech lat firmie przyznano zamówienia publiczne o wartości ponad 45 milionów funtów, w tym kontrakt o wartości 1,5 miliona funtów z nowo utworzony Instytut Bezpieczeństwa AI (AISI) w celu testowania zaawansowanych technologii sztucznej inteligencji.
Powiązania i kontrowersje polityczne
Bliskie powiązania firmy z kluczowymi osobistościami politycznymi wywołały kontrowersje, pisze Politico. Marc Warner, współzałożyciel Wydziału, jest bratem Bena Warnera, byłego doradcy Borisa Johnsona i sojusznika Dominica Cummingsa. Wydział po raz pierwszy zwrócił na siebie uwagę jako partner zajmujący się analityką danych w kampanii Vote Leave, która wspierała wyjście Wielkiej Brytanii z UE. Od tego czasu firma w coraz większym stopniu integruje się z rządem Wielkiej Brytanii, co porównuje się z amerykańską firmą Palantir, która również specjalizuje się w kontraktach rządowych.
Ostatnie kontrakty wydziału zostały przyznane bez przetargu, co jest praktyką, która ma wprawiło niektórych parlamentarzystów w zakłopotanie. Politico cytuje Tima Clementa-Jonesa, prawodawcę Liberalnych Demokratów i eksperta w dziedzinie polityki technologicznej, który wyraził obawy dotyczące rozległych powiązań politycznych firmy. Clement-Jones stwierdził, że Wydział „wydaje się być połączony ze wszystkimi”, podkreślając potrzebę przejrzystości w procesach zamówień rządowych.
Bezpieczeństwo sztucznej inteligencji i poparcie rządu
Wydział wykorzystał skupienie się rządu Wielkiej Brytanii na bezpieczeństwie sztucznej inteligencji, szczególnie za czasów premiera Rishiego Administracja Sunaka Firma otrzymała zadanie przetestowania bezpieczeństwa dużych modeli językowych (LLM), czyli rodzaju technologii sztucznej inteligencji obejmującej chatboty i inne generatywne systemy sztucznej inteligencji. Prace Wydziału ujawniły znaczne luki w tych modelach, w tym łatwość, z jaką się je przeprowadzało zabezpieczenia można ominąć.
Politico rozmawiało z dyrektorem naczelnym wydziału Markiem Warnerem, który podkreślił znaczenie bezpieczeństwa sztucznej inteligencji, opowiadając się za podejściem hybrydowym obejmującym testy zarówno sektora rządowego, jak i prywatnego, do czego doprowadziły go doświadczenia Warnera z LLM ostrzega, że obecny poziom kontroli i wglądu jest niewystarczający, aby zapewnić bezpieczne wyniki dzięki potężniejszym systemom sztucznej inteligencji.
Stanowisko rządu i perspektywy na przyszłość
Rząd Wielkiej Brytanii bronił swojej decyzji o przyznaniu kontraktów Wydziałowi bez konkursu, powołując się na wyjątkową wiedzę firmy w zakresie bezpieczeństwa sztucznej inteligencji w obszernej odpowiedzi dla Politico. Rzecznik rządu stwierdził, że Wydział „został uznany za jedynego dostawcę zdolnego do świadczenia tych wysoce wrażliwych i specjalistycznych usług na nowo powstającym rynku sztucznej inteligencji”. Jednakże specjalista ds. zamówień publicznych Albert Sanchez-Graells z Uniwersytetu w Bristolu skrytykował to uzasadnienie, argumentując, że rząd nie wykazał odpowiednio, że żaden inny dostawca nie jest w stanie spełnić wymagań.
