Faculty, brittiläinen tekoälyyritys, on tehnyt merkittäviä sopimuksia Ison-Britannian hallituksen kanssa, joka herättää kysymyksiä yrityksen poliittisista yhteyksistä ja hankintaprosesseista. Yritys on saanut yli 45 miljoonaa puntaa julkisissa tarjouskilpailuissa viimeisen kolmen vuoden aikana, mukaan lukien 1,5 miljoonan punnan arvoinen sopimus äskettäin perustettu AI Safety Institute (AISI) testaamaan edistyneitä tekoälytekniikoita.
Poliittiset yhteydet ja kiistat
Yrityksen läheiset suhteet tärkeimpiin poliittisiin hahmoihin ovat herättäneet kiistoja, kirjoittaa Politico. Marc Warner, tiedekunnan perustaja, on Boris Johnsonin entisen neuvonantajan ja Dominic Cummingsin liittolaisen Ben Warnerin veli. Tiedekunta sai ensimmäisenä huomion datatieteen kumppanina Vote Leave-kampanjassa, joka tuki Britannian eroa EU:sta. Sittemmin yritys on integroitunut yhä tiiviimmin Ison-Britannian hallitukseen, ja sitä verrataan yhdysvaltalaiseen Palantiriin, joka on myös erikoistunut valtion sopimuksiin.
Tiedekunnan viimeaikaiset sopimukset on tehty ilman tarjouskilpailua, mikä on teki osan parlamentin jäsenistä epämukavaksi. Politico lainaa Tim Clement-Jonesia, liberaalidemokraattien lainsäätäjä ja teknologiapolitiikan asiantuntija, joka ilmaisi huolensa yrityksen laajoista poliittisista yhteyksistä. Clement-Jones totesi, että tiedekunta”näyttää olevan yhteydessä kaikkiin”, korostaen julkisten hankintojen avoimuuden tarvetta.
Tekoälyn turvallisuus ja hallituksen hyväksyntä
Tiedekunta on hyödyntänyt Yhdistyneen kuningaskunnan hallituksen keskittymistä tekoälyn turvallisuuteen erityisesti pääministeri Rishin aikana Sunakin hallinto on saanut tehtäväkseen testata suurten kielimallien (LLM) turvallisuutta. Se on eräänlainen AI-tekniikka, joka sisältää chatbotteja ja muita generatiivisia tekoälyjärjestelmiä. suojatoimenpiteet voidaan ohittaa.
Politico keskusteli tiedekunnan toimitusjohtajan Marc Warnerin kanssa, joka korosti tekoälyn turvallisuuden tärkeyttä ja puolusti hybridilähestymistapaa, joka sisältää sekä valtion että yksityisen sektorin testauksen. Warnerin kokemukset LLM:istä ovat johtaneet siihen varoittaa, että nykyiset hallinnan ja näkemyksen tasot eivät riitä takaamaan turvallisia tuloksia tehokkaammilla tekoälyjärjestelmillä.
Hallituksen kanta ja tulevaisuuden näkymät
Ison-Britannian hallitus on puolusti päätöstään myöntää sopimuksia tiedekunnalle ilman kilpailua vedoten yrityksen ainutlaatuiseen tekoälyturvallisuuteen liittyvään asiantuntemukseen pitkässä vastauksessa Politicolle. Hallituksen tiedottaja totesi, että tiedekunnan katsottiin olevan”ainoa palveluntarjoaja, joka pystyy tarjoamaan näitä erittäin herkkiä ja erikoistuneita palveluita äskettäin nousevilla tekoälymarkkinoilla.”Julkisten hankintojen asiantuntija Albert Sanchez-Graells Bristolin yliopistosta on kuitenkin kritisoinut tätä perustetta väittäen, että hallitus ei ole osoittanut riittävästi, että muut palveluntarjoajat eivät pysty täyttämään vaatimuksia.
