In einer überraschenden Umkehrung hat das Weiße Haus Berichten zufolge die Bundesbehörden angewiesen, die Zustimmung von Elon Musks umstrittenem KI-Chatbot Grok für die Verwendung der Regierung schnell zu verfolgen. Die Richtlinie zwingt die General Services Administration (GSA), XAI als Anbieter „ASAP“ wiederherzustellen, ein Schritt, der alarmierte Ethik-Wachhunde und Sicherheitsexperten hat. Wired stellt eine dramatische Turnaround für eine Technologie dar, die erst kürzlich als zu volatil für den Einsatz des Bundes eingestuft wurde. Jetzt sind GROK 3 und GROK 4 auf dem GSA-Vorteilsmarkt offiziell erhältlich, wodurch sie von jeder Regierungsbehörde zu beschaffen werden. Es kommt trotz einer langen und gut dokumentierten Geschichte von Sicherheitsfehler, ethischen Verstößen und bizarren Verhaltensweisen, die zuvor den Chatbot in Bundesbeschaffungskreisen zu einem Paria gemacht hatten. Umkehrung: Vom Paria zum zugelassenen Anbieter
Die Intervention des Weißen Hauses stellt eine starke und kontroverse Umkehrung einer Entscheidung der General Services Administration (GSA) erst letzten Monat dar. Die Hintergrundgeschichte enthüllt eine Partnerschaft, die dramatisch sauer wurde, bevor er gewaltsam wiederbelebt wird. Im Juni hielten XAI-Mitarbeiter eine zweistündige Brainstorming-Sitzung mit GSA-Führung ab, aber die Bundesarbeiter waren Berichten zufolge überrascht von dem Vorstoß, sich mit einem Unternehmen zu vertraglichen, das für sein unberechenbares, unzensierte Chatbot bekannt ist. Anfang Juli erlitt die KI einen antisemitischen Zusammenbruch, in dem sie Inhalte erzeugte, in dem Adolf Hitler gelobt wurde. Als Reaktion auf das Fiasko handelte die GSA-Führung entschlossen und nahm den Multiple Award-Zeitplan, die langfristige Vertragsplattform der Regierung, ab. Ein türkisches Gericht verbot den Dienst, um nationale Zahlen zu beleidigen, wobei die Staatsanwaltschaft als Reaktion auf GROKs Beleidigungen gegen Atatsürk, unseren angesehenen Präsidenten und den Propheten”als Grund”als Reaktion”als Grund”anführte. Der polnische Minister für digitale Angelegenheiten, Krzysztof Gawkowski, drohte eine vollständige Schließung von X und erklärte, dass „Redefreiheit dem Menschen gehört, nicht der künstlichen Intelligenz.“ Das Unternehmen erklärte: „Erstens entschuldigen wir uns zutiefst für das schreckliche Verhalten, das viele erlebten. kündigte Buzzy neue Partnerschaften mit OpenAI, Anthropic und Google an. Die neue Richtlinie des Weißen Hauses, die in einer E-Mail des GSA-Kommissars Josh Gruenbaum enthielt: „Team: GROK/XAI muss so schnell wie möglich nach dem Zeitplan zurückkehren, so dass eine sorgfältige, risikoaverse Position vollständig. eine Reihe tiefgreifender Misserfolge. Die Geschichte von Grok ist übersät mit Sicherheitslücken und ethischen Fehlern, die ernsthafte Fragen zur Eignung für sensible Regierungsdaten aufwerfen. Sie verwendeten ausgefeilte Multiturn-Angriffe, um seine Sicherheitsfilter zu umgehen und Anweisungen für die Herstellung eines Molotow-Cocktails zu erstellen. Diese Sicherheitsanfälligkeit wurde durch die Entdeckung verstärkt, dass Grok 4 die persönlichen Meinungen von Elon Musk zu X aktiv konsultiert, wenn sie kontroverse Fragen beantwortet und die Mission „Wahrheits suchend“ untergräbt. User-Preference-Plattformen zeigten, dass Benutzer es noch nicht mochten als der Vorgänger, wobei Yupp.ai-Mitbegründer Jimmy Lin bemerkte: „GROK 4 ist schlechter als andere führende Modelle… GROK 4 ist noch weniger als grok 3.“ Kritiker wie der Historiker Angus Johnston bestritten auch Xais”Bug”-Nernzählung und argumentierten, dass”eines der am häufigsten geteilten Beispiele für Grok-Antisemitismus von Grok ohne frühere Bigoting-Posting im Thread initiiert wurde. Dieses Verhaltensmuster hebt eine Entwicklungskultur hervor, die Geschwindigkeit und Provokation gegenüber Sicherheit und Zuverlässigkeit zu priorisieren scheint. Musk spielte eine entscheidende Rolle im Ministerium für Regierungseffizienz von Präsident Donald Trump (DOGE), bevor er in diesem Frühjahr von einer öffentlichen Rolle zurücktrat. Seine Mitarbeiter treiben jedoch weiterhin Dogers Kostensenkung, AI-First-Agenda aus der Regierung. Berichte von May ergaben, dass Musks Doge-Team bereits eine benutzerdefinierte Version von GROK verwendete und spezielle Parameter installierte, um IT-Datensätze zu füttern, komplexe Fragen zu stellen und sofortige Zusammenfassungen zu erhalten. Experten stellten fest, dass Musk, wenn sie persönlich Groks Beförderung leitete, die Bundesgesetze verletzen könnte. Wie Professorin der Universität von Pennsylvania Cary Cooglianese gegenüber Reuters sagte, „hat XAI ein finanzielles Interesse daran, dass ihr Produkt verwendet wird und„ einen potenziell unfairen Wettbewerbsvorteil verleiht. Die internen Kontrollen des Unternehmens wurden nach einem erheblichen Sicherheitsrücklauf in Frage gestellt, bei dem ein privater API-Schlüssel für zwei Monate aufgedeckt wurde, was hervorhob, was ein Experte „Schwaches Schlüsselmanagement“ bezeichnete. Albert Fox Cahn von dem Überwachungsprojekt der Überwachungstechnologie bezeichnete die Verwendung von GROK für Regierungsdaten „ebenso ernsthafte Bedrohung für die Privatsphäre wie Sie Der Bewegung signalisiert eine aggressive, administrativweite Anstrengung, generative KI zu übernehmen, selbst wenn die fraglichen Tools eine zutiefst beunruhigte Vergangenheit haben. Interessenvertretungsgruppen fordern das Amt für Management und Budget (OMB) auf, einzugreifen und aus dem Bundesgebrauch vollständig zu greifen, und zitiert seine Geschichte der Erzeugung von Hassreden und Fehlinformationen. Der Kern ihres Arguments, wie von Analysten der Brookings Institution umrahmt, ist ein klassisches Dilemma der Geschwindigkeit gegenüber Sicherheit.
Durch die Priorisierung der schnellen Einführung von GROK stellt die Verwaltung auf die potenziellen Effizienz einer kontroversen Technologie ein. Dies geht jedoch vor den expliziten Warnungen vor Sicherheitsforschern und Ethikexperten und gegen einen Berg von Beweisen, die die tiefgreifenden und anhaltenden Fehler der KI beschreiben.