OpenAI hat die Einrichtung eines Sicherheitsausschusses innerhalb seines Vorstands angekündigt, der die Sicherheit seiner generativen KI-Systeme überwachen soll. Dieser Schritt fällt mit der Bestätigung des Unternehmens zusammen, dass es sein nächstes KI-Modell trainiert, bei dem es sich wahrscheinlich um GPT-5 handelt.
Mitglieder und Ziele des Ausschusses
Dem Ausschuss gehören der CEO von OpenAI, Sam Altman, die Vorstandsmitglieder Bret Taylor, Adam D’Angelo und Nicole Seligman sowie der Chefwissenschaftler Jakub Pachocki und der Sicherheitschef Matt Knight an. Der Ausschuss wird sich auch mit externen Sicherheitsexperten beraten. Laut einem Blogbeitrag von OpenAI besteht die erste Aufgabe des Ausschusses in der Überprüfung und die Sicherheitsprotokolle des Unternehmens in den nächsten 90 Tagen verbessern. Am Ende dieses Zeitraums wird der Ausschuss seine Empfehlungen dem Gesamtvorstand vorlegen, der dann die beschlossenen Maßnahmen prüft und öffentlich über den aktuellen Stand informiert.
Hintergrundinformationen zur Ausschussbildung
Die Gründung des Komitees folgt Berichten, dass OpenAI sein Superalignment-Team Anfang Mai aufgelöst hat. Das Superalignment-Team wurde ursprünglich gegründet, um Methoden zur Aufrechterhaltung der menschlichen Kontrolle über generative KI-Systeme zu erforschen, insbesondere über solche, die in Zukunft die menschliche Intelligenz übertreffen könnten.
Im selben Blogbeitrag bestätigte OpenAI, dass es mit dem Training seines nächsten großen KI-Modells begonnen hat, das voraussichtlich GPT-5 heißen wird. Das Unternehmen gab an, dass dieses Modell darauf abzielt, die Fähigkeiten auf dem Weg zur Erreichung künstlicher allgemeiner Intelligenz (AGI) zu verbessern. OpenAI betonte die Bedeutung einer „energischen Debatte“ über die Sicherheit dieser Systeme an diesem kritischen Punkt.
Anfang dieses Monats stellte OpenAI GPT-4o vor, eine erweiterte Version seines GPT-4-Modells, das folgende Funktionen bietet: realistischere Sprachinteraktionen. Diese Version ist sowohl für kostenlose als auch für kostenpflichtige Benutzer von GPT-4 verfügbar.
