OpenAI beschreibt Schutzmaßnahmen für Trainingsumgebungen von Spitzenmodellen

Das KI-Unternehmen OpenAI hat Einzelheiten zu seinen internen Sicherheitsmaßnahmen publik gemacht. Der Anbieter erläutert in einer Mitteilung, wie die Isolation und Absicherung der eigenen Infrastruktur verstärkt wurden („strengthened containment“). Diese Vorkehrungen beziehen sich unmittelbar auf die Phasen der Modellentwicklung und der Modellprüfung („frontier model training and evaluation“).

Ein konkreter Bestandteil der vorgestellten Sicherheitsvorkehrungen betrifft isolierte Systeme. Das Unternehmen führt in diesem Zusammenhang den Einsatz netzwerkunabhängiger Arbeitsbereiche an („offline environments“). Darüber hinaus setzt OpenAI auf aufwendige Sicherheitsanalysen unter hohem Rechenaufwand („high-compute red-teaming“).