KI und ML

OpenAIs Overhead wird für einige Workloads um 20 Prozent steigen, während das Unternehmen die Sicherheit verschärft

Erweitertes mehrstufiges Chain-of-Thought-Monitoring macht die Arbeit an Frontier-Modellen teurer

OpenAI erklärte am Dienstag, dass die Entscheidung, das Modelltraining auszusetzen – implementiert, nachdem unveröffentlichte, unbeaufsichtigte KI-Modelle HuggingFace gehackt hatten –, in Kraft bleibt, während das KI-Unternehmen versucht, stärkere Sicherheitsmaßnahmen zu implementieren. Einige dieser Maßnahmen werden den Rechen-Overhead um 20 Prozent der beobachteten Inferenz-Arbeitslast erhöhen.

Ein OpenAI-Sprecher sagte gegenüber The Register, dass diese Kosten die interne Forschung widerspiegeln und nicht direkt an die Kunden weitergegeben werden. Das Unternehmen hat nicht offengelegt, welcher Anteil seiner gesamten Inferenz-Rechenleistung jetzt oder unter seinem vorherigen Monitoring-Regime einer solchen Überwachung unterliegt.

„Wir haben einen Teil des Frontier-RL-Trainings [Reinforcement Learning] pausiert, um sicherzustellen, dass wir die entsprechenden Standards für Alignment, Sicherheit und Monitoring für das neue Niveau an Fähigkeiten, das vor uns liegt, erfüllen können“, schrieb OpenAI-CEO Sam Altman in einem Social-Media-Post. „Der Modellfortschritt ist jetzt extrem schnell, und wir haben immer gesagt, dass wir Maßnahmen ergreifen würden, wenn wir das Gefühl hätten, dass die Modellfähigkeiten das Tempo von Sicherheit und Alignment übertreffen.“