KI-Agenten können Infrastrukturausfälle nicht beheben, die sie nicht diagnostizieren können

Präsentiert von Virtana

Ausfälle der KI-Infrastruktur sind schwer zu diagnostizieren, da ein Fehler in einem System Symptome in mehreren anderen hervorruft. Wenn ein Trainingsjob langsamer wird, zeigt das GPU-Dashboard möglicherweise Konflikte an, die Datenpipeline meldet einen Stillstand und das Speichersystem beginnt, I/O-Warnungen auszugeben, wobei jede Warnung eine andere Lösung vorschlägt. Infrastrukturteams sehen jedes Signal und verbringen Stunden damit herauszufinden, wo der Fehler begann, während teure GPU-Kapazität ungenutzt bleibt.

Diese Suche wird schwieriger, da Unternehmen KI-Fabriken aufbauen, die GPUs, Speicher, Netzwerke, Datenpipelines und hybride Umgebungen umfassen, da die Überwachung der meisten KI-Fabriken immer noch auf einem separaten Tool für jeden Bereich basiert. Die AI Factory Reality Check-Umfragen von Virtana unter Entscheidungsträgern in Unternehmen in den USA und Großbritannien ergaben, dass 59 % der US-Unternehmen und 53 % der britischen Unternehmen die Grundursache eines KI-Workload-Ausfalls nicht automatisch über verschiedene Infrastrukturbereiche hinweg identifizieren können.

„Sobald man die Kausalität erkannt hat, kann man Abhilfe schaffen“, sagt Paul Appleby, Präsident und CEO von Virtana. „Wenn man die Kausalität nicht ermitteln kann, wirft man eigentlich nur einen Dartpfeil auf eine Wand, um herauszufinden, was passiert ist und wie man es beheben kann.“