OpenAI antwortet TypeSafes Jev mit einer auf Luna basierenden Decision API

Mit dem plötzlichen Aufstieg von TypeSafe’s Jev sind Entscheidungsmodelle unglaublich populär geworden, daher ist es nicht überraschend, dass OpenAI auf seiner jährlichen DevDay-Konferenz am Dienstag ebenfalls seine Version dieses Modelltyps ankündigt.

Die neue Decisions API des Unternehmens basiert auf dem Luna-Modell des Unternehmens – dem kleinsten und erschwinglichsten Modell in seinem aktuellen Sortiment.

Begrenzte Vorschau

Die Decisions API ist wahrscheinlich eine Reaktion auf TypeSafe und Jev, und OpenAI hat die Ankündigung vor dem DevDay wahrscheinlich überstürzt, daher ist dies vorerst alles, was OpenAI über die Decisions API mitteilt.

Ein Sprecher von OpenAI teilte The New Stack mit, dass das Unternehmen plant, bei der „breiten Einführung“ mehr zu teilen.

Vorerst ist die neue API in einer begrenzten Vorschau verfügbar, und die breite Veröffentlichung ist für die kommenden Tage geplant.

Vordefinierte Antworten, echte Konfidenzwerte

Die Kernidee hinter diesen Entscheidungsmodellen ist, dass es sich explizit nicht um Chat-Modelle handelt; stattdessen geben sie einen Satz vordefinierter Antworten mit Konfidenzwerten zurück. Reguläre LLMs sind darin nicht immer sehr gut. Ihre Konfidenzwerte sind schließlich oft eine grobe Schätzung – und sie verbrauchen so einige Token, um dorthin zu gelangen.