Y Combinators Garry Tan will, dass US-Open-Weight-KI-Labs auch Frontier-Modelle „destillieren“

Wenn es darum geht, dass chinesische KI-Labore Destillationstechniken nutzen, um Wissen von führenden Modellentwicklern zu extrahieren, hofft Garry Tan, CEO von Y Combinator, dass sich die Regulierungsbehörden heraushalten. Tatsächlich ist er der Meinung, dass US-amerikanische KI-Labore vielleicht das gleiche Spiel spielen sollten.

„Ich würde gar nichts tun“, sagte er CNBC in einem Interview Anfang dieser Woche. „Man könnte argumentieren, dass es ein amerikanisches Destillationsregime geben sollte.“

Gegenüber TechCrunch erläuterte er, dass dies bedeute, dass er möchte, dass kleinere, amerikanische Open-Weight-KI-Labore die gleiche Art von Trainingstechniken auf amerikanische Frontier-KI-Labore anwenden, um den USA ein robusteres Set an Open-Weight-Optionen zu geben, die nicht chinesisch sind.

Destillation liegt vor, wenn ein Modellentwickler ein anderes Modell umfassend mit Prompts abfragt, um zu lernen, wie es arbeitet und schlussfolgert. Sie wird üblicherweise und rechtmäßig von KI-Laboren eingesetzt, um das Training neuer Modelle zu unterstützen.

Anthropic hat diese Woche seinen zweiten Bericht veröffentlicht, in dem behauptet wird, dass chinesische Labore an „illegalen Destillationsangriffen“ beteiligt sind, indem sie ihre Identität verbergen, um ohne Erlaubnis zu destillieren, und sich dabei auf Betrug und gestohlene Zugangsdaten verlassen. Anthropic-CEO Dario Amodei hatte zuvor die US-Regulierungsbehörden öffentlich aufgefordert, gegen Destillation vorzugehen.