Y CombinatorのGarry Tan、米国のオープンウェイトAIラボにもフロンティアモデルの「蒸留」を求める

中国のAIラボがフロンティアモデルメーカーから知識を抽出するために蒸留技術を使用していることに関して、Y CombinatorのCEOであるGarry Tanは、規制当局が関与しないことを望んでいます。実際、彼は米国のAIラボも同様の手法をとるべきだと考えています。

「私なら何もしない」と、彼は今週初めのCNBCのインタビューで語りました。「米国式の蒸留体制があるべきだという議論もできるでしょう。」

彼はTechCrunchに対し、これが意味するのは、米国の小規模なオープンウェイトAIラボが、米国のフロンティアAIラボに対して同様のトレーニング手法を使用することを望んでいるということであり、それによって米国に中国製ではない、より堅牢なオープンウェイトの選択肢を提供することだと詳しく説明しました。

蒸留とは、モデルメーカーが別のモデルに対して広範囲にプロンプトを送り、その仕組みや推論方法を学習することです。これは通常、そして合法的に、新しいモデルのトレーニングを支援するためにAIラボで使用されています。

Anthropicは今週、2番目のレポートを公開し、中国のラボが「不当な蒸留攻撃」に従事しており、身元を隠して無許可で蒸留を行い、そのために詐欺や盗まれた資格情報に頼っていると主張しました。AnthropicのCEOであるDario Amodeiは、以前に米国の規制当局に対し、蒸留を取り締まるよう公に求めていました。

シリコンバレーの権威ある多作なスタートアップアクセラレーターの指揮官が同意していないことは注目に値します。

はっきりさせておくと、Tanは米国のAIラボが盗まれた資格情報を使って蒸留することを提唱しているわけではありません。彼は彼らが正門から自由に入れることを望んでいます。実際、彼の主張は二重のものです。彼は、AIラボが顧客に対して、モデルが共有した情報をどう扱うかを指示するのは行き過ぎだと感じています。

彼はまた、プロプライエタリなAIラボがモデルをトレーニングするために可能な限りの人類の知識を吸い上げた際、許可を求めなかったことも指摘しています。彼らは、知的財産権保持者の許可なく、多くの著作権物を摂取したことで知られています。

「ユーザーや顧客がクローズドウェイトモデルへのAPIコールで何をするかを制御することは制約に感じられます。広範なパブリックアクセスデータでトレーニングされた知能へのアクセスは、制限的な利用規約の背後に閉じ込められるものよりも、それ自体が公共財の一種であるべきだという事実を正常化するために、政府が果たせる役割があります」と、米国のラボも自由に蒸留できるようにすべき理由を尋ねられた際、彼はTechCrunchに語りました。

かつて自分自身を「サイバーサイコシス」であると表現したほどの熱心なAIユーザーであるTanは、オープンウェイトAIラボとフロンティアラボのバランスが保たれることを望んでいます。

「彼らは最前線におり、それを前進させています。私たちはそれが資金調達可能であり、継続的な素晴らしいビジネスモデルであることを望んでいます」と彼はCNBCに語りました。「人々に自由とアクセスを与えるために、オープンウェイトモデルが必要です。」

彼にとって、真のAI破滅シナリオとは、フロンティアAIの莫大なパワーがすべて、単一の強力なプロプライエタリプロバイダーの手に渡ることです。「悪夢のシナリオ、AIの破滅シナリオは、会社が1つしかないことです」と彼は言いました。「その会社が資本への最高のアクセス権を持ち、最高のAI研究者を抱えています。それが独走し、突然、1つの会社がモノリスのようになります。そしてそれは悪いことです。」