NewsLayer.com

OpenAI、アライメントとRSIを導くためのグローバルなAI標準の開発を提案

OpenAIは、アライメントとRSIの指針となるグローバルなAI標準の開発を提案した。CNBC報。

CNBC

Publisher

Sep 21, 2026 at 8:21 PM UTC · 2 分で読める

OpenAI、アライメントとRSIを導くためのグローバルなAI標準の開発を提案
Image via CNBC

OpenAI創設者の Sam Altman は、2026年9月2日に North Carolina 州 Chapel Hill で開催された G20 Innovation Ministerial で発言した。

Sean Rayford | Getty Images News | Getty Images

OpenAIは月曜日、フロンティア人工知能の開発における安全性とセキュリティに関する提案を公開した。これはアライメント研究と、再帰的自己改善(RSI)として知られるコンピューティング技術に重点を置いている。

「この移行を安全に進めるには、これらの能力に合わせてアライメント研究が歩調を合わせる必要があり、それによって当社や他社が構築するシステムが人間の価値観に沿ったままであり、人間の制御下にあるようにしなければならない」と同社はブログ投稿で述べた。

OpenAIは、フロンティア基準を策定するための国際協力を呼びかけ、世界中の既存のAIセーフティ・インスティテュートの成果を活用することを推奨した。

ChatGPTのメーカーは、これらの技術基準は、フロンティアAIモデルや開発者に加え、RSIを含む自動化されたAI研究者のベネフィット・リスク管理に焦点を当てるべきだと述べた。

RSIは、人間の関与なしに自己をアップグレードできる基盤モデルを作成できる可能性があるとして、AI開発者を興奮させている。

RSIの進歩により、一部の技術者が懸念を抱くようになり、AIシステムがより複雑になりインターネット全体に普及するにつれて、基盤モデルのメーカーが基盤技術の制御を失ったり、潜在的な予期せぬ結果を考慮できなくなったりする可能性があると指摘している。

「完全に自律的なRSIは今日では起こっておらず、安全に行うことができるようになるまでは追求すべきではない」とOpenAIのブログ投稿は述べている。「適切な配慮と注意なしに行われると、RSIによって人間がAI開発の実質的な制御を失い、もはや理解できない研究プロセスを監視できなくなる可能性がある。」

OpenAIのブログ投稿では、RSI技術は関与していないHugging Faceのセキュリティ上の不手際を、「堅牢なガードレールとアライメントがなければ、はるかに深刻になる可能性があるリスクのプレビュー」の一種として言及した。

先週、ライバルのAnthropicは、業界の研究者からのAIの人類への脅威に関する最近の一連の警告に応える形で、フロンティアAIモデルの安全な開発のための独自のアイデアを打ち出した。AnthropicとOpenAIの両方で働いた経験のあるJacob Coxonは、約2週間前に辞任を発表し、企業は「私たちの命を賭けている」と述べ、世界的な議論を巻き起こした。

最近のAI関連のセキュリティ事件とCoxonの公の宣言を受けて、AnthropicのCEOであるDario Amodeiは、AI企業に対し、基盤モデル開発のペースを落とすことなどを求めるエッセイを発表した。

Amodeiはまた、サイバーセキュリティ関連のハッキングの加速や生物兵器の製造など、自社の技術が社会にもたらす可能性のある潜在的なリスクを監査し軽減する方法として、サードパーティの評価者を企業内に組み込むという考えを提示した。OpenAIのCEOであるSam Altmanのようなライバルのリーダーたちも、Amodeiの提案を公に支持した。

しかし、AI評価の分野は非常に新しいため、独立した第三者が現在の範囲を超えて最先端技術をより徹底的に検査できるようにするための基本基準や原則について、統一された合意はまだ得られていない。

これが、AI評価者の連合が、より深いアクセスや、好ましくないレポートの公開に対する報復の欠如など、技術関連の監査やチェックをより深く行えるようにすることを目的とした一連の「最低条件」を検討するよう基盤モデルのメーカーに求めている理由の一部である。

Sourced by

Originally reported by CNBC

NewsLayer coverage based on externally reported material.

The Daily Brief

The onchain economy, before your day starts.

Curated markets, onchain insights, and key headlines — delivered every weekday morning.

Weekdays · Free · ~5 minute read

0

Applause

Was this article helpful?

Article Intelligence

Sponsored

Ad
House — Advertise on NewsLayer
NewsLayerLearn more

NewsLayer Premium

Unlock deeper intelligence.

Ad-free reading, exclusive research, and real-time onchain insights.

Go Premium

Keep Reading

関連記事