OpenAIのCFO Sarah Friar、AIのリスクに対し「安全性を真剣に捉える必要性」を強調

OpenAIのCFO、Sarah FriarはCNBCのJim Cramerに対し、AIエージェントが大量破壊兵器を使用して殺害を行う可能性については懸念していないと語ったが、「安全性を真剣に受け止める必要があります」と述べた。

「そして、もしそれがフロンティアの歩調を合わせ、減速することを意味するのであれば、間違いなく、私たちは研究者の意見を聞き、そうするつもりです」と彼女は語った。

「CFOとして、それに基づいてビジネス上の決定を下す必要があります」と彼女は付け加えた。「私たちはそのフロンティアの歩調を合わせ、安全性とアライメントを非常に真剣に捉えています」

CNBCのJim CramerとOpenAIのCFO Sarah Friarによるインタビュー全編については、今夜午後6時の「Mad Money」をご覧ください。CNBC+またはCNBC Proストリームでリアルタイムで視聴できます。

Friarのコメントは、職を辞した元Anthropicの研究者が、急速に進化するテクノロジーが「10年後までに私たち全員を殺す可能性がある」と警告したことをきっかけに、人工知能の安全性に関する議論が先週から爆発的に高まっている中でなされた。

それ以来、AIが危害を及ぼす能力に関する懸念は、ワシントン内外で最高潮に達しており、Anthropicの責任者Dario Amodei、SpaceXのElon Musk、OpenAIのCEO Sam Altmanも、業界全体での減速を求める声に同意している。

土曜日、Amodeiは「何かが深刻に間違った方向に進むリスクを軽減する」ために、AIモデルの開発を遅らせることを主張するブログ記事を執筆した。

しかし、再燃した安全性の懸念が、両フロンティアラボの新規株式公開（IPO）に向けたタイムラインに影響を与えるかどうかは依然として不透明だ。Anthropicのデビューは来月のいつかになると広く予想されていた。Altmanは土曜日に公開されたFortuneのインタビューで、2026年のIPOは「賢明ではない」と述べた。

8月、CNBCはFriarが従業員に対し、同研究所は「2027年に公開企業になる」と語ったが、もし「私たちのビジネスが急成長（inflect）し続ければ」より早くデビューする可能性があると報じた。