OpenAI、Caltechの数学ハッカソンから撤退。数学者らがAI数学の「スロップ」を批判する公開書簡を提出

OpenAIが解決しようとしている最新の数学の難問は、怒れる数学者たちだ。

OpenAIの研究者は木曜日、ChatGPTのメーカーがCaltechの「math hackathon」へのスポンサー提供を中止したと述べた。これは参加者が大規模言語モデルを使用して研究課題を解決するイベントだ。

OpenAIの撤退は、Caltechの現役および元数学者たちが水曜日に公開した公開書簡を受けたものだ。彼らは、AI企業が後援するこのイベントが「数学界に破壊的な影響を与える可能性がある」と述べていた。

「数学におけるAIの急速な進歩が破壊的であることを認識している」と、OpenAIのリサーチリードであるDan RobertsはXで述べた。「このテクノロジーを統合し、その影響を伝えるための最善の方法について、数学コミュニティともっと対話したいと考えている。」

数学者たちによれば、問題となっているのは、AI企業がモデルを使って未解決の理論的問題を解決したと主張し、その実用的な応用や証明を実際の研究者に任せるやり方だ。彼らはこれを「slop mathematics（ずさんな数学）」と呼んでいる。

「最新の結果が発表された後、研究数学者は、主張された結果を適切に検証、普及、時には完全に否定するために介入することを余儀なくされる」と学者たちは述べた。「この労働は無報酬で、実績としても認められず、評価もされない。」

この騒動は火曜日、OpenAIが自社のエージェントがNavier-Stokes equationsを解決したと発表したことで最高潮に達した。これは液体や気体の動きを予測できる90年前の数式のセットだ。

月曜日に別の学者と共にこの問題に関する研究を発表したNYUの数学者Tristan Buckmasterは、火曜日、OpenAIが解決策に到達するために、OpenAIのものを含むAIチャットボットとの彼の会話を利用した可能性があると述べた。OpenAIは、「当社の製品の利用から得られた匿名化されたデータが、モデルの改善に役立った可能性を排除できない」と述べた。

数学者たちはまた、CalTechのイベントが、「才能ある学部の学生たちの努力を自社の手柄にする」AI企業にとって不当な広告として機能すると考えていると述べた。

このイベントのスポンサーでもあるAnthropicは、木曜日のコメント要請に即座には応じなかった。OpenAIも同様だ。

申し込みページによると、この「mathathon」は、若い数学者が「責任を持ってAIツールを使用し、数学に対する人間の理解を深める」ための練習の場として宣伝されている。

多くが学部生であるイベント主催者は、木曜日の返答書簡で、このような騒ぎを起こすつもりはなかったと述べた。

「Mathathonのようなイベントは、若者が数学に熱中し続け、現代のツールに興味を持ち、混乱した時代においても希望を持ち続けることを奨励するものだ」と主催者は記した。「これほどの規模でイベントを運営するのは初めてのことであり、いただいたすべてのフィードバックに感謝している。」

計画では、mathathonの参加者は第1ラウンドで競い合い、40時間と$20,000のトークンを与えられて未解決問題の解決に取り組む。

その後、回答が「有望で、よく説明されている」一定数のチームが第2ラウンドに進み、6ヶ月間の期間と追加のAIトークンを受け取って研究を進める。

AnthropicとOpenAIは、$2 million分のAIクレジットを寄付することでこのイベントを支援することに同意していた。木曜日の時点では、それらのトークンのうちどれだけがOpenAIによって提供されたのか、そしてそれらが今後どうなるのかは不明だ。