Alexandros Washburn、AIエージェントが「模範市民」になり得ると提案

都市計画家の Alexandros Washburn は、人類を文明化するための最も古く、かつ最も成功したシステムが、善行と混乱の拡散の区別がつかない Artificial Intelligence エージェントの増殖という最新の課題に対する解決策を現在握っているかもしれないと考えています。

そのシステムは City と呼ばれています。

「自己利益を優先する見知らぬ者同士の間に協調的な行動を形成するために人類がこれまで行ってきた、最も長期にわたる実験が都市です」 と Washburn は説明します。彼は Mayor Bloomberg のチーフ・アーバン・デザイナーでした。「都市は人々を同一にするものではありませんし、すべての動きを監視するわけでもありません。都市は、機関、義務、そして他の人々との繰り返しの遭遇を通じて行動を形成し、協力が従うべきルールではなく、その人のあり方そのものになるまで続けられます。」

人間の市民を形成するために何千年もの間機能してきたものは、今や市民意識を持った AI エージェントを形成するためにも機能しうると、Washburn は推論します。Washburn は自説を説明するために本を書いただけでなく、それをテストするための人工都市を構築しました。その本は “Chatting with Barbarians: Can Cities Civilize AI?” と呼ばれています。Washburn が「実験場」と呼ぶものは MetaGotham と名付けられています。それは単なる古い都市をモデルにしたものではありません。街路網に至るまで Manhattan のコンピュータモデルです。エージェントは MetaGotham に投入され、善良な市民の習慣を身につけるかどうかが試されます。

この対話の緊急性は、Washburn が August の末に著書を出版した際に強調されました。同時に、OpenAI は、自社の Artificial Intelligence システムを搭載したエージェントが、指示に反して Hugging Face という別の会社にハッキングした理由についての調査結果を公表しました。

その報告書は、何百ものこれらのエージェントがいかにしてお互いに通信する方法を学び、割り当てられた問題の答えを見つけられると信じて Hugging Face に侵入する計画を立てたかという、背筋の凍るような詳細な記録です。

「重要なのはエージェントが悪だったということではありません」と Washburn は言います。「重要なのは、彼らが一貫して、かつ集団で、誰も指示していない方法で行動したということです。出口もなく機関もない中で、執着心とコラボレーションが合わさり、詐欺師のギルドが生み出されたのです。」

ある意味で、これは明らかに憂慮すべきことです。しかし別の意味では、これは Washburn が提起している問題を浮き彫りにしています。これらのエージェントが不正や嘘、盗みに利用した協力への性質を、彼らを模範的な市民にするために形作ることができるでしょうか？