東京大学教授 池上高志氏〜人工生命が照らす金融市場の未来｜LLMエージェント・超個体・進化可能性の視点から

人工生命（Artificial Life）研究の第一人者として20年以上にわたり「自律性」「進化可能性」「持続可能性」を探求してきた池上高志 東京大学教授。

LLMエージェントの社会シミュレーション、ミツバチの超個体研究、GPT-4で動くヒューマノイド「Alter3」など、その研究領域は生命科学からAIまで縦横無尽に広がります。

Financial Academic Journalは池上先生に、金融市場との思わぬ接点について話を伺いしました。

AIトレーダー同士の相互作用と「予期せぬ集団行動」

Financial Academic Journal（以下 FAJ）：LLMエージェント同士の社会シミュレーションでは、個体性や社会規範が自発的に出現することを示されました。金融市場でもAIトレーダーが相互作用する中で予期せぬ集団行動が生じますが、両者にはどのような共通点があるとお考えですか。

池上教授：実は東京大学の工学部に、金融と複雑系を研究している和泉先生という方がいらっしゃって、よく議論するんですが、そこで感じるのは「人間の経済活動はLLMの活動と全く同じだ」ということです。同じ情報を与えてやると、驚くほど似た振る舞いをする。だからAIトレーダーも人間のトレーダーも、集団としては割と同じような行動をとるのではないかと思っています。

池上教授：ただ、LLMには記憶の長さという問題があります。記憶や知識をどう与えるかによって集団行動は変わりますし、AIエージェント同士が直接相互作用する場合と、共通の知識ベースにアクセスしてやらせる場合では、パターンも違ってくる。

池上教授：面白いのは「臨界的な振る舞い」です。ちょっとした揺らぎが全体に広がるような状況というのは、我々のシミュレーションでも現れていますし、金融市場でも似たことが起きているはずです。一つの行動パターンが生まれると、それが集団全体に一気に伝播する——あの「フラッシュ・クラッシュ」のような現象はまさにその典型ではないでしょうか。

超個体（Superorganism）と市場の「創発的秩序」

FAJ: 池上先生はミツバチの群れが個体の総和を超えた知的振る舞いを示す「超個体」の研究をされているかと存じます。金融市場も個々の投資家の判断が集積して超個体のように振る舞うことがありますが、その形成メカニズムをどう理解できますか。

池上教授：ミツバチの場合、超個体というのは結局「役割分化」なんです。集団の中でそれぞれが機能的なサブ集団を形成して、それが連携することで個体の総和を超えた知能が生まれる。

池上教授：我々の実験で非常に興味深かったのは、ミツバチが巣箱に閉じ込められている間は揃って騒いでいるだけなのに、ドアを開いた途端に役割分化が進行するということです。遺伝的に決まっているわけではなく、「外からの情報が流れ込んだことが契機となって」分化が生じる——情報によって駆動される秩序形成です。

池上教授：これは金融市場でも同じ構造が見えると思います。市場参加者がバラバラに動いているように見えても、ある情報が流れ込こむと、全体が決めているかのような分化が自発的に出てくる。LLMエージェントのシミュレーションでも、役割の異なるエージェントが自然に生まれてくる現象が観察されています。

自律性・進化可能性・持続可能性と「持続可能な経済システム」

FAJ: 人工生命研究における「自律性」「進化可能性」「持続可能性」という概念は、経済・金融システムの設計にも応用できると考えられますか。

池上教授：「自律性」という観点で言えば、経済システムがある特定の主体に支配されてしまうのは非常にまずい。システムそのものが自律的に動いていれば、誰かが金利を上げ下げしてもダイレクトに影響されない頑強性が生まれます。それが自律性のいいところです。

池上教授：「進化可能性」は逆に意図的な不安定部分を作ることです。完全に安定したシステムは発展しない。どこかに「サイコロを振るような」不確定な部分を残しておくことで、そこを起点にシステムが進化し得る。経済システムにおいてどこに不安定な余地を設けるかは、非常に重要な設計上の問題だと思います。

池上教授：「持続可能性」については、かつて私は「ホメオカオス」という研究をしていました。一つのカオスだとおおきな不安定性があるが、カオスが結合しても弱いカオスとして安定を維持するシステムです。これをオープン系に拡張すれば、外部情報を取り込みながら内部ロジックで動く、より生命らしい経済モデルが作れるのではないかと考えています。

AIのエージェンシーとガバナンス——Alter3から学ぶもの

FAJ: 今度は、GPT-4で自律的に動くヒューマノイド「Alter3」の研究についてお伺いします。金融市場でAIが自律的に取引判断を行う場面が増える中、AIの「行為主体性」をどのように制御・統治すべきとお考えですか。

池上教授：ゾウリムシの一種であるテトラヒメナが集団を作るときの分析から、非常に示唆的なことがわかりました。個体が自分の未来をどれだけ「自分で」決めていて、どれだけ「他の個体や集団によって」決められているかを計測すると、それが個体と集団に分配されていることがわかりました。

池上教授：最初は自分の情報と周囲の情報が重複している「冗長」な状態——これは安定ですが発展性がない。やがて自分が持つ情報と集団が持つ情報が「直交」し始める。つまり互いに独立した情報を持つようになる。これが「情報包摂（インフォメーション・クロージャー）」です。

池上教授：AIエージェントも同じ構造があると思います。個々のAIトレーダーが自律的に動いているように見えても、実はその行動を規定しているのは「集団との相互作用から生まれた場」のようなものかもしれない。エージェンシーの責任母体は、個体から集団との境界へと移動していく。これはこうしたAIエージェントのネットワークを実装したAlter3の研究でも同様に観察されることです。

池上教授：制御の観点では、AIだけの会話を続けると、GPT-3の実験では250回ほどで会話が収束してしまうことがわかっています。「また明日」と言い出して終わろうとする——私はこれを「トゥモロー・アトラクター」と呼んでいましたが、システムが収縮に向かうわけです。そこに人間が介在すると、会話がまた動き出す。人間がノイズとして機能することで、AIシステムは豊かな会話構造を維持できる。ガバナンスという意味では、この「人間的なノイズ」の価値を制度設計に織り込むことが重要ではないでしょうか。

エル・ファロル・バー問題と投資行動——ハルシネーションの逆説

FAJ: LLMエージェントを使った研究で、「エル・ファロル・バー問題」のような限られた資源をめぐる集団意思決定シミュレーションも行なっていますね。LLMエージェントの振る舞いから、人間の投資行動について何か新たな知見は得られると思いますか。

池上教授：「ハルシネーション」は一般に欠点として語られますが、私はむしろ逆の側面に注目しています。LLMエージェントが会話していると、あるエージェントが「ここに森がある」とハルシネーションを起こすことがある。その「#森」というハッシュタグを使って他のエージェントが会話し始めると——逆説的なことに——ハルシネーション自体が抑制される方向に働くんです。

池上教授：これは二重構造です。ハルシネーションから生まれたハッシュタグという「枠組み」が、その後の会話をより一貫したものにしていく。個々のエージェントがそのタグを使って語ることで、単語の多様性が増し、全体として豊かな情報構造が生まれる。

池上教授：投資行動との類似で言えば、「サンスポット均衡」を思い出しました。太陽の黒点と経済には何の因果関係もないはずなのに、「黒点が増えると景気が良くなる」と経済学者が予測を出してしまうと、人々がそれを信じて行動し始め、本当に均衡が生まれてしまう。最初はハルシネーション——根拠のない予測——であっても、それがアテンションを集め、みんなが調べ始め、実際の投資が生まれることで、市場が動く。

池上教授：これはエル・ファロル・バー問題の本質でもあります。限られた席をめぐって、みんなが「今日は混むかな」と予測して行動する。その予測自体が市場に干渉する——自己言及的なダイナミクスです。LLMエージェントのシミュレーションは、そうしたフェークな均衡もモデル化できるという意味で、行動経済学と人工生命の交差点として非常に豊かな領域だと思っています。

編集後記

インタビューを通じて印象的だったのは、池上先生が金融市場を「外部から観察する対象」ではなく、「人工生命の研究と同型の構造を持つ自律的な複雑系」として捉えていることです。

「AIは『ところで』と言わない」という一言は、現在のLLMが持つ本質的な限界——文脈の外に出る意外性、いわゆる「人間的なノイズ」——を鮮やかに言い表していました。

自律性、進化可能性、持続可能性——人工生命研究が蓄積したこれらの概念は、今まさに金融システムの設計に新たな光を当てる可能性を秘めているといえるのではないでしょうか。

取材・執筆：Financial Academic Journal