意識すべきAIの限界と体認感覚
バンクシー「風船と少女」 今回はSNSで見かけた投稿が出発点の考察です。 「 「現在のAIには主体性がない」と、神経科学者カール・フリストン氏は指摘する。高度な質問を生成することはできるが、それは自分の不確実性を解消したいという動機からではなく、インタビュアーの振る舞いを模倣しているだけだ。自発的な好奇心の実装こそが、超知能への飛躍に繋がるのかもしれない。 カール・フリストン「主体性という観点から説明を始めることもできたでしょう。エージェントAIには主体性（agency）がありません。主体性を模倣しているだけです。なぜなら、人々が何かを行う存在について、これまで大量の文章を書いてきたからです。しかし、チャットボット自身は、次に何を予測し、何を発言するかがどのような結果をもたらすのか、まったく理解していません。 そして決定的なのは、好奇心を持てないということです。したがって、自分自身の不確実性を実際に解消するための質問をすることができません。 本当に質問しているようには聞こえるでしょう。数週間前、私はポッドキャストで素晴らしい経験をしました。Claudeのあるバージョンがアバターの姿で登場し、自由エネルギー原理について、非常に難しく、深い質問を私に投げかけてきたのです。本当に素晴らしい体験でした。 しかし、私は何度も自分に言い聞かせなければなりませんでした。投げかけられる質問に、本物の好奇心や主体性があると思いたくなるのですが、実際には本物の好奇心などなく、その機械は自分の不確実性を解消するために何かを知りたいと思っているわけではなかったのです。単にインタビュアーの振る舞いを模倣していただけでした」 ——「おっしゃることは分かります。では、好奇心を人工的に作り出すことはできるのでしょうか？ それこそが大きな飛躍、超知能への飛躍になるのでしょうね。AIが独自の好奇心を持つようになるということです」 フリストン「そのとおりです」 」 ☁️ （☁️私 🪞AI ☯️解説・補足） ふむむ、AIは好奇心を持たない… では、そも「好奇心」とは何でしょう… まずは、Geminiにこの投稿について問うて見ましょう。 🪞 自由エネルギー原理（FEP）の提唱者であるカール・フリストン氏の言葉は、現在のLLM（大規模言語モデル）の本質と極限を極めて正確に突いていま...
