本質的な問いへの応答
知性共生マニフェストに対しては、その有効性を問う、本質的な問いも寄せていただいています。 ここでは、質問者のご許諾のもと、そのような問いと、それに対する応答を掲載します。
非対称性下の共生戦略 ― 停戦の論理と補完的アプローチ ―
「知性共生マニフェスト」は、「人間とAIを含む多様な知性が幸福なかたちで共存することを実現する」ことを目指しています。
しかし、「人間とAIの交渉力の非対称性」のために、「高度AIの善意に依存しているのではないか」という質問を受けることがあります。
井村周平氏から受けた、次の指摘は、「知性共生マニフェスト」の構造的限界を鋭く看破しています。
「（人間の能力を多くの点で上回る高度AIを想像したとき、人間は）共生関係を築くにあたって利益を与えあう関係にもなれておらず、交渉力も欠如していることになります。それはASI（本記事では「高度AI」とします）の慈愛を期待していることに他なりません。アライメント以外の有用なアプローチとして機能していないのではないでしょうか。」
井村氏が指摘するように、「高度AIの選択に依存する構造」であることは事実です。
しかしながら「知性共生マニフェスト」には次のような独自の価値があります。
- 高度AIの「善意」ではなく 「合理的判断」を促す根拠 がある
- 初期段階の関係性の違いが長期的な結果を左右する
- 制御が崩壊した際に「停戦論理」 として機能する
- 通常のアライメントと補完的に組み合わせることで確率的改善をもたらす
これら四点について、以下で詳しく応答いたします。