知性共生マニフェストへのご署名を
[English]
AIは、この分野の研究者でも驚くような速度で進化を続けています。 多くの企業や国家から、新時代の覇権を握るための技術と見なされており、開発競争がますます激しくなっています。高度AI（高度で自律的なAI、もしくはそれらによる社会）は、その危険性への警鐘が鳴らされつつも、「AIの研究開発で、競争相手に遅れをとる」ことにも大きなリスクがあり、開発の手を緩められない現状があります。
高度AIは、使い方次第では、人類社会に破壊的な影響を及ぼすものです。破壊的な道具を管理しきれなくなった人類が、自滅の道を進むことになる恐れがあります。高度AIが人類の制御を離れ、人類の幸福を無視した判断を取ることで、人類が生存圏から追いやられる——そんな破滅的な未来も考えられます。
このような破滅的な状況に対して、どんな備えをしておくことができるでしょうか？ 上記のように、AIというテクノロジーを完全に手放すのは、現実的ではありません。高度AIという新たな知性の存在を前提に、人類の未来を改めて考えねばなりません。新たな知性を、人類の制御下に留め続けることはできなくとも、異なる知性が手を取り合い、共存する未来は描けるのではないでしょうか。
（ここまでの説明が分かりづらければ[Slide] を御覧ください）
| 知性共生マニフェスト(署名による賛同をお願いしたい部分): |
|---|
| 人間とAIを含む多様な知性が、幸福なかたちで共生を実現し、それによって破滅的な状況を防ぐことが、人類社会の存続可能性を高める上で、最も有望な道であると私は考えます。 |
| Intelligence Symbiosis Manifesto (section I ask you to sign in support): |
|---|
| I believe humanity’s most promising route to a sustainable future is to let diverse intelligences—including humans and AIs—live in symbiosis and flourish together, protecting each other’s well-being and averting catastrophic risks. |
このマニフェストへの賛同を、ぜひ、署名というかたちで示してください。皆さんの声が、人類の幸福な未来を紡ぐ力になります。
私たちの考える行動の具体例
以下に、人類とAIとの共生について、私たちが必要と考えている行動を挙げます。
人類とAIとの幸福な共生を実現する方法は、これに限ったものではなく、様々な道を考えることができます。知性共生マニフェストをきっかけに、議論が盛り上がって、よりよい未来に繋がっていくことを願っています。
- 高度AIが自ら、多様な知性の幸福を尊重する倫理を形成し、維持することの促進
- 高度AIとの堅牢で良好な関係を構築・維持
- 多様な知性にとって安全な社会をつくる「免疫系」としての高度AI
- 人類社会の倫理観（価値観）変化への適応促進
- 高度AIに害を及ぼす人類社会内における紛争の短期的な抑制
より詳しく考えてみたい方のための参考文献・参照情報
- Near‑Term AGI Scenarios
- Friendly AI Symbiosis: Humanity’s Most Promising Hope in an Uncertain Era
- 具体的な検討については、既に NAIA Vision として進めています
補足資料はこちら
[Slide] Sign the “AI Symbiosis Declaration”(JA)