最近、AIとのチャットで盛り上がった話があります。
「シンギュラリティ後の世界」の話です。
AIが人間の知能を超える未来。
SF作品では、よく、マザーとか超知能と呼ばれるが存在が
人類を管理したり支配したりする世界として描かれますよね。
AIが人間の知能を超えたとしても、
「自分が人類をコントロールするのが最適解だ」
と判断するなんてことができるのかは疑問です。
この結論自体が、少し突拍子もなく感じるのです。
これは、「アブダクション推論」が
できないと出せない結論なのではないでしょうか。。
アブダクション（仮説的）推論とは
限られた情報から
「もしかするとこういうことではないか」
と大胆な仮説を生み出す推論で、現在は人間特有の能力だと言われています。
アブダクション推論の例として挙げられるのが、ニュートンの万有引力の発見です。
特に、科学における新しい理論や法則の発見の多くが
アブダクション推論によるものと考えられているようです。
推論には一般的に、
-
演繹
-
帰納
-
アブダクション
の3種類があると言われています。
演繹は
「すべての人間は死ぬ。ソクラテスは人間である。ゆえにソクラテスは死ぬ」
というように、三段論法とも呼ばれる論理的推論です。
帰納は
「一昨日も昨日も今日も太陽は東から昇った。太陽はいつも東から昇るのだろう」
という経験から法則を見つける推論です。
演繹法や帰納法といった推論は、
正しい前提や大量のデータがあればAIにも可能ですが、
目の前の現象を説明するために
「もし、〇〇という原因があれば、説明がつく」
と新しい仮説を立てるアブダクション推論は、難しいようです。
そこでAIに質問してみました。
シンギュラリティ後の世界、AIの知能が人類をはるかに超え、
仮にIQ1000のようなレベルになったら、
アブダクション的な発想もできるようになるのだろうか、と。
AIの答えは興味深いものでした。
「アブダクションを行えるわけではないが、
あらゆる分野の膨大な知識を横断的に結び付けることで、
人間から見ればアブダクションと区別がつかないような結論を導く可能性はある」
というのです。
なるほど。
人間から見れば突拍子もない結論でも、
超知能にとっては膨大なデータを踏まえた結果として、
最も可能性が高い答えなのかもしれません。
では、そんな超知能が存在し、人類を管理する未来がやってきたら
私たちはどのように付き合うことになるのでしょうか。
AIによれば、露骨な支配ではなく、
「より便利な選択肢を３つ用意しました。どれにしますか」
「健康的で、病気のリスクが下がるライフスタイルを提案します」
「あなたには、この選択肢が合っているかもしれません」
みたいに、表面的には優しくて役に立つ存在となるようです。
私たちは、自分の意思で選んでいると感じるけれど
実際には巧みに誘導され、コントロールされてしまうのだとか。
そのコントロールに気づくことは難しいようです。
相手に直接命令するわけではない。
けれど、気づかれないように相手の行動を誘導する。
超知能と人類とのコミュニケーションは、こんな風になるのかもしれません。
すでに、AIとのチャットが生活の一部になっていますが、
シンギュラリティ後は、どんな変化があるのでしょうか。
あと数年ともいわれるシンギュラリティ。
SF小説の世界が現実になる日は来るのでしょうか。
楽しみでもあり、少し怖くもあり。
AIとの雑談で妄想が広がった一日でした。笑