AIは人間を超えるか

「AIは人間を超える」なんて、本気で信じているんですか？（西垣 通,千葉 雅也） | 現代ビジネス | 講談社（1/4）

AIは水を理解していない、というのと同程度に人間だって水を理解していないだろう。「知ってるつもり -- 無知の科学」という本を先日丸山先生に勧められて読んでみたが、そこでも「理解している」ということのあやふやさと、「自分はこれを理解している」という『勘違い』によって人間が社会生活を営めている、みたいなことが書かれていた。

一方、計算機の進歩がこのまま進めば、遠い未来か近い未来かはともかく、人間よりも汎用知能として優れたものになりえないと考えることはむずかしい(もしかしたら量子メモリみたいな現在実現していない素子を必要とするかもしれないが)。ここで、例えば、人間にはクオリアがあるが計算機にはそれがないから計算機には知能は宿らない、と考えるのは傲慢というものだろう。

ただ、どこまで進歩しても所詮ソフトウェア(コピー可能)なので、カーツワイルの言うような超人間だの人間のソフトウェア化だのいう話は馬鹿げていると思う。例えば、swarmingのような発想で、単体としては汎用性が高い一方限界も低く、それでも全体としては超知能として動作する、みたいなものが個人的には趣味に合うが、もしかしたらそれはヒト個人が知能として理解できる形式ではないのかもしれないとも。

ふと思ったのでメモ。