最近AIに関する本を3冊読みました。

『人工知能の哲学 生命から紐解く知能の謎』
『AI原論 神の支配と人間の自由』
『AI vs.教科書が読めない子どもたち』




半年前に『人工知能は資本主義を終焉させるか』を読んだとき(感想は→こちら)現在最も計算の速いスパコンが100億年かかる計算を瞬時にやってのけるAIがもうすぐできると書かれていて、そんなすごいものができたらどうなるんだろうと、興味と恐怖が交錯しました。
が、著者が主張する「シンギュラリティ」は絶対ないだろうな、と何の根拠もなく思いました。

今回読んだ3冊はその根拠を見事に提示してくれる本でした。(あんまりシンギュラリティに否定的な人の本ばかり読むと偏ってしまうので、近々肯定的な人の本もまた読んでみるつもりです)


自律システムと他律システム
3冊の著者は、シンギュラリティを否定するどころか、AIの開発自体が無理と言い切ります。

え!? AIってすでにたくさんあるじゃん。ポナンザもそうだし、ルンバだってそうでしょう?

という声が聞こえてきそうですが、あれらは正確に言うとすべて「AI技術」にすぎず「真の意味でのAI」ではないそうです。

そのときキーになるのが「自律システム」と「他律システム」というワードです。



自律システムとは我々人間や他の生物すべてがもっているもので「自己増殖」できるのが特徴だとか。逆に他律システムは人間が何らかの指令を出さないかぎり動けないシステムで自己増殖ができない。
この場合の自己増殖とは、自分で自分の知能を高めていくということで、自律システムさえ確立されればAIがさらに高度なAIを作ることができる。その先にシンギュラリティが起こるかもしれないし、少なくとも『ターミネーター』のように機械と人間の戦争は避けられない気がします。

いま巷で「AI」と呼ばれているものはすべて他律システムだそうです。ポナンザだって作った人が「なぜこんなに強くなっているのか」と話したらしく自律的に強くなっている感じがしますが、最新の棋譜をどんどん入力してやらないとディープラーニングは不可能ですし、そもそもポナンザは将棋以外に何もできませんから「知能」とは呼べません。




話題の『AI vs.教科書が読めない子どもたち』で口酸っぱく語られているのは「いまのAI技術は単なるコンピュータであり、コンピュータは四則演算しかできない。数学で記述できる言葉は論理・確率・統計だけでその他は不可能」というものです。ポナンザが強いのはその論理・確率・統計から最善手を導くためのビッグデータを所有し、かつ演算能力が異常に高いだけ、ということになります。


グーグルの事実上の撤退
さて、AIが車を運転することで言葉の真の意味での「自動車」が近々街を走り、バスやタクシーの運転手は職を失うだろうと言われていますが、私はこれら3冊の本を読んでかなり懐疑的になりました。

車を運転するためには何より「自律システム」であることが求められます。無人運転の電車といえば神戸のポートライナーが走りで、いまは全国各地にあるんでしょうけど、あれなら線路の上を走るだけだし、二重扉で人身事故が起こることもないし、どこで止まるかも決まっているから他律システムでも大丈夫なんですよね。
ただ、ちょうどこないだの大阪府北部地震のとき私はまさにポートライナーに乗っていましたが、ああいうときはもう人間が出て行って安全を確認しなくてはいけない。他律システムではそれが無理。

それが無理なら道を車で走るなどもってのほかでしょう。突然子どもが飛び出すかもしれないのにどうやってそれを避けるのか。

そして、避けられなかった場合の「責任」はいったい誰が取るのか。責任は生身の肉体をもった人間にしか取れません。死刑とか懲役というのは肉体の苦痛を伴いますが肉体をもたないAIに責任を取らせることはできません。では開発者や販売者に責任を負わせればいいのでしょうか?

ちょっと前まで自動運転車を開発して売り出すと息巻いていたグーグルが、それを撤回してはいないものの、だいぶトーンダウンしているとか。それはやはり「責任」。もし事故を起こしたら自分たちが責任を取らないといけなくなるので、飛び出してきたものが轢いてはいけないものか大丈夫なものか、瞬時に判別できる画像認識ソフトを開発して自動運転車を製造する別会社に売って、責任は回避するつもりらしいと書かれていました。

なるほど。でもそれって「事故を起こす可能性がかなり高い」と認識しているんですよね。人間はミスをする生き物だからいまだに交通事故がなくなりませんが、AIによる自動運転に移行するのなら「絶対に事故に遭わない」ように設計してくれないと乗る人は誰もいないでしょう。

それもこれもいまの「AI技術」が「真の意味でのAI」ではないからです。他律システムだからです。自律システムとは、前述のとおり自分で自分の知能を高めていくことができることです。人間が1の能力のAIを作ったらあとは自分でそれを1.001倍していく。それを異常なスピードで繰り返せば近い将来シンギュラリティが到来するでしょう。


人間に「心」を作ることは可能か
しかしながら、グーグルが開発に躍起になっている画像認識ソフトですら無理らしい。なぜか。

『人工知能の哲学』で詳述されていますが、我々生物は「錯視」によってこの世界を認識しているそうです。この世が本当にこのような姿、つまり人間が認識している通りの姿だとは誰にも言えません。人間が認識できるのは4次元までですが、本当は12次元(13次元だったか)という物理学者もいます。客観的にどういう世界かは永久に誰にもわからない。でも「錯視」によって主観的に世界を認識することはできるし、実際にみんなそれをやって生きている。

錯視を論理・確率・統計の言葉で作り上げることができるでしょうか? ごく普通に考えて錯視はまったく論理的じゃないですよね。

コンピュータの礎を作ったアラン・チューリングは「脳を作るぞ」と息巻いてチューリング・マシンの開発に着手したそうですが、人間には脳は作れるかもしれませんが心は無理でしょう。心は脳に宿っていると思っている人が多いですが(私も昔はそう思っていました)心がどこに宿っているのか、最新の科学ではまだわかっていないし、特に脳科学では「心は脳にある」という考え方は否定されているそうです。

自律システムが可能になるためには「心」を開発しないといけないのですが、どうもAI開発者は人間の脳と同じものさえ作ればいいと考えているらしい。脳ならすでに開発できている気がします。パソコンもスマホも、いわんやポナンザやルンバも「脳」と言ってかまわないと思う。

でも、問題はやっぱり「心」ですよ。主観的に物事を認識することができなければ「自律システム」ではない。脳なら頭蓋骨から取り出してどういう具合になっているのか観察できるから模倣して作ることも可能でしょうが、心は外側から観察できません。自分の心を内側から見つめることしかできない。だから人間に脳を作ることはできても心は作れない。そして、心を作れない以上は自分で自分の知能を高める自律システムの開発は絶対に不可能です。

というわけで、AIが自動車を運転する社会は永久にやってこないと思うのです。

関連記事
AI婚活に見る「プラセボ(偽薬)としてのAI』