聳え立つ地平線

ありえないものを発見すること、それを写し撮ること、そしてきちんと見せること。

哲学

AI自動運転社会は永久にやってこないと思う件

最近AIに関する本を3冊読みました。

『人工知能の哲学 生命から紐解く知能の謎』
『AI原論 神の支配と人間の自由』
『AI vs.教科書が読めない子どもたち』




半年前に『人工知能は資本主義を終焉させるか』を読んだとき(感想は→こちら)現在最も計算の速いスパコンが100億年かかる計算を瞬時にやってのけるAIがもうすぐできると書かれていて、そんなすごいものができたらどうなるんだろうと、興味と恐怖が交錯しました。
が、著者が主張する「シンギュラリティ」は絶対ないだろうな、と何の根拠もなく思いました。

今回読んだ3冊はその根拠を見事に提示してくれる本でした。(あんまりシンギュラリティに否定的な人の本ばかり読むと偏ってしまうので、近々肯定的な人の本もまた読んでみるつもりです)


自律システムと他律システム
3冊の著者は、シンギュラリティを否定するどころか、AIの開発自体が無理と言い切ります。

え!? AIってすでにたくさんあるじゃん。ポナンザもそうだし、ルンバだってそうでしょう?

という声が聞こえてきそうですが、あれらは正確に言うとすべて「AI技術」にすぎず「真の意味でのAI」ではないそうです。

そのときキーになるのが「自律システム」と「他律システム」というワードです。



自律システムとは我々人間や他の生物すべてがもっているもので「自己増殖」できるのが特徴だとか。逆に他律システムは人間が何らかの指令を出さないかぎり動けないシステムで自己増殖ができない。
この場合の自己増殖とは、自分で自分の知能を高めていくということで、自律システムさえ確立されればAIがさらに高度なAIを作ることができる。その先にシンギュラリティが起こるかもしれないし、少なくとも『ターミネーター』のように機械と人間の戦争は避けられない気がします。

いま巷で「AI」と呼ばれているものはすべて他律システムだそうです。ポナンザだって作った人が「なぜこんなに強くなっているのか」と話したらしく自律的に強くなっている感じがしますが、最新の棋譜をどんどん入力してやらないとディープラーニングは不可能ですし、そもそもポナンザは将棋以外に何もできませんから「知能」とは呼べません。




話題の『AI vs.教科書が読めない子どもたち』で口酸っぱく語られているのは「いまのAI技術は単なるコンピュータであり、コンピュータは四則演算しかできない。数学で記述できる言葉は論理・確率・統計だけでその他は不可能」というものです。ポナンザが強いのはその論理・確率・統計から最善手を導くためのビッグデータを所有し、かつ演算能力が異常に高いだけ、ということになります。


グーグルの事実上の撤退
さて、AIが車を運転することで言葉の真の意味での「自動車」が近々街を走り、バスやタクシーの運転手は職を失うだろうと言われていますが、私はこれら3冊の本を読んでかなり懐疑的になりました。

車を運転するためには何より「自律システム」であることが求められます。無人運転の電車といえば神戸のポートライナーが走りで、いまは全国各地にあるんでしょうけど、あれなら線路の上を走るだけだし、二重扉で人身事故が起こることもないし、どこで止まるかも決まっているから他律システムでも大丈夫なんですよね。
ただ、ちょうどこないだの大阪府北部地震のとき私はまさにポートライナーに乗っていましたが、ああいうときはもう人間が出て行って安全を確認しなくてはいけない。他律システムではそれが無理。

それが無理なら道を車で走るなどもってのほかでしょう。突然子どもが飛び出すかもしれないのにどうやってそれを避けるのか。

そして、避けられなかった場合の「責任」はいったい誰が取るのか。責任は生身の肉体をもった人間にしか取れません。死刑とか懲役というのは肉体の苦痛を伴いますが肉体をもたないAIに責任を取らせることはできません。では開発者や販売者に責任を負わせればいいのでしょうか?

ちょっと前まで自動運転車を開発して売り出すと息巻いていたグーグルが、それを撤回してはいないものの、だいぶトーンダウンしているとか。それはやはり「責任」。もし事故を起こしたら自分たちが責任を取らないといけなくなるので、飛び出してきたものが轢いてはいけないものか大丈夫なものか、瞬時に判別できる画像認識ソフトを開発して自動運転車を製造する別会社に売って、責任は回避するつもりらしいと書かれていました。

なるほど。でもそれって「事故を起こす可能性がかなり高い」と認識しているんですよね。人間はミスをする生き物だからいまだに交通事故がなくなりませんが、AIによる自動運転に移行するのなら「絶対に事故に遭わない」ように設計してくれないと乗る人は誰もいないでしょう。

それもこれもいまの「AI技術」が「真の意味でのAI」ではないからです。他律システムだからです。自律システムとは、前述のとおり自分で自分の知能を高めていくことができることです。人間が1の能力のAIを作ったらあとは自分でそれを1.001倍していく。それを異常なスピードで繰り返せば近い将来シンギュラリティが到来するでしょう。


人間に「心」を作ることは可能か
しかしながら、グーグルが開発に躍起になっている画像認識ソフトですら無理らしい。なぜか。

『人工知能の哲学』で詳述されていますが、我々生物は「錯視」によってこの世界を認識しているそうです。この世が本当にこのような姿、つまり人間が認識している通りの姿だとは誰にも言えません。人間が認識できるのは4次元までですが、本当は12次元(13次元だったか)という物理学者もいます。客観的にどういう世界かは永久に誰にもわからない。でも「錯視」によって主観的に世界を認識することはできるし、実際にみんなそれをやって生きている。

錯視を論理・確率・統計の言葉で作り上げることができるでしょうか? ごく普通に考えて錯視はまったく論理的じゃないですよね。

コンピュータの礎を作ったアラン・チューリングは「脳を作るぞ」と息巻いてチューリング・マシンの開発に着手したそうですが、人間には脳は作れるかもしれませんが心は無理でしょう。心は脳に宿っていると思っている人が多いですが(私も昔はそう思っていました)心がどこに宿っているのか、最新の科学ではまだわかっていないし、特に脳科学では「心は脳にある」という考え方は否定されているそうです。

自律システムが可能になるためには「心」を開発しないといけないのですが、どうもAI開発者は人間の脳と同じものさえ作ればいいと考えているらしい。脳ならすでに開発できている気がします。パソコンもスマホも、いわんやポナンザやルンバも「脳」と言ってかまわないと思う。

でも、問題はやっぱり「心」ですよ。主観的に物事を認識することができなければ「自律システム」ではない。脳なら頭蓋骨から取り出してどういう具合になっているのか観察できるから模倣して作ることも可能でしょうが、心は外側から観察できません。自分の心を内側から見つめることしかできない。だから人間に脳を作ることはできても心は作れない。そして、心を作れない以上は自分で自分の知能を高める自律システムの開発は絶対に不可能です。

というわけで、AIが自動車を運転する社会は永久にやってこないと思うのです。

関連記事
AI婚活に見る「プラセボ(偽薬)としてのAI』


批判を許容しない社会について

哲学者・中島義道さんの『「思いやり」という暴力』(PHP文庫)を読んで何度も膝を打ちました。



批判のない国ニッポン
この本は旧題が『〈対話〉のない社会』といい、日本人は対話することをできるだけ避ける。そのことにいらだちを募らせる著者が「それでいいのか日本人!」と声高に叫ぶ内容です。

でも、私は「対話」というキーワードよりも「批判」のほうに関心が向きました。とはいえ、この二つの言葉は同じことを表しているのでしょう。対話とは相手を面と向かって批判し、批判された者はその批判を受け容れ、さらに反論して議論を高めていくことだからです。批判のないところに対話はない。

英語教師たちへの感謝を述べる日本人代表の挨拶が紹介されていますが、ただ外国人教師たちへの感謝が述べられるだけなんですね。通り一遍の何の個性もない挨拶に対し、外国人たちは一様に怒ります。

「何の批判もなしにただ感謝だけを述べられても困る」
「建設的な批判がないのはいかがなものか」


というように。


uranaiwohiteisuruhitonotokutyou

批判は悪口?
私はよくこのブログで映画の批判をしていますが、それは日本の映画評論家にはまともな批評をする人がいないからです。面白い映画をいかに褒めるかばかりに神経を注いで、つまらない映画には無視を決め込む。これは製作者たちとの対話を拒否しているということだと思います。

一般の映画ファンも同様で、近頃は何でもネガティブなことを言うと「ディスる」といって非難する。ちょっと前にツイッターで「映画の悪口は言うもんじゃない」と言っていた人がいました。目を疑いました。批判は悪口なんですって。そりゃま、誹謗中傷の類はそうでしょうが、その人の論旨では批判することが悪口だという感じでした。

映画製作者たちも同様です。去年の暮れに、ある映画監督と相互フォローの関係になりました。その人の映画がちょうど公開されたので見に行ったら少しも面白くなかったので正直に感想を書きました。もちろん誹謗中傷はしていません。建設的な批判をしたつもり。しかし、その監督さんからは何の反応もない。観客との対話を拒否している。

つまり日本では「批判はしてはならない」し、「批判されても受け容れない」のが普通のようです。

でもそれは中島義道さんが忌み嫌う「対話のない社会」そのものです。

だからこれからも建設的な批判をしていくつもりです。



『中動態の世界』と依存症③断酒会の意味

(承前)①TOKIO山口達也の事件をめぐって
   ②薬を飲むのは自発的な行為か


激情に駆られている人は「強制」の状態にある
山口達也の事件について、多くの人が「酒で傷んだ体を治すために入院していたのに、退院したその日に焼酎一本空けてしまうなんてけしからん」「酔っぱらって前後不覚の状態だったと言ったって、飲んだのは山口自身じゃないか。自業自得だろう」とかいろいろ意見が飛び交っています。

それらはどれも正論なのでしょうが、中動態の観点からすると、山口達也も彼を批判する人たちも同じ「強制」の状態にあるのです。山口は酒という外部の刺激に圧倒されて猥褻行為に及んでしまったし、彼を批判する人たちも、山口達也の愚行という外部の刺激に圧倒され我を失っています。彼らはみな「まったき強制」の状態にあります。


松岡昌宏の会見
13224eb3
TOKIOの他の4人の会見で、特に松岡昌宏の言葉に感動した、という人が大勢います。私も感じるものが多かったですが、彼の言葉は、はたして「自由」(自分の本質の表現)なのか、それとも「強制」(外部の刺激に圧倒されている状態)なのか、はたしてどちらなのでしょうか?

私はどちらでもある、と思います。

『中動態の世界』の著者、國分功一郎さんは、中動態の世界では、まったき自由もまったき強制もないと言います。山口達也など依存症患者も、彼らを感情的に非難する人たちも、まったき強制の状態にあるわけだから、中動態の世界に生きていないことになります。

でも、松岡昌宏は中動態の世界に生きていると思うのです。それは「完全に自由になってもいないし、完全に強制の状態にも陥っていない」ということ。

松岡以外の3人は、どうもあまり自分の言葉で語っている気がしないんですよね。事務所からこう言えと文字通り強制された部分もあるだろうし、世間受けするためにはどういうふうに言うのが一番いいかという計算が透けて見えます。

松岡だって事務所からの指示はあったでしょうが、他の3人が芝居がかっているのに対し、彼だけは芝居に見えない。自分の本質を表現している。つまり「自由」の状態にある。とはいっても涙を流したり唇を震わせたり、激情に駆られている面も否めないから「強制」の状態でもある。

自由と強制のはざまで揺れ動く。まさに中動態の世界に生きているからこそ多くの人の耳目を集めたのでしょう。


post_23158_20180426
山口達也はボロボロ泣いているだけで、完全な「強制」の状態ですね。酒に強制され、自分が犯した罪に圧倒されてしまっている。一番ダメな状態です。
彼は、松岡昌宏のように、自分の本質を表現するように語らねばならない。いまは無理でも。


断酒会の意味
今回、断酒会というものの意味が初めてわかった気がします。
映画の中でしか見たことありませんが、同じ依存症患者同士で体験談などを語るのって、いったい何の意味があるのかいままでよくわかりませんでした。同類相憐れんでいるだけじゃないの? と。

でも、違うんですね。断酒会で体験談を語るのは治療にとても有効だそうです。

だから、やっぱり薬を飲むのは自発的行為ではないのです。医師に言われたから飲んでいるだけ。そして薬が効いている状態で酒を飲むと気持ち悪くなるから酒と縁遠くなる。それは外部の刺激に圧倒され「強制」に陥っているだけ。それだけでは酒は断てない。
かといって、強い意志をもつこともダメ。それは外部からの「やめるべき」という刺激に圧倒されているから。
酒を断つためには「自由」の境地が必要。

自由になるためには、強制と自由のはざまで揺れ動くためには、断酒会で体験談を話すのが有効なのですね。それも、心にもないことを言うのではなく、松岡昌宏のように自分の言葉で話す。自分の本質を表現するように話す。それが依存症克服のカギだと。

何だか当たり前の結論になっちゃいましたが、でも、自分の本質を表現するように周りが誘導するのも大事なのでしょう。だから、強い意志で克服しろ、とか、だからおまえはダメなんだ、と叱責するだけでは何の解決にもならない。

山口達也は松岡昌宏の言葉に応えないといけないと思う。せっかく仲間がお手本を示してくれたのだから。


自分自身のことを考える
ならば、私自身はどうでしょうか。

いままで自発的に薬を飲んでいたけれども、本当は非自発的であることがわかりました。ずっと「強制」の状態にあったのですね。

もしかすると、脚本を書いていたのは自己の本質を表現するためだったのかもしれない、と初めて思い当たりました。そして、いまは脚本ではなく小説という形で自分の半生を徹底して批判的に書くということをやっている。それって強制の状態から無意識に自由を志向しているのかもしれない、などと。

いろいろなことを考えさせてくれた『中動態の世界』に感謝します。




ギャラリー
  • ETV特集『キャメラマンMIYAGAWAの奇跡』を見て痛感した「遊び心」の重要性
  • 『マンディ 地獄のロード・ウォリアー』(禍々しさと可笑しさと)
  • 『マンディ 地獄のロード・ウォリアー』(禍々しさと可笑しさと)
  • 許せない映画⑤『バッド・ジーニアス 危険な天才たち』
  • 許せない映画⑤『バッド・ジーニアス 危険な天才たち』
  • 黒澤明『天国と地獄』の疑問点
最新コメント
お問い合わせ
お問い合わせは、こちらまでお願いします。
LINE読者登録QRコード
LINE読者登録QRコード