ハンナ・フライ『アルゴリズムの時代 機械が決定する世界をどう生きるか』(文藝春秋)

3de7e6a8

アルゴリズムの時代、なんていうから、Googleの広告や検索結果表示に関する本だと思ってました。検索結果表示によって人は操られている、みたいな本かと。いや確かに、そういうことについての記述もあるんですが、ほとんどAI=人工知能についての本でした。AIはアルゴリズムによって動いてますしね。

この本を読んで強く思ったのは、「文学や音楽などの芸術作品をコンピュータが生み出すのは不可能だ」と思っていた私が、「それは可能だろう」ということです。

その前に、アルゴリズムとはいったい何でしょうか? 辞書によると……

アルゴリズム(名詞):主にコンピュータによって問題を解決するため、あるいは何らかの目的を達成するための、段階を追った手順。

らしく、料理のレシピもアルゴリズムだし、迷った人に教える道順も、イケアの家具を組み立てるためのマニュアルも、自己啓発本もすべて広義のアルゴリズムになるとか。

でも、この本で扱うのは狭義のアルゴリズム、つまり数学によって計算した確率や統計で犯罪を予見したり、犯人が住んでいる地域を特定したり、車を自動運転したり、芸術を想像したりするアルゴリズムです。


アルゴリズム=AIは芸術を生み出せる⁉
著者は、機械が真の芸術を生み出せない理由として、『ゲーデル、エッシャー、バッハ』の著者、認知科学者のダグラス・ホフスタッターの言葉を紹介します。

「音楽を作れるプログラムは、それ自体が世界をさまよい、人生という迷路を果敢に進み、すべての瞬間を感じ取らなければならない。冷たい夜風の喜びと孤独、愛おしい手への切望、戻れない遠い町への郷愁、人の死への悲嘆とそこからの再生を理解しなければならない。あきらめと厭世、深い悲しみと絶望、決意と勝利、敬虔と畏怖を知らなければならない。(後略)」

私もつい昨日までほぼ同じようなことを思っていました。だからAIに芸術を生み出すことなど不可能だと。

しかし、ホフスタッターとこの本の著者ハンナ・フライは重大なことを見落としています。

鑑賞者です。

作品は、作曲し終わったとき、小説の最後の一文を書いて句点を打ったときに完成するのではありません。それを誰かに鑑賞してもらって初めて完成する。鑑賞者の解釈が加わって初めて芸術作品となる。

鑑賞者は人間です。その人間は、ホフスタッターが言うように、誰もが世界をさまよい、人生という迷路を果敢に進み、あきらめと厭世、深い悲しみと絶望、決意と勝利、敬虔と畏怖を知っていることでしょう。

AIが生み出したそれなりに筋の通った物語を読んだ鑑賞者は、人生という深淵を覗いた者として作品を完成させる。面白いじゃないか! という感想を述べる人はかなり多いと思われます。(もちろん、その作品をAIが書いたなんて絶対秘密にするという前提が必要ですが)

実際、この本でもある実験が紹介されています。

バッハが作った曲と大学教授が作った曲、コンピュータが作った曲を聴かせたら、大半の人がコンピュータが作った曲をバッハが作った曲だと勘違いしたとか。勘違いといっても、要は3つの曲のうちコンピュータが作った曲を一番上等だと思ったわけでしょう? ならAIに人を感動させる音楽を作らせることはもうとっくに可能です。著者がいくら「芸術とは計算でどうこうなるものではない」と言ったところで、鑑賞者という「人間」が関与してしまうのだからやっぱり作品は作れます。

もし鑑賞アルゴリズムなるものがあって、AIが作ったものをAIに鑑賞させたら「これは芸術ではない」なんて言い出すかもしれないけど、人間が鑑賞するなら作品は完成すると思う。

そんなのはいや?

しかし、最終的にその作品を完成させるのは「人間の間違い」ですよ。ヒューマンエラーが関与するんです。実に人間臭いじゃないですか。読んで面白いと思う、聴いて/見て美しいと思う。ヒューマンエラーがないかぎり作品は完成しない。それでいいと思う。


ヒューマンエラー
ヒューマンエラーといえば、日本はまだだと思いますが、アメリカなどではすでに裁判にアルゴリズムを導入しているらしく、判決や保釈の可否を計算させているとか。もちろん、その計算結果を採用するかしないかは個々の裁判官にゆだねられている。

もし人間の裁判官が自分だけの考えで判断を下すとすると、こんなひどい統計結果が出たそうです。

娘がいる裁判官は女性に有利な判決を下す。
贔屓のスポーツチームが負けると、裁判官は保釈を認めなくなる。
昼休憩から戻った直後は保釈を認め、休憩前は認めない場合が多い。

法治国家だ何だといったって、我々は気分で裁かれているわけです。

だから、裁判においてはアルゴリズムはもっと活用されるべき。だけど、偏見のない公正な判断を100%下せるわけもない。高確率で正しい判断を下せても完全じゃないなら? あなたはAIに判決を下されたいですか? いやだとしても、もうそういう時代が来ている。

顔認証アルゴリズムが凶悪犯と間違えて無関係の人を犯人と判断し、それを信用した警官隊に半殺しにされた事件もあったとか。顔認証アルゴリズムが間違う確率は1兆分の1とか。ほんと? その人は完璧なアリバイがあったにもかかわらず疑いが晴れるまでに仕事も家も失い、子どもに会う権利も失った。それでもアルゴリズムに犯罪捜査の一翼を担わせるのは妥当なのか。


人類を救ったソ連の軍人スタニスラフ・ペトロフ
最後に、アルゴリズムの間違いを見破った偉人の話を。

ソ連の軍人スタニフラス・ペトロフは、1983年9月26日、核戦争から地球を救った。

彼はアメリカが核爆弾で攻撃してきたとアルゴリズムが判断して警報が鳴ったら、ただちに上官に報告するよう命令されていた。

警報が鳴った。彼がもし生真面目な軍人ならすぐ上官に報告し、ソ連は報復としてアメリカに核弾頭を撃ちこみ、報復の連鎖で地球は滅亡していた。

しかしペトロフは賢い人だった。

ミサイルはたったの5発。もしアメリカが本当に核爆弾を撃ってきたのなら少なすぎないか?

結局ペトロフは上官に報告しなかった。もし本当にアメリカの攻撃ならソ連は大敗北を喫するところだったが、実際はアルゴリズムが間違えていた。

私はわからなくなる。

アルゴリズムによる芸術はヒューマンエラーによって完成する。
顔認証アルゴリズムに忠実に従った結果(つまりヒューマンエラーなし)とんでもない冤罪事件が起こった。
状況を冷静に判断してアルゴリズムの間違いを見ぬいて人類を救った人がいた。(これもヒューマンエラーなし)

じゃあ人間はどうすればいいの?

あるときは間違えたらいい。あるときはアルゴリズムに従え。あるときはアルゴリズムを疑え。

著者は書いています。

「アルゴリズムを悪者扱いしているのではない。未来は明るいと思える理由はいくらでもある」

明るい未来とは、アルゴリズムやAIを人間がちゃんと使いこなすならば到来する未来ということですね。平凡な結論ですけど。


関連記事
AI自動運転社会派実用化不可能・絶対無理と思う件





このエントリーをはてなブックマークに追加