優れた考察だが議論に飛躍があり結論は疑問

本書は、
大変に面白い本である。
AI技術の到達点や現状を説明したものではなく、
これからAIが我々の社会をどう変えてゆくかを深く鋭く考察している。
AIが「人間の一部の能力をより高く実現するだけでなく、
人間の能力を一つも漏らすことなく身につける」(p12)ようになった段階は「シンギュラリティ」と呼ばれるが、
シンギュラリティに達したAIは、
人間よりずっと能力が高いので、
認識や推論能力だけでなく、
問題を解決するための意思決定も人間以上に適切にできる。
その理由は、
AIは自分が欲望したり感情をもったりしないので、
感情に引きずられる人間と違って、
最善の選択肢を冷静に判断できるからである。
だから政治も経済も、
人間が判断するのではなくAIにすべて任せよう、
民主主義は衆愚政治に陥るから、
プラトンの哲人政治の新バージョン、
哲人の代りにAIに世界を治めていただくのが最善である、
というのが本書の主旨である。
碁や将棋の名人よりもAIが強くなった今日、
AIこそが問題解決の最適解を見つけられるという著者の主張には、
一定の説得力があるように見える。
医者の診断、
裁判の判定、
マーケティング、
工業製品の検査など、
AIはビッグデータをもとに、
人間には及びもつかない数の事例をもとに帰納を行い、
そこに規則性を発見し(ベイズ主義にもとづく確率論)、
仮説を立て、
それが正しいかどうかを演繹的にも確かめながら、
因果関係の認識や将来の予測も正確に行う。
これはその通りである。
しかし、
人間の価値観や利害関係が衝突する政治的な意思決定を、
同じようにAIができるというのは間違いである。
「最適な選択肢を意思決定できる」と著者は言うが、
立場が違えば「何が最適か、
何が最善か」が違うのだから、
価値の優先順位をあらかじめ基準としてAIにインプットしておかなければ、
意思決定はできない。
だから著者は、
「AIのプログラムの根幹に、
後から改変をほどこせないような＜正しい意志＞をあらかじめ埋め込んでおかねばならない」(p219)と言う。
しかしこれは、
AIの「自己学習」とは矛盾する話ではないか。
帰納と法則認識による最適解の決定能力は、
碁や将棋のようなゲームでは有効であり、
特定の立場に立つ個人の功利主義的な意思決定にはAIは有効であろう。
しかし倫理的な行為における意思決定はまったく違う。
なぜなら、
倫理的行為の本質は、
違った価値観と優先順位と利害関係に立つ