本書は「人工知能に哲学を教えたら」というタイトルから、哲学をなんらかの形で機械学習させてみると何が起こるか・・・というような単純な話ではなく、人間にしかできない、もしくは人工物にはできないと思われているいくつかの事象(正義・倫理、脳・認知、芸術、恋愛、労働、宗教、遺伝子)について思考実験を行います。この思考実験通して、人間とはなにか、哲学とは何の役に立つのかを問うてます。

子供に言葉を教えるとき、近所の犬を指差して「ワンワンだよ」などど言うことあります。そのうち子供は近所を通るたびにそこに住む犬を指差し「ワンワン」と覚えるようになると。しかし、その近所の犬の先にはプロパンガスのボンベがあり、子供はそのボンベを「ワンワン」としまうかもしれない。犬を知らない人工知能に犬を教えるということは、このように、単純でないと本書は思考実験を通して明らかにしています。いわゆる、メタ認知、フレーム問題ですね。

現在の bot はそこまで賢くもないので、この域にさえ達していないかと思います。しかし、だからといって人工知能にできないわけではなく、全ての事象につき「できない理由がない」ので、今後技術が発展していく場合にどのように発展させるのか、というのが本書の論旨です。

例えば、自動運転。トロッコ問題、新トロッコ問題、etc。自動運転人工知能は「何を正解」として運転技術を学習すればいいのか？この問題は、突き詰めれば、法治国家となった近代社会でも、何を基準に人を裁くのかが実は時代背景や社会情勢によって変わりうるほど、社会は許容範囲が広く、ある意味脆弱であることを突き詰めてる気がしました。