『人工知能は人間を超えるか～ディープラーニングの先にあるもの～』を読んだ。しっかりと地に足が着いている印象。それでいて、平易で分かりやすい。人工知能の発展の歴史と今後の可能性を概観できた。ポイントはディープラーニング。最近よく見かけるし、気になって少し調べて見たし、Rでサンプルを動かしてもみたくせに、それでもいまいち分からなくてモヤモヤしていたのが、この本を読んでようやく基本的なアイディアとその意義が理解できた（気がする）。
ディープラーニングの最大の意義は、特徴表現自体を学習できるようになったこと。おかげで、人間が与えないといけない情報が大幅に削減された上に、人間が手間暇掛けて特徴表現をチューニングするより遙かに高い性能の人工知能（画像分類プログラム）ができるようになった。
面白いのは、個々のアイディア自体は昔からあったこと。ざっくりいうと、ディープラーニングは非線形にした主成分分析を多段に組んだニューラルネットワークということらしい。頑健性（ロバストネス）を増すため、学習データにノイズを加えるアイディアもリサンプリング手法にあったはず（平滑化ブートストラップ？）。
先日読んだSF小説『ゼンデギ』でも人工知能を扱っているけれど、目指している方向が対称的。『ゼンデギ』ではあくまで人間を仮想化することをターゲットにしているから人間の認識の枠組み（≒特徴表現）を模しているのに対して、ディープラーニングでは人工知能自体が特徴表現を学習するので全くことなる認識をすることになる。それにまず受け取っている情報が違う。
そもそも、センサー（入力）のレベルで違っていたら、同じ「特徴量」になるはずがない。ただ、これって異なる生物どうしや人間どうしでさえも起こっていること。『波の手紙が響くとき』に登場した全盲だけれど音の反射で周囲を認識していた人にも、実在のモデルがいる。
人工知能固有なのは、哲学・倫理の問題だと思う。これは『ゼンデギ』でも大きなテーマだった。できるからといってやっていいことにはならないけれど、新しいことができるようになったら試したくなるよなぁ。
心を持つ（あるいは一見すると心を持つように見える）人工知能をつくってよいかどうかというのは、大きな論点である。この点を考えておかないと、人工知能に恋愛感情を抱いてしまう、人工知能プログラムを停止させてよいかで争いが起きるなど、さまざまな問題を誘発する可能性がある。
今のところ、「AI効果」で問題になっていないようだけれど、そこまでは遠くない未来に。