結局、人口知能は人間を超えるのか。それは怖いことなのか。人口知能は人間を超えるかレビューその４

2016年5月19日

（今回は特に「この本読んで考えたこと」になっており
本の内容は半分くらい）

〈前回からの続き〉
これまで見てきた仕組みを踏まえると、
特定の技術や分野において、
人口知能が人間を超えるのは間違いない。

その上で、「超えること」を脅威と受け取るタイプにも
どうやら二種類ある。

ひとつは、仕事を取られる、というタイプ。
まあこれは、起きうるし、仕方ないこと。
今までだって機械に取られて来た仕事は沢山ある。

問題は二番目。
コンピューターが人間を超えて意志を持ったら、人類を支配するとかそーゆうやつです。

これは本当に起きうるのか。
本書では、自己再生産の難しさと
「生命を持たせる難しさ」から、
まだ起きないだろうと言われています。

まあ本当に起きうるのか、本当に難しいのかは
現時点では答が出てないので、
専門家の方々に任せるとして。

私は、ちょっと想像をしてみようと思います。

人口知能による世界征服とかを考える時、
本能とか欲、意志の話になってくる。

つまり、コンピューターが意志をもったら危ない
という論。

意志、欲、本能を持ちうるか。
本能はまあ、あらかじめプログラムすれば
持ちうるでしょうね。
あとふたつはわからない。

わからないけど。

もし、征服欲とか、悪意なんかを学習しうるとしたら。
わざわざ悪意を教えるやつなんていないよ。

とは思いますが。
自分で学習してて、
たまたま悪意を獲得してしまう可能性はある。
だって、教材はデジタルになってあふれてる。

そう。インターネット上に。

何でも曲解して難癖つける人。
陰謀論を振りかざす人。
マウントポジションの取りあい。
罵詈雑言、脅迫、侮蔑。

例えばTwitterのテキストを元に
コンピューターが学習したら、
悪の存在は産まれる可能性高いと思う。
リアル世界では誰も言葉に出さないような、
つまり教えるつもりがないほどの悪意も
会得できてしまうんだ。

結局、人間の脅威は人間なんですね。
（終わり）