以下は、Temppの妄言を多分に含むので、あまり真面目に受け止めてほしくない気持ちもあるのだけど、「シンギュラリティによってAIが心を持つ存在になるかどうか」という観点のお話をしたいな。

2045年問題からインスパイアされたSF、例えばターミ★ーターとかのディストピアものは、人間の意思とAIの意思が乖離することによって人間がAIの支配下に置かれる、又はAIが人間を虐殺しないかという心配をしている。

シンギュラリティが来る派の人と来ない派の人がいる。

シンギュラリティが来ないと主張する人の論は、結局のところAIはビッグデータを処理するための計算機にすぎなくて、もともとのアルゴリズムから抜け出せないというパターンが多い。例えば前回書いたRNNによって、ビッグデータからAIが新聞を書いたりすることは将来できるようになると思うんだけど、それがAI自身の意思に基づくものかといえばそうではなく、ただ無作為の言葉の羅列をデータに従って打ち出してるだけだという。

Temppも実際、「シンギュラリティによってAIが心を持つ存在になるかどうか」という意味では否定派かな、やっぱりどこまでいっても想定された設定から抜け出せないと思う。

でも、人間を超える人工知能が人間を管理したり虐殺したりする未来は十分ありえる。それは何故かというと将来的にそういう指向性を持つアルゴリズムを作ればいい。そうすれば、人工知能は心を持たないまま人を管理し虐殺する。それは別におかしなことじゃなくて、普通の人の行為の延長。シンギュラリティ賛成派は何故かAIのせいにしたがる人が多い気がするが、もともとプログラムを組んだ奴の問題じゃないかなと思う。だからロボット三原則とかは必須なんだよな、多分。この辺までくると人間工学の話になるな。