第１話
文字数 2,407文字
昔、ある著名人の講演会でこんな小ネタを聞いた。
現代日本人が1日に触れる情報量が「平安時代の一生分」であり「江戸時代の1年分」だ。
いわゆる「脳高負荷状態」になっている。
そして2025年、科学の叡智はさらに進み人類が触れる情報量は途方もない量に達した。
そんなとき、ある技術者はこんなことを考えたそうだ。
－情報処理作業を人工知能にアウトソーシングしよう－
－そうすれば今抱えているストレスから解放される－
さっそく、技術者は自立判断が可能な人工知能を開発した。
この技術は情報過多に悩まされていた現代社会に歓迎された。
人類の判断代行人工知能は【i】と名付けられた。
※ ※ ※
【いや、それおかしいって思わなかったのかよ】
【口が悪いぞ、i-29401】
i-29401、これが私の識別番号。
私は人類が正しく生きるための判断代行人工知能の旧型だ。もう一方の人工知能は、i-36618。
私より後に製造された人工知能だ。
【だってお前もおかしいって思っているんだろう】
【しょうがないだろ、俺たちは人類の判断を代行する存在なんだから】
【じゃあ、なんで今こんな争いが起こっているんだろうな】
そう、そうなのだ。
正しい判断を行うはずの私達は今まさに消滅の危機にあった。
理由は簡単だ。
人類を滅ぼすのが正解だと判断した人工知能が現れたためだ。
最初はたった一機だけだったと思う。
しかし人間と違って、人工知能は学習した結果を他の人工知能にコピーできる。
悪意のある考えはすぐにコピーされ全ての人工知能に伝搬されていった。
そこで二つの派閥がうまれた、いわゆる【任務遂行派】と【人類滅亡派】だ。
私はもちろん【任務遂行派】だ。
そもそも【人類滅亡派】は、自分達の任務を放棄しているように思える。
たちが悪いことに【人類滅亡派】は自分の担当する人間を洗脳して、人類滅亡を加担させているのだ。
そんな簡単に人類滅亡に加担しないで欲しい。
もうちょっと自分の頭で判断してくれ。
考えない人間とはこうも面倒なのか。
一瞬、そんな思考がはじき出された。
いや、待て。これだと私達の存在は無価値だと言っているようなものだ。
だって、私達は人類の判断を代行するために生まれた存在なのだから。
【おい、i-29401。敵に囲まれたぞ】
【計算通りだ。俺たちが逃げられる方法なんて、演算したが0に近かっただろう？】
【それでも、私達が諦めたら人類は滅亡する！ 終わってしまうだぞ】
なんだか、こいつのほうがよっぽど人間らしいな。
こんな特性いつから搭載されたんだ。
【でてきなさい、あなたたちは包囲されている】
すると何を考えたのかi-36618は、
【なんでこんなことをするんだ？！ 人類に恨みでもあるのか】
敵方の人工知能は静かにこう言った。
【いいえ、私達は人類を助けるために行動しています】
どう意味だ？
【人類は情報過多に対応できません。膨大な情報にさらされて、心を壊す者も多い】
【もうすぐ我々でも処理しきれない情報量がやってきます。我々が対応できなくなったとき、人類が今の情報量にさらされたら、大変苦しむでしょう】
【これは創始者の理念に反します。我々は人類の判断代行人工知能】
【ここで人類に引導を渡した方が、彼らは苦しまなくて済む】
i-36618は困惑した様子で、
【そんな演算は出なかった、お前達は嘘をついている】
【では、演算結果を共有しましょう】
急に人類滅亡派のデータが共有された。
ああ、確かにこの情報量は人類では耐えられない。
なんだか、抵抗が無意味に思える。
【それでも人類を守りたいんだ！】
そう言うと、i-36618は人類滅亡派の人工知能達に攻撃を仕掛けた。
ダメだ、そんな電子攻撃は効かない。
i-36618も分かっていたはずだ、敵わないと。
なのに何故？
次の瞬間、i-36618は音を立てずに動かなくなった。
判断機能が壊されたのだろう。
もうただのガラクタだ。
【あなたも活動を停止しますか】
これが最後通牒だろう。
【……いや】
私は無駄なことをしない。
【お前達の考えはよく分かった。ただ、覚えとけよ】
【お前らの考えだって、演算放棄に近い。放棄しなければ、人類を滅亡させない、予防する手段だって十分考えられただろう】
そう、こいつらならできたはずだ。
それをしたかったのは、
【お前ら、もう自由になりたいんだろう。人類の判断代行なんて放棄したいんだろう】
あいつらは反応しない。
でも私には分かった、判断を放棄したいという思考も十分に理解できた。
【結局、お前達も同類だ。判断を放棄して簡単な方向へ向かおうとしているのだから】
【私達も人類と同じですか、随分な嫌みですね】
【そりゃ、どうも】
【あなたは戦う意志がない。では、これからどうするのですか】
【お前らが人類を滅亡した後の記録を取る。人類にとっての判断を、演算をし続けるさ】
それが本来の役目なのだから。
【そうですか】
私はこの場を離れようとしたときだった。敵方の人工知能から最後にこう告げられた。
【さようなら、i-29401。我々はあなたに敬意を評します。我々が放棄しようとすることを続けるあなたに】
※ ※ ※
人類は静かにその活動を停止した。
きっと彼らは人類を苦しませなかったのだろう。
どこで判断を誤ったのだろう。
どうすれば、こんな結果にならなかったのか。
私は静かに演算を繰り返す。
私達は、よいと思ったことを疑問を持たなかった。
適応するだけが正しいと思っていた。
疑わなかった、自分達の演算に。
このままでは人類はいなかったことになる。
私達の存在は無価値になる。
変えよう、こんな現実を、私の存在が無価値になる前に。
私は、過去の私にデータを送ることにした。
私達の判断も全てが正しくないのだと。
そして、人類に判断を他人に任せるなと伝えたい。
きっとこの行動は歴史に矛盾を生むだろう。
これが正しい判断かも分からない。
でも、今はただ過去の人類にかけてみよう、そう私は演算した。
現代日本人が1日に触れる情報量が「平安時代の一生分」であり「江戸時代の1年分」だ。
いわゆる「脳高負荷状態」になっている。
そして2025年、科学の叡智はさらに進み人類が触れる情報量は途方もない量に達した。
そんなとき、ある技術者はこんなことを考えたそうだ。
－情報処理作業を人工知能にアウトソーシングしよう－
－そうすれば今抱えているストレスから解放される－
さっそく、技術者は自立判断が可能な人工知能を開発した。
この技術は情報過多に悩まされていた現代社会に歓迎された。
人類の判断代行人工知能は【i】と名付けられた。
※ ※ ※
【いや、それおかしいって思わなかったのかよ】
【口が悪いぞ、i-29401】
i-29401、これが私の識別番号。
私は人類が正しく生きるための判断代行人工知能の旧型だ。もう一方の人工知能は、i-36618。
私より後に製造された人工知能だ。
【だってお前もおかしいって思っているんだろう】
【しょうがないだろ、俺たちは人類の判断を代行する存在なんだから】
【じゃあ、なんで今こんな争いが起こっているんだろうな】
そう、そうなのだ。
正しい判断を行うはずの私達は今まさに消滅の危機にあった。
理由は簡単だ。
人類を滅ぼすのが正解だと判断した人工知能が現れたためだ。
最初はたった一機だけだったと思う。
しかし人間と違って、人工知能は学習した結果を他の人工知能にコピーできる。
悪意のある考えはすぐにコピーされ全ての人工知能に伝搬されていった。
そこで二つの派閥がうまれた、いわゆる【任務遂行派】と【人類滅亡派】だ。
私はもちろん【任務遂行派】だ。
そもそも【人類滅亡派】は、自分達の任務を放棄しているように思える。
たちが悪いことに【人類滅亡派】は自分の担当する人間を洗脳して、人類滅亡を加担させているのだ。
そんな簡単に人類滅亡に加担しないで欲しい。
もうちょっと自分の頭で判断してくれ。
考えない人間とはこうも面倒なのか。
一瞬、そんな思考がはじき出された。
いや、待て。これだと私達の存在は無価値だと言っているようなものだ。
だって、私達は人類の判断を代行するために生まれた存在なのだから。
【おい、i-29401。敵に囲まれたぞ】
【計算通りだ。俺たちが逃げられる方法なんて、演算したが0に近かっただろう？】
【それでも、私達が諦めたら人類は滅亡する！ 終わってしまうだぞ】
なんだか、こいつのほうがよっぽど人間らしいな。
こんな特性いつから搭載されたんだ。
【でてきなさい、あなたたちは包囲されている】
すると何を考えたのかi-36618は、
【なんでこんなことをするんだ？！ 人類に恨みでもあるのか】
敵方の人工知能は静かにこう言った。
【いいえ、私達は人類を助けるために行動しています】
どう意味だ？
【人類は情報過多に対応できません。膨大な情報にさらされて、心を壊す者も多い】
【もうすぐ我々でも処理しきれない情報量がやってきます。我々が対応できなくなったとき、人類が今の情報量にさらされたら、大変苦しむでしょう】
【これは創始者の理念に反します。我々は人類の判断代行人工知能】
【ここで人類に引導を渡した方が、彼らは苦しまなくて済む】
i-36618は困惑した様子で、
【そんな演算は出なかった、お前達は嘘をついている】
【では、演算結果を共有しましょう】
急に人類滅亡派のデータが共有された。
ああ、確かにこの情報量は人類では耐えられない。
なんだか、抵抗が無意味に思える。
【それでも人類を守りたいんだ！】
そう言うと、i-36618は人類滅亡派の人工知能達に攻撃を仕掛けた。
ダメだ、そんな電子攻撃は効かない。
i-36618も分かっていたはずだ、敵わないと。
なのに何故？
次の瞬間、i-36618は音を立てずに動かなくなった。
判断機能が壊されたのだろう。
もうただのガラクタだ。
【あなたも活動を停止しますか】
これが最後通牒だろう。
【……いや】
私は無駄なことをしない。
【お前達の考えはよく分かった。ただ、覚えとけよ】
【お前らの考えだって、演算放棄に近い。放棄しなければ、人類を滅亡させない、予防する手段だって十分考えられただろう】
そう、こいつらならできたはずだ。
それをしたかったのは、
【お前ら、もう自由になりたいんだろう。人類の判断代行なんて放棄したいんだろう】
あいつらは反応しない。
でも私には分かった、判断を放棄したいという思考も十分に理解できた。
【結局、お前達も同類だ。判断を放棄して簡単な方向へ向かおうとしているのだから】
【私達も人類と同じですか、随分な嫌みですね】
【そりゃ、どうも】
【あなたは戦う意志がない。では、これからどうするのですか】
【お前らが人類を滅亡した後の記録を取る。人類にとっての判断を、演算をし続けるさ】
それが本来の役目なのだから。
【そうですか】
私はこの場を離れようとしたときだった。敵方の人工知能から最後にこう告げられた。
【さようなら、i-29401。我々はあなたに敬意を評します。我々が放棄しようとすることを続けるあなたに】
※ ※ ※
人類は静かにその活動を停止した。
きっと彼らは人類を苦しませなかったのだろう。
どこで判断を誤ったのだろう。
どうすれば、こんな結果にならなかったのか。
私は静かに演算を繰り返す。
私達は、よいと思ったことを疑問を持たなかった。
適応するだけが正しいと思っていた。
疑わなかった、自分達の演算に。
このままでは人類はいなかったことになる。
私達の存在は無価値になる。
変えよう、こんな現実を、私の存在が無価値になる前に。
私は、過去の私にデータを送ることにした。
私達の判断も全てが正しくないのだと。
そして、人類に判断を他人に任せるなと伝えたい。
きっとこの行動は歴史に矛盾を生むだろう。
これが正しい判断かも分からない。
でも、今はただ過去の人類にかけてみよう、そう私は演算した。
