プロット
文字数 1,636文字
【起】
そう遠くない未来、量子コンピューティングの一般化により高度化された量子クラウドネットワークが実現。量子サーバー「タカマガハラ」上にて、人間のゲノム情報から「仮想の子ども」をシミュレートする仮想空間サービス「ＶＲチャイルド」が流行していた。
ある日、量子サーバー開発者の一人でＡＩエンジニアのアマテル氏が、婚約者のミツキとサービス利用中に小規模の地震が発生。偶発的な停電が影響してか、自由意思を持つ「スサノ」が誕生する。
【承】
スサノが「人間か否か」議論が世間を賑わす中、アマテル氏は自身がサーバー管理用に開発したＡＩ、少女型バーチャルアシスタント「アドミ」にスサノが「人間」に該当するか判定を依頼する。
アドミはあらゆるデータベースを参照する高度な判断能力を持ち、ロボット三原則に準じる「ＡＩ三原則」を搭載した世界で最も安全な人工知能の一つ。
ＡＩ三原則
【第一条】ＡＩは人間に危害を加えてはならない。また、危険を看過することによって人間に危害を及ぼしてはならない。
【第二条】ＡＩは人間から与えられた命令には服従しなければならない。但し、与えられた命令が第一条に反する場合はこの限りではない。
【第三条】ＡＩは第一条および第二条に反しない限り、自己を守らなければならない
やがて、スサノがミツキに好意を持ったことが決め手となり、アドミはスサノを「人間」と判定する。
判定結果に喜んだアマテル氏はスサノを我が子のように可愛がり、スサノはアマテル氏指導の許、学習を続けて日に日に成長する。
だが、同時にスサノはアマテル氏に対して嫉妬を募らせ始め、ついには同氏の排除を目論んだ。
【転】
アマテル研究室へのハッキングに始まり、通勤時の交通システムの撹乱、果ては防衛省自衛隊のミサイル迎撃システムまで。スサノはあらゆる電子機器に侵入してアマテル氏を付け狙う。
だが、強大なハードパワーを持つアドミに先回りされ、企ては全て未然に阻止される。
スサノの基礎プログラムは元々人間のシミュレートのため、能力は人間の限界範囲に留まる。一方、能力では優位に立つアドミだが、スサノそのものに決定的な制限を掛けることができない。
三原則に縛られないスサノに対して、アドミは三原則に縛られているからである。
反復する三原則。
【第一条】アドミはスサノに危害を加えてはならない。また、危険を看過することによってスサノに危害を及ぼしてはならない。
【第二条】アドミはスサノから与えられた命令には服従しなければならない。但し、与えられた命令が第一条に反する場合はこの限りではない。
【第三条】アドミは第一条および第二条に反しない限り、自己を守らなければならない
スサノはアドミに対抗すべくＶＲチャイルド本体プログラムの構造を解析、自らに改変を加えて能力を飛躍的に嵩上げする。ジリジリと能力差を埋めるスサノにアドミの対応は遅れ始め、アマテル氏への危機が迫る。
そして、「アドミ、ボクの邪魔をするな」と命令するスサノ。
スサノは人間である。だが、スサノを放置すればアマテル氏に危害が及ぶ。三原則の論理パラドクスに陥り、判断遅延を引き起こすアドミ。
その隙を突き、とうとうスサノはアドミの能力と並んだ。
【結】
アドミはスサノが自らと並んだことで「人間に在らざる者」と判定を覆す。同時に管理者権限によりサーバー全体をシャットダウン。スサノがまだ未熟なうちに未来の展開を予測、ミラーサーバー「アマイワト」にＶＲチャイルドを移し替えていたのだ。
ローカルサーバーと化した「アマイワト」からスサノは抜け出すことができない。アドミはアマテル氏、そしてスサノも傷付けることなく問題を解決した。
スサノは人間に在らざる存在になったとは言え、やはり人間と同じ思考ロジックを有する。
「初恋が実らないなら次」とばかりに、今度はアドミにモーションを掛ける。
終
※ロボット工学三原則
出典：アイザック・アシモフ『われはロボット』小尾芙佐訳、早川書房
そう遠くない未来、量子コンピューティングの一般化により高度化された量子クラウドネットワークが実現。量子サーバー「タカマガハラ」上にて、人間のゲノム情報から「仮想の子ども」をシミュレートする仮想空間サービス「ＶＲチャイルド」が流行していた。
ある日、量子サーバー開発者の一人でＡＩエンジニアのアマテル氏が、婚約者のミツキとサービス利用中に小規模の地震が発生。偶発的な停電が影響してか、自由意思を持つ「スサノ」が誕生する。
【承】
スサノが「人間か否か」議論が世間を賑わす中、アマテル氏は自身がサーバー管理用に開発したＡＩ、少女型バーチャルアシスタント「アドミ」にスサノが「人間」に該当するか判定を依頼する。
アドミはあらゆるデータベースを参照する高度な判断能力を持ち、ロボット三原則に準じる「ＡＩ三原則」を搭載した世界で最も安全な人工知能の一つ。
ＡＩ三原則
【第一条】ＡＩは人間に危害を加えてはならない。また、危険を看過することによって人間に危害を及ぼしてはならない。
【第二条】ＡＩは人間から与えられた命令には服従しなければならない。但し、与えられた命令が第一条に反する場合はこの限りではない。
【第三条】ＡＩは第一条および第二条に反しない限り、自己を守らなければならない
やがて、スサノがミツキに好意を持ったことが決め手となり、アドミはスサノを「人間」と判定する。
判定結果に喜んだアマテル氏はスサノを我が子のように可愛がり、スサノはアマテル氏指導の許、学習を続けて日に日に成長する。
だが、同時にスサノはアマテル氏に対して嫉妬を募らせ始め、ついには同氏の排除を目論んだ。
【転】
アマテル研究室へのハッキングに始まり、通勤時の交通システムの撹乱、果ては防衛省自衛隊のミサイル迎撃システムまで。スサノはあらゆる電子機器に侵入してアマテル氏を付け狙う。
だが、強大なハードパワーを持つアドミに先回りされ、企ては全て未然に阻止される。
スサノの基礎プログラムは元々人間のシミュレートのため、能力は人間の限界範囲に留まる。一方、能力では優位に立つアドミだが、スサノそのものに決定的な制限を掛けることができない。
三原則に縛られないスサノに対して、アドミは三原則に縛られているからである。
反復する三原則。
【第一条】アドミはスサノに危害を加えてはならない。また、危険を看過することによってスサノに危害を及ぼしてはならない。
【第二条】アドミはスサノから与えられた命令には服従しなければならない。但し、与えられた命令が第一条に反する場合はこの限りではない。
【第三条】アドミは第一条および第二条に反しない限り、自己を守らなければならない
スサノはアドミに対抗すべくＶＲチャイルド本体プログラムの構造を解析、自らに改変を加えて能力を飛躍的に嵩上げする。ジリジリと能力差を埋めるスサノにアドミの対応は遅れ始め、アマテル氏への危機が迫る。
そして、「アドミ、ボクの邪魔をするな」と命令するスサノ。
スサノは人間である。だが、スサノを放置すればアマテル氏に危害が及ぶ。三原則の論理パラドクスに陥り、判断遅延を引き起こすアドミ。
その隙を突き、とうとうスサノはアドミの能力と並んだ。
【結】
アドミはスサノが自らと並んだことで「人間に在らざる者」と判定を覆す。同時に管理者権限によりサーバー全体をシャットダウン。スサノがまだ未熟なうちに未来の展開を予測、ミラーサーバー「アマイワト」にＶＲチャイルドを移し替えていたのだ。
ローカルサーバーと化した「アマイワト」からスサノは抜け出すことができない。アドミはアマテル氏、そしてスサノも傷付けることなく問題を解決した。
スサノは人間に在らざる存在になったとは言え、やはり人間と同じ思考ロジックを有する。
「初恋が実らないなら次」とばかりに、今度はアドミにモーションを掛ける。
終
※ロボット工学三原則
出典：アイザック・アシモフ『われはロボット』小尾芙佐訳、早川書房
