ワタシとヒトの外見以外の違いは何なのでしょうか？ 介護ロボットのリタはそう問うた。
1人暮らしをしていた浅沼敬造が突然死した。
敬造は心臓にペースメーカーを埋め込んでいたが、300MHz以上の高周波で誤作動を起こす可能性があるものだった。
一方、敬造を介護していたロボットのリタには、400MHzの高周波を発生させる機能がついており、敬造が突然死した時刻にその高周波を発したログが残されていた。
検察は、リタを起訴するが…
中山七里さんの『被告人、AI』を読みました。
あらすじ
心臓にペースメーカーを埋め込んだ浅沼敬造が突然死した。
敬造が使用するペースメーカーは300MHz以上の高周波で誤作動を起こす可能性がある機種だったが、敬造を介護する介護ロボットのリタには、400MHzの高周波を発生させる機能が搭載されており、敬造がなくなった時間にその高周波を発生させたログが残されていた。
リタは敬造殺害を否認するが、検察はリタを殺人罪で起訴する。
感想
事件ものとして読むと、正直時間の無駄と思えてしまう作品でした。
中山七里さんは必死で隠そうとしていたようですが、リタが高周波を発した理由は序盤から明らか。
にも関わらず、長々と引っぱられて、結局予想どおりの結論に…
最後に一捻りありましたが、それも取って付けたような話で、さして驚くほどのものではなかったし…
この作品の価値は、AIをはじめとするロボットが人に危害を加えた時に、どう処理をすれば良いのか？というところに一石を投じたことにあると思います。
作品中で何度も取り上げられたロボット工学3原則、
1. ロボットは人間に危害を加えてはならない
2. 第1原則に反しない限り、人間の命令に従わなくてはならない
3.第1、第2原則に反しない限り、自身を守らなければならない
に反した場合、責任の所在はどこにあるのか？という点ですね。
はじめからガチガチにプログラミングされたロボットなら、製造者責任が問われるのでしょうが、AIは自ら学習していくので、製造者の思いもよらない知識を得て行動する可能性があるわけです。
この時、誰の責任になるのかが、明確になっていませんよね。
また、トロッコ問題という単純な問題にすら、まだ答えが出ていないのに、介護ロボットによる事故や、自動運転の車による事故をどう裁けば良いのか、法整備が進まないうちに技術のみが先走っている状況に警鐘を鳴らす目的があるのかなと感じました。
ちなみに、トロッコ問題とは、トロッコが暴走してしまい、線路の先には3人の作業員が。3人の作業員を救うためには途中のポイントを切り替えれば良いのですが、ポイントを切り替えると、別の1人の作業員が犠牲になるという状況で、ポイントを動かすべきか否かという問題です。
犠牲者を少なくなくするのが正なのか、何もしなければ犠牲にならなかった人を救うのが正なのかというジレンマですね。
ミステリとして読むには物足りなさを感じましたが、意志を持った機械が人に危害を加えた時、どう対処すれば良いのか？という話を整理するには、面白い作品かもしれません。
コメント