11月21日、警備ロボットがエレベーターの入り口をふさぎ、エレベーターに乗っていた人がエレベーターから出られなくなるという事件があった。SNSやネットニュースで話題になったのでご存じの方が多いであろうが、ここで少し詳しく状況を説明しておきたい。
以下のtogetterに動画がアップされている。
https://togetter.com/li/1807799
読み進めるとシステムに詳しい人の書き込みがあるのでその時の状況が分かりやすい。
製造メーカーはシステムについて以下のように説明している。
『弊社ロボットは自社のクラウドシステムとエレベーターメーカーのクラウドシステムを介してエレベーター連動を行っています。エレベーターメーカーのクラウドシステムは、お客様とロボットの相乗り状態を避けるため、ロボットとの連動中はエレベーターを専有運転に切り替えます。専有運転時は、お客様によるかご内のボタン操作は出来なくなり、エレベーターがロボットの乗車するフロアに移動します。弊社のクラウドシステムが、エレベーターメーカーのクラウドシステムに、ロボット専有運転モードへの移行をリクエストした後に、エレベーターメーカーのクラウドシステム側でかご内が無人だと判断したときに、エレベーターは専有運転に切り替わります。』
『当該事象は、かご内にお客様が乗車していたにもかかわらず、エレベーターがロボット専有運転に切り替わり、有人状態のエレベーターへロボットが乗車を試みたことが発端となっています。』
この説明のままだとエレベーターメーカーのクラウドシステムの動作がおかしいことになる。有人のかごをエレベーターシステムが占有運転モードにしたと言っているからである。
この説明には情報が不足している。まず、どのタイミングで占有運転モードへの切り替えをロボットがリクエストしたかが書かれていない。ロボットがエレベーターの前で停止する前にリクエストを出し、占有モードになったという応答を得てからエレベーターの前に移動して待機したのであればロボット側に問題はない。ロボットがエレベーターの前に停止してからリクエストしたのであればロボット側にも問題がある。
エレベーターメーカーのシステムがエレベーターを占有運転に切り替えたはタイミングが書かれていないので、ここから先は私の妄想である。乗客がかご内にいる状態で占有運転モードに切り替えるようなシステム設計は考えられないので、占有運転モードに切り替えてから乗客が乗ってきたということになる。占有運転モードになったら乗客はかご内ボタンの操作ができないと書かれているが、フロアボタンの操作ができるかどうかは書かれていない。写真を見る限りエレベーターは複数台あるようなのでフロアのボタンはどれも操作可能であろう。正確な判断はできないが、かごが占有モードになっているのに乗客が占有運転モードになったかごがあるドアのフロアボタンを押し、それに従って占有運転モードのかごのドアが開き乗客が乗り込んだということになる。これだと明らかにエレベーター側のシステムの動作に問題があると言わざるを得ない。
あるいは、乗客が待つフロアに無人のかごが停止しているタイミングでシステムが無人と判断し占有運転モードに切り替えたのだが、無人と判断してからモードが切り替わるまでには時間が少々あり、たまたま切り替わる直前にフロアボタンが押されたためドアが開いたということも考えられる。この場合も時間差を考慮しなかったエレベーター側のシステムに問題がある。足の不自由な乗客だったので介護者がフロアボタンを押し続けて時間をかけて乗客が乗り込んだということになる。ボタンを押し続けている間に占有運転モードに切り替わったのであろう。乗った後にあとにかご内ボタンは操作できなくても、エレベーターはロボットが待つフロアに自動的に移動し、この事件が起こったということになる。
エレベーターを動かす前に再度有人かどうかを確認し、有人だったらドアを開けて乗客に降りるように案内するのが不親切だが安全である。ここで占有運転モードを解除するという選択肢は考えられない。どこかの階でロボットが入り口をふさいだままかもしれないからである。占有運転モード解除の連絡をロボットに送るのもロボット側のシステムが複雑になるので問題につながりやすい。乗客の便利ではなく安全を最優先にすべきである。
ロボットが人間の生活空間で動き回ることがこれからますます増えるであろう。この事件はこう言った事態に対処する法整備の必要性を示唆している。産業分野では労働安全衛生法が産業ロボットと人との協働作業が可能となる安全基準を規定している。しかし公共の場所でのロボットと人との共同作業の安全性について規定している法律の存在を、不勉強のせいかもしれないが、私は知らない。
EUでは機械指令を機械規則に変える提案がなされている。提案の理由の一つに以下の問題点を挙げている。
現行の機械指令は以下の問題点をカバーしていない。
・人間とロボットの直接協働による潜在的なリスク
・自律型機械と遠隔監視ステーションに関するリスク
・ソフトウェアのアップデートが、市場に投入された後の機械の「動作」に影響を与えること
奇しくも今回明らかになった問題点を取り上げているのだ。つまり、今回の事件は予測できたということである。日本も法律の整備を急ぐべきだ。