“いい人”ロボットの作り方

　日本の鉄腕アトムやドラえもんは人間より人間らしい正義漢だが，アメリカの映画に出てくるロボットは容赦なく人間を殺戮するモンスターであることが多い。だから，というわけではないのだろうが，「いい人」の行動原則をプログラムされた初のロボットが，このほどアメリカで誕生した。

　高齢者支援ロボットNAOは，薬の時間が来ると知らせてくれるが，たとえ薬をのまなくても，すぐに医師に言いつけたり，しつこく言い続けたりはしない。こちらの決定を尊重してくれる。だが，飲まないと深刻な事態に陥る危険が迫っている時は別だ。ただちに医師に連絡する。

　NAOがこうした複雑な判断を下すことを可能にしたのは，著者らが開発した倫理プログラムだ。コンピューター科学者のマイケルと応用倫理学者のスーザンは，ロボットが「薬を服用させる」「健康被害を防ぐ」「自己決定権を尊重する」という3つの義務のバランスを考慮して，最適な判断を下せるようにした。判断の基準となる「倫理原則」は，過去の様々な事例から，人工知能が機械学習によって抽出した。

　人の気持ちがわからないロボットに倫理的な判断はできない，との意見も根強いが，一方，人間だと逆に情におぼれ，倫理的な判断ができないこともある。他人の気持ちや公平性を考慮して適切な判断を下すロボットは実現可能で，そんなロボットから人間が正しい振る舞いを教えてもらう時代が，いずれ来るかもしれない，と著者らはみている。