日経サイエンス  2011年1月号

“いい人”ロボットの作り方

M. アンダーソン(ハートフォード大学) S. L. アンダーソン(カリフォルニア大学ロサンゼルス校)

 日本の鉄腕アトムやドラえもんは人間より人間らしい正義漢だが,アメリカの映画に出てくるロボットは容赦なく人間を殺戮するモンスターであることが多い。だから,というわけではないのだろうが,「いい人」の行動原則をプログラムされた初のロボットが,このほどアメリカで誕生した。

 高齢者支援ロボットNAOは,薬の時間が来ると知らせてくれるが,たとえ薬をのまなくても,すぐに医師に言いつけたり,しつこく言い続けたりはしない。こちらの決定を尊重してくれる。だが,飲まないと深刻な事態に陥る危険が迫っている時は別だ。ただちに医師に連絡する。

 NAOがこうした複雑な判断を下すことを可能にしたのは,著者らが開発した倫理プログラムだ。コンピューター科学者のマイケルと応用倫理学者のスーザンは,ロボットが「薬を服用させる」「健康被害を防ぐ」「自己決定権を尊重する」という3つの義務のバランスを考慮して,最適な判断を下せるようにした。判断の基準となる「倫理原則」は,過去の様々な事例から,人工知能が機械学習によって抽出した。

 人の気持ちがわからないロボットに倫理的な判断はできない,との意見も根強いが,一方,人間だと逆に情におぼれ,倫理的な判断ができないこともある。他人の気持ちや公平性を考慮して適切な判断を下すロボットは実現可能で,そんなロボットから人間が正しい振る舞いを教えてもらう時代が,いずれ来るかもしれない,と著者らはみている。

著者

Michael Anderson / Suzan Leigh Anderson

マイケルはハートフォード大学コンピューターサイエンス学科准教授。コネティカット大学でPh.D.を取得し,長年,人工知能の研究に携わっている。スーザンはコネティカット大学哲学科名誉教授。カリフォルニア大学ロサンゼルス校でPh.D.取得,専門は応用哲学。2人は2005年に開催された第1回マシン・エシックス国際会議の主催者側として名を連ねた。近くマシン・エシックスに関する著書を出版する予定。

原題名

Robot Be Good(SCIENTIFIC AMERICAN October 2010)

サイト内の関連記事を読む

キーワードをGoogleで検索する

AIアシモフチャペックヒューマノイドプリマ・ファキエマシン・エシックスロボットロボット三原則人工知能倫理原則機械学習行為功利主義