
人間よりも賢いコンピューターを作るとまずいのではないか,という厄介な疑念から逃れるのは難しい。機械が邪悪な意識を自然に発達させて殺人ロボット軍団を指揮するというハリウッド流の筋立ては完全にばかげているものの,うっかりすると,人間の目的と矛盾する目的を持ったスーパー知能マシンと対立することになりかねない。人間の目的と対立せず,その振る舞いに私たちが必ず満足できるようなAIシステムを設計できないだろうか? 決して容易ではないが可能だと著者はいう。
再録:別冊日経サイエンス239「人工知能 機械学習はどこまで進化するのか」
再録:別冊日経サイエンス231「アントロポセン──人類の未来」
再録:別冊日経サイエンス216「AI 人工知能の軌跡と未来」
著者
Stuart Russell
カリフォルニア大学バークレー校のコンピューター科学の教授で,人工知能の専門家。
原題名
Should We Fear Supersmart Robots?(SCIENTIFIC AMERICAN June 2016)