日経サイエンス  2022年9月号

あなたの内面を探る 感情認識AIの危うさ

J. マックエイド(ジャーナリスト)

感情認識AIは表情などを分析し,感情など人々の内面を可視化する技術。現在,人気の高い市場調査ツールとなっているが,その用途はもっと重大な分野に広がっている。感情や性格,意図に関する手がかりを読み取るシステムが,国境での検問や求職者の評価,授業の退屈さや混乱の監視,危険運転の兆候の把握などに使われるか,または試されているのだ。また,大手自動車メーカーはこの技術を次世代車に組み込むことを計画しており,アマゾンやマイクロソフト,グーグルなどの技術系企業はクラウドベースの感情認識AIサービスをしばしば顔認証技術とセットで提供している。さらに,数十社の新興企業が,企業が採用決定を下すのを支援するアプリケーションの提供を開始している。

AIシステムは様々なデータを使って感情や行動を読み取る。表情や声の抑揚,身振り,歩き方に加え,発言や記述文の内容を分析して感情や考え方などを把握する。収集したデータを使って,感情ではなく,どのような性格なのか,集中しているか,危険人物の可能性はないかなどを探るアプリもある。

だが,感情認識AIがその領分を越えて使われており潜在的に危険だとする批判がある。AIは人種や民族,性別に関してバイアスがかかったデータセットで訓練されている可能性があり,例えば非白人の求職者に対する評価が低くなるおそれがあるという。また,感情認識AIの根底にある科学も議論の的になっている。

感情認識AIが本質的に悪いというわけではない。感情や行動を確実に解釈できるよう機械を訓練することができれば,ロボット工学や医療,自動車などの分野で大きな可能性があると専門家は言う。しかし現在,この分野は実質的に野放し状態であり,その潜在的代償について社会が検討する前に,ほとんど実証されていない技術が浸透してしまう可能性がある。



続きは日経サイエンス2022年9月号にて

著者

John McQuaid

ジャーナリストであり作家。本記事はワシントンにあるシンクタンク,ウィルソンセンターのフェローだったときに執筆された。現在はメリーランド大学ジャーナリズム学部の博士課程に在籍している。

原題名

Spying on Your Emotions(SCIENTIFIC AMERICAN December 2021)

サイト内の関連記事を読む

キーワードをGoogleで検索する

感情認識AI感情コンピューティングディープラーニングビッグファイブ性格特性モデル顔面動作符号化システム