この記事は、日経XTECHの記事を転載しています。

2019年6月上旬に新潟県で開催された人工知能学会全国大会で、注目を集めたトピックが2つある。「AI（人工知能）の品質管理」と「AI倫理」だ。同学会の基調講演と招待講演で重要なテーマとして取り上げたほか、両テーマに関するセッションを設けた。ディスクロージャー：記者は人工知能学会倫理委員会の外部委員であり、後述の倫理委員会主催イベントのパネルディスカッションに参加している。

　両テーマはAIの社会実装を目指す上で解決すべき重要な「関門」といえる。AIを実用化するに当たり、企業は「AIを活用したシステムで安全を確保できるか」「AIが差別や偏見に根ざした判断をしないか」といった社会からの疑問への回答が求められるためだ。

AIの品質管理、議論が進む

6月5日午前に開催された企画セッション「機械学習における説明可能性・公平性・安全性への工学的取り組み」は、企業の技術者を中心に立ち見が出るほどの盛況だった。

　科学技術振興機構（JST）の福島俊一氏は「（AI応用システムの開発には）新世代のソフトウエア工学が求められる」とし、JST戦略プロポーザルが提言した「AIソフトウェア工学」の概念を紹介。AI品質を強みに、日本の競争力強化を狙うことを提案した。

デンソー 技術企画部 ソフトウェア先行開発室の中江俊博氏と桑島洋氏はAIの安全性にについて、自動車業界の取り組みを紹介した。

　AI関連の学術界では、画面の認識結果の理由を説明する「AIの説明性」、画像に特殊なノイズを入れた場合でも誤検知を防ぐ「AIの頑健性」に関する論文発表が相次いでいる。

　ただ、これらの研究の多くは自動運転開発のニーズに沿っていないという。自動運転開発の現場が本当に求めているポイントとして「要因から次のプロセスを導く説明性」「レアシーンに対する頑健性」「（雪など）自然ノイズに対する頑健性」を挙げた。

さらにAIの品質安全に関する国内の取り組みとして、デンソーやパナソニック、LINE、SI大手などが参加するAIプロダクト品質保証（QA4AI）コンソーシアムが2019年5月に発行した「AIプロダクト品質保証ガイドライン」の概要を紹介した。

この先の記事は、日経XTECHの有料会員の登録が必要です。
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00802/061200003/

情報提供元：日経XTECH
本記事の掲載元：
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00802/061200003/