AIの「バイアス」を見つけて賞金ゲット！：製造マネジメント メルマガ 編集後記

経済産業省によるガイドライン策定なども行われています。

[池谷翼，MONOist]

　この記事は、2021年9月7日発行の「製造マネジメント メールマガジン」に掲載されたMONOistの編集担当者による編集後記の転載です。

　先日、「責任あるAI（人工知能）」に関する記事を執筆しました。責任あるAIとは、企業によるAI開発や利用は、公平性や透明性、安全性を十分に配慮した上で行わなければならないとする考え方です。なぜこうした考えが必要なのか。それは、AIに携わる企業がその活動過程で、社会的、経済的、あるいは倫理的に大きな問題を生み出す可能性があるからです。

　こうした問題の一例を挙げると、AIによる「バイアス（偏見）の再生産」というものがあります。AIは現実世界のデータを基に学習を行います。このため、すでに現実世界に存在する、「こうしたタイプの人はこのような傾向がある」という特定の階層、人種、性別へのバイアスを再生産しかねません。こうした懸念が多方面で出されています。

　これに関連して、少し前、Twitterが興味深いコンテストを開催したというニュースを目にしました。機械学習モデルを用いたアルゴリズムに潜むバイアス（偏見）を見つけ、指摘した人に賞金を与える「バイアス発見コンテスト」です。