医療機器への「ChatGPT」応用は？ カナダに見るAIリスク管理の先行事例：海外医療技術トレンド（94）（2/3 ページ）
本連載第46回で、カナダ・ケベック州モントリオールの医療AIについて触れたが、今回は、カナダ全体レベルのAIおよび医療の規制動向を取り上げる。
産学連携クラスターがけん引するカナダの国家AI戦略
他方、AIイノベーション推進政策の観点からみると、2017年3月22日、カナダ連邦政府のイノベーション・科学経済開発省は、同年度連邦政府予算の中で、世界のAIにおけるリーダーとしてのカナダの地位を強固にすることを目的とする「汎カナダ人工知能戦略」（関連情報）を発表した。その中で、カナダ先端研究機構（CIFAR）が調整役となり、ケベック州モントリオール、オンタリオ州トロント／ウォータールー、アルバータ州エドモントンの産学クラスターをベースに、5年間／総額1億2500万カナダドル（約124億円）の研究・人材育成プログラムを展開する計画を打ち出している。この戦略の主要目標は以下の通りである。
- カナダにおけるAI研究者および熟練した卒業生の数を拡大する
- パートナーとなるAI研究所間の協力関係を拡大する
- AIにおける進歩の倫理的、政治的、法的な示唆におけるグローバルなソートリーダーシップを構築する
- AIにおける国家的な研究コミュニティーを支援する
その後2020年6月22日、イノベーション・科学経済開発省は、汎カナダ人工知能戦略の第2フェーズ（関連情報）を発表した。
第2フェーズは表1に示す通り、3つの柱から構成される。
表1 汎カナダ人工知能戦略第2フェーズの概要［クリックで拡大］ 出所：Government of Canada「Pan-Canadian Artificial Intelligence Strategy」（2022年7月20日更新）を基にヘルスケアクラウド研究会作成
なお、AI研究の中核拠点を担うエドモントンのアルバータ機械知能研究所（Amii）（関連情報）、モントリオールのケベック人工知能研究所（Mila）（関連情報）、トロントのベクター研究所（関連情報）は、健康医療／ライフサイエンス分野においても、各地域の大学や臨床医療機関、スタートアップ企業などと連携して、AI研究や人材育成活動を積極的に進めており、海外からの注目度も高い。
自動意思決定システムの政府調達基準づくりで先行するカナダ
前述の自動意思決定システムに関連して、カナダ連邦政府は2019年4月1日、「自動意思決定指令」（関連情報）を施行し、翌2020年4月1日から適用を開始した。
本指令は、カナダ市民および連邦政府機関に対するリスクを低減するとともに、カナダの法律に従って、より効率的で、正確で、一貫性があり、理解しやすい意思決定を行うよう先導するような方法で、自動意思決定システムの導入を保証することを目的としている。そして、本指令の順守により、以下のような結果をもたらすことを期待するとしている。
- 連邦政府機関による意思決定が、データ駆動型で、責任があり、手順の公平性と適正な手続に関する要求事項を順守したものになる
- 行政上の意思決定に関するアルゴリズムの影響度を評価して、直面した時にネガティブなアウトカムを低減する
- 連邦政府機関における自動意思決定システム利用に関するデータや情報が、適切な場合、公に利用可能となる
各政府機関の副次官補が、自動意思決定システムを利用したプログラムについて、以下のような要求事項を順守するとしている。
- アルゴリズム影響度評価（AIA）
- 透明性
- 意思決定前の通知提供
- 意思決定後の説明提供
- コンポーネントへのアクセス
- ソースコードの公開
- 意思決定の文書化
- 品質保証
- アウトカムの検証とモニタリング
- データの品質
- ピアレビュー
- 従業員のトレーニング
- コンティンジェンシー
- セキュリティ
- 法務
- 人的介入の保証
- リソース
- 報告
これらのうちアルゴリズム影響度評価については、カナダ連邦政府のオープンガバメントポータル（関連情報）上で、図1に示すようなオンラインツール（関連情報）を公開している。
図1 カナダ連邦政府のアルゴリズム影響度評価ツール（第0.9.1版）［クリックで拡大］ 出所：Government of Canada「Algorithmic Impact Assessment」（2022年2月25日更新）
さらに2019年9月9日、カナダ連邦政府は、AIを利用する政府機関向けの調達指針原則として、「人工知能（AI）の責任ある利用」（関連情報）を公表した。
この指針では、政府機関に対して、AIの効果的で倫理的な利用を保証するために、以下のような原則を定めている。
- ツールや手法を開発／共有することによって、AI利用の影響度を理解／評価する
- 明確なユーザーニーズと公的便益から始めながら、どのように、いつAIを利用するかについて透明性を保つ
- AI意思決定に関して意味のある説明を提供する一方、結果をレビューし、これらの決定に取り組む機会を提供する
- ソースコードの共有、データのトレーニング、その他の重要な情報によって、できるだけオープンにする一方、個人情報、システム統合、国家安全保障／防衛を保護する
- AIソリューションを開発し利用する政府職員が、AIに基づく公的サービスを改善するために必要な、責任のある設計、機能、展開のスキルを持てるように、十分なトレーニングを提供する
また、責任あるAI利用に向けた取り組みとして、前述の自動意思決定指令やアルゴリズム影響度評価に加えて、図2に示す通り、カナダ政府向けのAIソリューション販売に関心のあるAIサプライヤーリストを公開している。
図2 関心があるAIサプライヤーリスト［クリックで拡大］ 出所：Government of Canada「List of interested Artificial Intelligence (AI) suppliers」（2022年8月22日更新）
Copyright © ITmedia, Inc. All Rights Reserved.