医療機器への「ChatGPT」応用は？ カナダに見るAIリスク管理の先行事例：海外医療技術トレンド（94）（3/3 ページ）

[笹原英司，MONOist]

AI倫理に関わるリスクマネジメントの標準規格化活動

　次に標準化の観点からみると、2019年10月1日、カナダ規格審議会・CIO戦略協議会は、公共／民間企業、政府機関、非営利組織が、責任のあるAIソリューションを設計／導入するのに役立つ標準規格として、「CAN/CIOSC 101:2019 自動意思決定の倫理的設計と利用」（関連情報）を公表した。その中で、倫理的リスクマネジメントとして、以下のような項目を挙げている。

• リスクマネジメントフレームワーク
• エシックスバイデザイン
• 自動意思決定システムの導入
• 自動意思決定システムのモニタリングと運用
• 自動意思決定システムによる意思決定の異議申立／エスカレーション

　参考までに、カナダ規格審議会は2021年6月28日、「カナダ・データガバナンス標準規格ロードマップ」（関連情報）を公表している。このロードマップは、カナダ規格審議会傘下のカナダ・データガバナンス・コラボラティブ（DGSC）（関連情報）が2019年より取り組んできたデータガバナンスの標準規格化活動をベースに策定されたものであり、以下のようなデータガバナンスライフサイクルを定義している。

• 主要なテーマおよび課題の特定
• 主要課題の優先順位付け
• 課題およびキーワードの明確化
• 発行済標準規格の検索
• 標準規格のバリデーションおよびトリアージ

　その上で表2に示すようなデータガバナンスのドメインおよび主要課題を設定している。

表2　データガバナンスのドメインと主要課題［クリックで拡大］ 出所：Standards Council of Canada (SCC)「The Canadian Data Governance Standardization Roadmap」（2021年6月28日更新）を基にヘルスケアクラウド研究会作成

　CAN/CIOSC 101:2019は、上記のレイヤーや課題の枠を超えて広く参照されており、自動意思決定システムに関わる倫理的リスクマネジメントの影響も多岐にわたることが想定される。カナダは、1990年代から「プライバシーバイデザイン」の概念を導入したことで知られるが、「エシックスバイデザイン」をどのような形でシステムのライフサイクル管理に組み込んでいくのか非常に興味深い。

適応型AI医療機器の早期承認制度導入をめざすカナダ保健省

　このようなカナダ連邦政府全体の動きと並行して医療分野では、本連載第80回で触れたように、2021年10月27日、カナダ保健省（Health Canada）が、米国医薬品食品局（FDA）および英国医薬品・医療製品規制庁（MHRA）と共同で、「医療機器開発向けグッドマシンラーニングプラクティス（GMLP）：指導原則」（関連情報）を公表した。この原則は、AI／ML（機械学習）ベースの医療機器製品固有の特性に対応するグッドマシンラーニングプラクティスを構築するための基盤を築き、急速に進歩する領域における将来の成長を培うのに役立てることを目的としており、以下の10項目から構成される。

1. トータル製品ライフサイクル（TPLC）を通して、学際的な専門知識が活用される
2. 優れたソフトウェアエンジニアリングやセキュリティプラクティスが展開される
3. 臨床研究の参加者やデータセットが、対象とする患者集団の代表者となる
4. トレーニング用データセットは、テストセットから独立している
5. 選択されたデータセットは、最善の利用可能な方法に基づいている
6. モデル設計は、利用可能なデータに合わせて、機器の意図する使用を反映したものとする
7. 焦点は、人間−AIチームのパフォーマンスに置かれる
8. 検証は、臨床的に適切な状況下で、機器のパフォーマンスを証明する
9. ユーザーには、明確で不可欠な情報が提供される
10. 展開されたモデルはパフォーマンスのためにモニタリングされ、再トレーニングのリスクは管理される

　医薬品／医療機器規制に関連してカナダ保健省は、「2022〜2024年将来規制計画」（最新版2023年3月20日更新、関連情報）を公開している。将来規制計画（Forward Regulatory Plan）は、カナダ独自の情報公開制度であり、カナダ保健省が今後2年間に提案または最終化を予定している規制の変更（規制イニシアチブ）を記述した、公的に利用可能なリストである（長期間の枠組みで上程することを計画した規制イニシアチブが含まれる場合がある）。

　この計画の中で、カナダ保健省は、食品医薬品法改正に向けたイニシアチブとして、「適応型機械学習活用医療機器向けの先進医療製品パスウェイ」（関連情報）を打ち出した。

　現行の食品医薬品法に準拠した医療機器規制フレームワークでは、リアルワールド環境における新たなインプットに対応した市販後の機器変更として、適応型機械学習活用医療機器（MLMD）を、適正に収載することができない。そこでカナダ保健省は、先進医療製品パスウェイの一環として、適応型MLMDを、食品医薬品法のスケジュールGに追加することを提案している。スケジュールGを含む「先進医療製品パスウェイ」は、2019年の食品医薬品法改正に基づいて新たな先進医療製品（ATP）向けフレームワークを導入し、柔軟なリスクベースの手法で、医薬品や医療機器の承認を迅速化する仕組みである。このパスウェイに適用型MLMDを組み込むことによって、患者安全や製品品質、有効性のための高い基準を維持するために、適応型MLMD固有の特性に特化した市販前／市販後の要求事項に合わせながら、早期承認を実現できるとしている。

AI医療機器イノベーションを巡る環大西洋連携の動向に注目

　本連載第39回や第67回、第71回で触れたように、米国FDAは、画期的機器（Breakthrough Devices）、De Novo分類申請制度などを活用して、AI／MLに代表される最新技術を搭載した医療機器の早期承認を実現している。本連載第46回で触れたように、カナダ国内には、ケベック州モントリオールやオンタリオ州トロントなど、世界をリードするAI研究開発拠点が集中しており、業界規制を巡る米国市場とのハーモナイゼーションが不可欠となっている。

　他方、欧州では、2021年4月21日、欧州委員会が「人工知能に関する調整規則の創設（人工知能法）および特定の欧州連合法の改正提案」（関連情報）を公表し、現在、新規則施行に向けた最終調整作業が進んでいる。また、欧州委員会と米国政府の間では、環大西洋データプライバシーフレームワーク（プライバシーシールド2.0）の最終合意に向けた調整作業が進んでいる（関連情報）。なおカナダの場合、対EU間では個人データの越境移転に関する十分性が認定されており、対英国間では貿易継続協定（TCA）が締結されている（関連情報）。

　日本政府も採択している国際医療機器規制当局フォーラム（IMDRF）の「医療機器サイバーセキュリティの原則および実践」は、カナダ保健省と米国FDAを共同座長とするIMDRF医療機器サイバーセキュリティ作業部会から生まれたグローバルガイドラインである。前述の医療機器開発向けGMLP指導原則を踏まえて、カナダからどのような政策やユースケースが展開されるのか注目される。

筆者プロフィール

笹原英司（ささはら えいじ）（NPO法人ヘルスケアクラウド研究会・理事）

宮崎県出身。千葉大学大学院医学薬学府博士課程修了（医薬学博士）。デジタルマーケティング全般（B2B／B2C）および健康医療／介護福祉／ライフサイエンス業界のガバナンス／リスク／コンプライアンス関連調査研究／コンサルティング実績を有し、クラウドセキュリティアライアンス、在日米国商工会議所、グロバルヘルスイニシャチブ（GHI）等でビッグデータのセキュリティに関する啓発活動を行っている。

Twitter：https://twitter.com/esasahara

LinkedIn：https://www.linkedin.com/in/esasahara

Facebook：https://www.facebook.com/esasahara