信頼性強化か大惨事か 基幹インフラでの機械学習活用がOT環境に与えるリスク：産業制御システムのセキュリティ（1/2 ページ）

機械学習アルゴリズムを基幹インフラシステムに統合することで、リアルタイムのモニタリングや予知保全といったメリットがもたらされます。一方で、サイバーセキュリティ上のリスクが生じることも確かです。本稿ではこのセキュリティリスクについて解説を行います。

[貴島直也／Tenable Network Security Japan，MONOist]

　今日の急速な技術進歩の中で、機械学習アルゴリズムは、基幹インフラを支えるシステムの信頼性と安全性を向上させる大きな可能性を包含しています。しかし、AI（人工知能）は万能な存在ではなく、あくまで道具の1つとして捉えることが不可欠です。AIは全知ではなく、短絡的でミスを起こしやすいものです。例えば、OpenAIはGPT-4のリリースの中で、次のような制限があることを発表しています。

「GPT-4は高性能である一方で、以前のGPTモデルと類似した制限事項があります。最も重要なことは、依然として完全に信頼できるものではないということです（事実とは異なる内容を生成する『ハルシネーション（幻覚）』と呼ばれる不具合があり、推論エラーが発生します）。言語モデルの出力を使用する場合、特に重要な場面での使用には、固有のユースケースのニーズに合った的確なプロトコル（人によるチェック、追加の関連情報によるグラウンディング、リスクの高い状況での使用の回避など）を用いて、細心の注意を払う必要があります」

　ここでOpenAIが言わんとしていることは、このAIモデルには、人間と同じように認知バイアスがあるということです。従って、AIは人間の判断に完全に取って代わるものではなく、適切な情報に基づいた人間の意思決定を補助するものとして活用されるべきです。

　AIをツールとして認識することで、その機能を活用して基幹インフラシステムを強化できます。機械学習アルゴリズムは予知保全に役立ち、潜在的な障害を事前に検知し、運用効率を高めるためにリソースの割り当てを最適化します。エネルギー分野では、AIがセンサーのデータを分析して機器の故障を予測し、事前のメンテナンスを可能にすることで、ダウンタイムを削減し、信頼性を向上させることができます。

　AIと機械学習アルゴリズムの基幹インフラへの統合は、制御技術（OT）システムの管理と維持の複雑さゆえに、慎重に取り組まなければなりません。OTシステムは電力供給網、輸送網、上排水処理施設などの基幹インフラを制御／監視しています。

　AIとIoT（モノのインターネット）の統合は、リアルタイムのモニタリングや予知保全といったメリットをもたらす一方で、次のようなサイバーセキュリティ上のリスクをもたらします。

（1）クラウドベースのAIのリスク

　生成AIモデルには、多くの場合、大量の計算リソースと大規模なデータセットが要求されるため、通常はクラウドベースのソリューションが必要になります。これにより、幾つかの固有のリスクが生じます。OT環境とクラウドサービスを統合する際は、多くの場合インターネット接続が介入します。インターネット接続により潜在的な攻撃経路が発生し、攻撃者がこの相互接続を悪用して、OTネットワークに不正にアクセスする可能性があります。この場合、クラウドプラットフォーム自体のセキュリティが重要な要素となります。

　クラウドインフラまたはサービスに脆弱性があると、攻撃者によりAIエンジンが侵害され、その結果AIエンジンとやりとりするOTシステムにも被害が及ぶ可能性があります。OT環境とクラウド間で送信されるデータが適切に暗号化されていない場合、傍受または改ざんされる可能性があります。これにより、データ侵害や悪意のあるデータの挿入が行われることがあります。