　AIエンジンが侵害されると、OT環境に攻撃が広がる重大なリスクが生じます。攻撃者がAIエンジンを操作して、OTネットワーク内で悪意のあるコードを実行し、広範囲にわたるシステム障害やデータの流出を引き起こすおそれがあります。AIの意思決定プロセスが変更されたり、有害な推奨事項やアクションが生成されたりすることで、OT運用が意図的に中断される可能性があります。

（3）意思決定におけるAIの役割についてのリスク

　OT環境内におけるAIの利用方法が、リスクプロファイルに大きな影響を与えます。AIに対してアドバイザリーの役割を人間の監視下で行わせる場合、リスクはある程度軽減されます。人間のオペレーターがAIの出力をクロスチェックすることで、無意味または有害な推奨事項の実装を防げるためです。

　しかし、この方法は人間のオペレーターの注意力と専門知識に依存することになります。AIに対してOTシステムの直接制御を許可している場合は、重大なリスクが生じます。AIには、「AIハルシネーション」と呼ばれる不正確な出力や意味不明な出力を生成する現象があります。人間の介入なしにAIの出力に基づいて行動した場合、壊滅的な障害につながるおそれがあります。

（4）データの整合性と品質におけるリスク

　AIシステムの信頼性は、トレーニングに使用されたデータと動作中に受信されるデータによって決まります。攻撃者によってAIシステムに虚偽のデータや破損したデータが入力されると、誤った出力が生成される可能性があります。AIに送られるセンサーデータが操作された場合、誤った評価やアクションが発生し、OTプロセスが中断される可能性があります。

　さらに、トレーニングデータの品質が低かったり偏っていたりすると、現実のシナリオにおいて挙動の信頼性に課題があるAIモデルが作成されるおそれもあります。これにより、OT運用の安全性と効率性を損なう決定が下される可能性があります。

　基幹産業の従来のインフラには、高度なサイバー脅威に対抗するための十分なセキュリティ機能が備わっていないケースが多く見受けられます。さらに、OTシステムとITネットワークの相互接続によって、攻撃の可能性が高まり、堅牢なセキュリティ対策が求められています。

　新興技術を基幹インフラのOTシステムに組み込むには、ベストプラクティスに従って責任ある安全な実装を実現させることが極めて重要です。ベストプラクティスには次のようなものがあります。

人による監視を維持する

　AIが基幹インフラを直接管理するようなことがあってはなりません。人による監視は、予期せぬ事態の発生を防ぐために極めて重要です。人の判断と専門知識は、必要に応じて意思決定と介入を行うために欠かせないレイヤーとなります。

包括的なリスク評価の実施

　潜在的な脆弱性を徹底的に評価することは、AIシステムが基幹業務に与える影響を特定し理解するために必要不可欠です。この評価は、効果的なリスク軽減戦略の策定に役立ちます。

精密な試験と検証プロセスの実施

　AIシステム導入前の段階で、広範囲にわたる試験と検証を実施し、精度、信頼性、安全性を確認する必要があります。このプロセスによって、潜在的な欠陥やエラーを特定し、修正することができます。

倫理的配慮の優先

　これは、基幹インフラへの機械学習アルゴリズムの実装において最も重要です。組織はAIシステムの透明性、説明責任、明確な説明を順守すべきです。これにより、ステークホルダー間での信頼と理解が構築されます。

バイアス軽減技術の利用

　差別的な結果を避けるため、AIシステムの開発と導入にはバイアス軽減技術を採用すべきです。これにより、基幹インフラの運用における公平性と平等な取り扱いが担保されます。

プライバシーに関する懸念への対処

　機密データを収集するAIシステムを運用する場合、プライバシーは重要な考慮事項です。適切な対策を講じて対象となるデータを保護し、該当するプライバシー規制を確実に順守することが不可欠です。

　これらのベストプラクティスに取り組むことで、組織は基幹インフラにおけるOTシステムへの新興技術の統合を、より高い信頼性と安全性をもって実施できます。ベストプラクティスへの取り組みは、上記で述べたような、「クラウドからOT環境への直接攻撃」や「攻撃者によって操作された虚偽のデータがAIシステムに入力され、誤った判断が引き出された結果、引き起こされるデータ侵害やシステム全体の乗っ取り」「人間の介入なしに起こされたハルシネーションによる、業務の中断や安全性の低下」といったリスクをなくすためにも、強く意識すべきです。

　AIの責任ある実装は、ステークホルダー間での信頼を構築し、基幹インフラの確実かつ安全な機能を保証します。

⇒特集「制御セキュリティ」はこちら
⇒「産業制御システムのセキュリティ」の記事を読む

著者紹介

貴島直也（きしまなおや）
Tenable Network Security Japan株式会社
カントリーマネージャー

経歴

アダムネット株式会社（現三井情報株式会社）やEMCジャパン株式会社で主に金融担当営業および営業マネージャーを経て、EMCジャパンのセキュリティ部門であるRSAに執行役員として所属。GRCソリューションやxDRのビジネスの立ち上げ、拡大に従事、さらに韓国のゼネラルマネージャーも兼務。その後、RSAの独立に伴い執行役員社長としてRSAのビジネスの拡張をけん引。2021年4月より現職。日本企業のセキュリティマーケットの拡大およびチャネルアクティビティーの実行を統括。

心配事は実は同じ、IT／OT部門がセキュリティ対策で協調するのに必要なこと
IT/OT部門の“対立”は製造業ではおなじみのテーマと言えるかもしれない。業務領域や役割への相互理解の欠如は、サイバー攻撃への脆弱さにつながりかねない。しかし、実は両部門がセキュリティ対策で重視する項目は、根底でつながっているのではないだろうか。
制御システムセキュリティの現在とこれから
制御システム技術者が知っておくべき「セキュリティの基礎知識」を分かりやすく紹介する本連載。最終回となる今回は、今までに述べてきた制御システムセキュリティの基礎的な考え方をまとめた上で、これから制御システムセキュリティの分野がどうなっていくのかについての考えを紹介する。
経営層が理解できる「OTセキュリティ戦略」はどのように策定すればよいのか
製造業がIoTを活用していく上で課題となっているのが、サイバーセキュリティをはじめとする安心・安全の確保だ。本連載では、安心・安全を確立するための基礎となる「IoT時代の安全組織論」について解説する。第5回は、経営層が「OTセキュリティ戦略」の必要性をさらに深く理解できるようにするための策定手法について説明する。
社内にマルウェアが常駐する製造業、セキュリティ対策は何から始めるべきか
製造業を取り巻くサイバー攻撃の脅威が増している。サイバーセキュリティ対策を講じる上で意識すべきポイントや課題点は何か。日立ソリューションズセキュリティマーケティング推進部部長の扇健一氏に話を聞いた。
コロナ禍で加速するDXが生み出すサイバーセキュリティの3つのトレンド
製造業におけるサイバーリスクとセキュリティトレンドおよびそれらの課題と対策について説明する本連載。第3回は、コロナ禍で加速するDXによって日本のサイバーセキュリティにどのようなトレンドが生まれるのかを予測する。
スマート工場で見逃されている2大侵入ポイントとは？
スマート工場化が加速する一方で高まっているのがサイバー攻撃のリスクである。本連載ではトレンドマイクロがまとめた工場のスマート化に伴う新たなセキュリティリスクについての実証実験研究の結果を基に注意すべきセキュリティリスクを考察する。第1回では、工場の「スマート化」とは何かを定義するとともに、そこから見えたスマート工場特有の侵入経路について解説する。
現場と連携するセキュリティ責任者は8倍有能!? テナブルが調査結果を報告
Tenable Network Security（テナブル）は、調査会社のForrester Consultingと共同で実施したセキュリティ業界の調査レポートを発表した。世界各国の800人以上の事業責任者およびセキュリティ責任者を対象に実施したもので、テナブルとしては初の試みとなる。