AI悪用は「生物兵器開発」へ、ウイルス研究などAnthropicが事例公開：1週間を凝縮！ 今週の製造業ニュース

2026年9月7〜11日に公開された記事の中から、MONOist編集部が厳選した今週のニュースをお届けします。

[MONOist]

　米Anthropicは9月10日、自社AI（人工知能）のClaude（クロード）の悪用事例をまとめた脅威インテリジェンスレポート「Detecting and countering misuse of AI: September 2026」を公開しました。AIの科学的知識が生物兵器開発につながるなど、リスクのある研究へ悪用される事例について、民間AI企業として初となる具体的な事例になっています。

　生物学における知見や技術は、疾病の予防や治療薬の開発に寄与する一方で、生物兵器の開発にも転用できるデュアルユース（軍民両用性）の課題があります。悪用を試みる機関などは、この性質を悪用し、一見すると正当な研究活動を装ったり指示内容を曖昧（あいまい）に偽装したりすることで、AIの安全フィルターを回避しようと試みているとのことです。

　今回のレポートでは、チクングニアウイルスの研究に関するケースなどが明かされました。この事例では、意図的に強毒化させたり感染力を高めたりといった機能獲得研究を目的に、国家助成を受けた研究者が転売プラットフォームを介して地域制限を突破し、不正にアクセスしていました。さらに、バイオリスクを防ぐための安全機能によって指示が拒否されると、より制限の緩いモデルへと自動的にプロンプトを再送信して検知を回避しようとしていたことが判明しています。

　このほかにも、高病原性鳥インフルエンザの哺乳類適応実験計画の立案や、国家プログラムにおける毒素の計算科学的再設計時に進捗報告書で対象物質の名称を意図的に隠匿させようとした事例、天然痘と同科のウイルスの免疫逃避研究、毒素ペプチドの最適化など、計5つの悪用事例が特定されています。

　これまでAIセキュリティにおいては、露骨な悪意を持つプロンプトの遮断が主流でしたが、専門知識を持つハッカーや研究者が善意の皮をかぶってAIを利用するフェーズに入ったことで、単一の指示文だけで攻撃を見抜くことは困難になっています。

　Anthropicは最新モデル「Claude Fable 5」で制限を一段と強化していますが、生物分野での悪用について、「最先端AIモデルが抱える最も深刻なリスクの1つ」だと指摘し、「適切な安全対策が講じられなければ、こうした能力が破滅的な結果をもたらす恐れがある」と述べています。

　AIの健全な発展と社会的利活用を両立させるためには、開発企業による自主的な制限にとどまらず、政府や科学界、国際社会が一体となり防衛策を講じていくことが今後の不可欠な課題となりそうです。

GENIACの活動はAI×ロボティクスへ、ロボット基盤モデル開発の採択

経済産業省とNEDOの下で国内の生成AI開発を推進するGENIACは、「ロボット基盤モデルの研究開発事業（多用途ロボット等）」と「データエコシステムの構築等に関する研究開発事業・第4回公募」の採択事業者を発表した。（2026年9月10日公開）続きを読む

G7が主導する「AIBOM」の国際標準化と欧州AI／デジタルヘルス規制

本連載第132回で米国のAIサプライチェーン管理策としてSBOMからAIBOMへ進化しつつある動向を取り上げた。今回は、EUのAI法、サイバーレジリエンス法、欧州保健データスペース（EHDS）規則などの適用が同時並行で進む欧州の視点から、AIBOMの方向性を整理する。（2026年9月11日公開）続きを読む

800件以上の品質不正が判明したニデック 不適切行為の9割は3つのBUで発生

ニデックは、同社グループの生産拠点や開発拠点を対象とした「品質総点検」で確認された品質不正の疑いに関して、外部専門家で構成される調査委員会から受領した調査結果の内容と、今後の事業方針について説明した。本稿では、調査委員会による調査報告の内容について紹介する。（2026年9月11日公開）続きを読む

ソニーセミコンダクタソリューションズ、産業AIでAramcoと協業検討へ

ソニーセミコンダクタソリューションズとAramcoは、ビジョンセンシングやAI（人工知能）を活用した産業AIの高度化に向けた協業の可能性を検討するため、法的拘束力を伴わない基本合意書を締結した。実用的なアプリケーションの検討を進める。（2026年9月8日公開）続きを読む

⇒その他の「1週間を凝縮！ 今週の製造業ニュース」の記事はこちら

⇒ご意見／ご感想はこちらから

※試験運用中です