観察から介入へ、問いを立てるAI駆動開発（前編）：マテリアルズインフォマティクスの基礎知識（5）（1/2 ページ）

マテリアルズインフォマティクス（MI）の基礎知識について解説する本連載。第5回は、観察だけでは区別できない仮説を、実験による介入でどう削っていくかについて紹介する。

[MI-6 代表取締役 Co-founder/miLab 編集長 入江満，MONOist]

　前回は、「現場パラメータ」と「本質パラメータ」という2つの仮置きの概念を通じて、研究開発における問題の記述方法を考えました。配合比や装置の設定値といった直接操作できる変数の背後には、材料の性能を左右する状態のパラメータがあります。どの変数を選び、どの座標系で問題を記述するかによって、AI（人工知能）が探索する地形そのものが変わります。

　では、適切な座標系と十分なデータを与えれば、AIは材料について正しく推論できるのでしょうか。

　人工知能という言葉が研究分野として使われ始めた1950年代から、その対象は、人間の学習や推論を機械で扱うという広いものでした［参考文献1］。線形回帰のような古典的な統計モデルも、観測から規則性を取り出して未知を推論するという意味で、この議論のAIに含めます。最新の生成AIまで、時代や複雑さは違っても共通する問題があります。

　その問題は、観測されたデータに整合する説明が1つとは限らないことです。モデルは、研究者が知りたい理由とは異なる規則を使って、同じ結論に到達することがあります。データが同じでも、そこから導かれる推理は一意ではありません。

　前編では、AIが「同じ結論を異なる理由から導く」問題を出発点に、観察だけでは区別できない仮説を、実験による介入でどう削っていくかを考えます。

1. 賢馬ハンスの推論

　20世紀初頭のドイツで、ハンスという一頭の馬が大きな注目を集めました。ハンスは、足し算や引き算の答えの数だけひづめを鳴らし、日付や時刻を問う問題にも答えられるように見えました。

　心理学者オスカー・プフングストが条件を変えて調べると、ハンスは答えを知る人の姿が見えない場合や、質問者自身が正解を知らない場合には答えられなくなることが分かりました。ハンスが読んでいたのは数の概念ではなく、正答に近づくにつれて質問者の姿勢や表情に無意識に現れる、ごく小さな変化でした［参考文献2］。

　ハンスは、与えられた環境の中で答えと最もよく結び付く信号を利用していました。その信号が、人間が測ろうとしていた能力とは違っていたのです。

　この逸話は、現在も「Clever Hans effect」として機械学習の議論に現れます［参考文献3］。画像認識モデルが対象物ではなく背景を手掛かりにする。医療モデルが病変ではなく撮影装置や病院固有の印を読む。予測精度が高くても、モデルが期待した理由を学んでいるとは限りません。

　線形回帰でも同じです。ある添加剤の量と性能に強い相関が見つかったとしても、添加剤と同時に変更された別の条件が真の要因かもしれません。モデルが複雑になるほど、人間には見つけにくい近道を利用できる可能性も増えます。

図1：賢馬ハンスとAI、同じ結論を異なる理由から導く［クリックで拡大］

2. とある材料AIの「ウソ」

　2026年に発表された論文「Clever Materials: When Models Identify Good Materials for the Wrong Reasons」は、この問題を材料科学で直接検証しています［参考文献4］。

　金属有機構造体（MOF）やペロブスカイト太陽電池、電池、発光材料などのデータセットを分析したところ、一般的な化学記述子から、論文の著者、掲載誌、出版年といった書誌情報を偶然以上の精度で予測できました。さらに、推定された書誌情報だけを入力にしたモデルが、材料特性の予測で通常の記述子モデルに迫る場合もありました。

　研究グループごとに、扱う材料群、合成法、装置、測定手順、報告の基準が異なります。研究の流行も時代とともに変わります。そのため化学記述子の中に、材料の本質と直接関係しない「誰が、いつ、どこで研究したか」という履歴が指紋のように入り込みます。AIは、その指紋を性能予測の近道として利用できます。

　AIが予測に使えることと、化学的に理解した証拠になることは異なります。ある研究室の内部で予測が当たれば、実用上の価値はあります。しかし、そのモデルを別の装置、別の研究グループ、将来の材料系へ移したときにも成り立つとは限りません。背景にある因果構造を誤認すれば、モデルの適用範囲も誤ります。

　情報を1つの基盤へ大量に集めれば、自動的に賢いAIが生まれるわけではありません。データが増えるほど、本来知りたい因果関係とは別の近道も増えます。企業間でデータを共有し、巨大な統合データベースを作る場合も、何を比較し、どの差を意味のある差として扱うかが設計されていなければ、異なる履歴や測定条件の混在が誤った推論を強める可能性があります。

　AIで文献や実験情報を集め、その情報からAIでモデルを作り、さらにその予測を判断に使うのであれば、モデルが何を根拠に結論を出したのかをレビューし、データの分け方を変えたり追加実験を行ったりして確かめる能力と作業も同時に必要になります。AIを使う工程が増えるほど、AIの正しさを検証する工程も組み込む必要があります。