Trustworthy AIコラム【前編】なぜ今「信頼できるAI」が必要なのかTrustworthy AIの背景と基本概念テクニカルレポート
公開日：2026年8月24日
R&D本部 先進技術開発部（以下、当部）の大田です。AIの活用領域が急速に拡大する中、「AIの品質をどう保証するか」という問いが、世界的に重要性を増しています。精度の高いAIを構築すること自体は当然ながら重要ですが、AIの不公平な判断や、環境変化による性能低下、判断根拠の説明における困難さなどのリスクはAIの精度だけでは捉えきれません。こうした背景のもと、AIを実社会で活用していく上で必要性が高まっている概念が、Trustworthy AI（信頼できるAI）です。
当部では、Trustworthy AIの実現に向けてAIの信頼性を公平性／頑健性／説明可能性など多角的な観点から検査する技術「Trustworthy AI検査技術」の開発に取り組んでいます。本コラムでは前編／後編の2回にわたり、Trustworthy AIが求められる背景から、当部が開発している具体的な検査技術までをご紹介します。前編となる今回は、なぜ今「信頼できるAI」が必要とされているのか、その背景と基本概念を解説します。
はじめに AIの影響力拡大がもたらすリスク
AIは業務効率化や意思決定に欠かせない存在となり、オフィス業務における文書解析、製造現場における外観検査、医療現場における画像診断など、AIの出力や判断が人々の生活やビジネスに与える影響はますます大きくなります。
同時に、その影響力の拡大はAIによるリスクの増大も意味します。実際に、AIの活用において課題が顕在化し、社会的な議論を呼んだ事例も報告されています。例えば次のような内容です。
- ある大手EC企業が履歴書から就職希望者を評定するAIを開発しましたが、女性を不利に評定する傾向が発覚し、このAIによる採用システムは廃棄されました。
- 国内の無人自動運転車両において、自転車と接触事故が発生した事例が報告されています。これはカメラで物体認識を行うAIにおいて特定の映り方の自転車を認識できなかったためと報告されています。
- 医療分野では、画像診断AIについて高い正答率を示していても、AIが注目する画像領域と専門医が重視する領域が十分に一致しない可能性が報告されています。
これらは単にAIの精度が低いために起きた問題ではありません。AI技術そのものが持つ性質に根ざした問題です。
なぜAIは問題を起こすのか AI技術の性質に潜むリスク
AIによる問題は、AI技術が持つ2つの重要な性質に起因しています。
1つ目は、AIは判断を下すための有用な特徴をデータから自動的に学習するという性質です。これはAIの強みである一方、データの品質や偏り（バイアス）がそのままAIの出力結果に影響を与えてしまうことを意味します。先ほどの採用AIの事例では、過去の採用実績データに含まれていた性別の偏りを、AIがそのまま「学習」したと考えられます（図1）。
2つ目は、AIは膨大な数のパラメータで構成された非常に複雑な内部表現を持つという性質です。このためAIの最終的な判断の根拠を、人が説明／理解することが極めて困難です。具体的なイメージとして、手書き数字認識で誤った認識結果が得られた場合に原因を把握できるかどうかを、ロジックベースのパターン認識器とAIとで比較した図を図2に示します。
AIは膨大な数のパラメータを持つため出力の原因把握が困難である
ロジックベースで実装されたパターン認識器であれば、想定と異なる認識結果のときにコードを調べ、どの部分に原因があるのかを特定できます。しかし、AIの場合は異なり、その内部表現を構成するのは膨大な数のパラメータの羅列です。これらの数値の組み合わせが最終的な判断を生み出しているのですが、内部の数値を眺めたところで、なぜそのような判断に至ったのか、また、どのようにすれば改善できるのかを人間が理解することはできません。
こうしたAI技術の性質を踏まえると、AIの品質を評価データに対する精度だけで判断することは不十分です。
これらの性質を考慮し対策を講じなければ、AI活用においてさまざまなリスクが生じ得ます。例えば次のようなリスクです。
- 特定のデータの予測が苦手になり、個人が不利益をかぶる。また、社会／人間による差別を助長してしまう
- テスト環境では期待した性能を示していても、運用環境では想定した性能を発揮できず、損失が大きくなる
- 判断根拠を説明／理解できないため、改善方法がわからない
これらのリスクに対処するためには、精度以外の観点からもAIの品質を体系的に検査する仕組みが求められます。
Trustworthy AI（信頼できるAI）とは
こうしたリスクへの問題意識から、世界的に関心を集めているのがTrustworthy AI（信頼できるAI）という概念です。
Trustworthy AIは世界中で活発に議論されており、各国の公的機関（EUを含む）※1※2や研究機関※3がそれぞれの立場からフレームワークや原則を提示しています。Trustworthy AIの標準的な定義は2026年現在もまだ確立されていませんが、各組織の提唱する要素には共通項が浮かび上がります。これらの主要な要素を表1に整理しました。
| 要素 | 概要 |
|---|---|
| 公平性 | データやアルゴリズムに起因する不当な偏りや差別的判断を生じさせないこと |
| 頑健性 | ノイズや環境変化に対して安定した判断を維持し、学習時と異なる条件下でも適切に機能すること |
| 説明可能性 | AIがどのようなデータ／過程で判断に至ったかを理解でき、設計／データ／運用に関する情報が適切に開示されていること |
| アカウンタビリティ | AIの判断結果に対する責任と説明のプロセスが整備されていること |
| 安全性 | AIの判断／動作が人間の生命／健康／財産／環境に危害を及ぼさないこと |
| セキュリティ | データ改ざんや敵対的攻撃などのAI固有の脅威を含む不正アクセスからシステムを保護し、障害時の回復力を確保すること |
| プライバシー保護 | 学習データや推論結果を通じた個人情報の漏えい／推測を防止し、データの最小化や匿名化などにより個人の権利を保護すること |
| 表1 Trustworthy AIを実現するための要素 | |
以上の通り、Trustworthy AIには公平性／頑健性／説明可能性をはじめとする複数の要素があります。
したがって、開発するAIの信頼性を多角的に担保するには、これらの観点でAIを実際に検査し、品質を客観的に確認できる仕組みが不可欠です。
まとめ
本稿では、AI技術が持つ性質に起因するリスクと、精度だけではAIの品質を保証できないことを解説しました。AIの信頼性を確保するには、精度に加えて複数の観点から品質を検査する仕組みが求められます。
後編では、当部がTrustworthy AIをどのように定義し、各観点にもとづくAI品質の検査技術をどのように開発しているかを、具体的にご紹介します。
筆者紹介
大田 健翔
R&D本部 先進技術開発部所属。AI技術に関する研究開発に従事。信頼できるAI（Trustworthy AI）の実現に向けた評価技術の開発や、設備の故障予兆検知技術の高度化に取り組む。