横浜国立大学発ベンチャー 株式会社マシンインテリジェンス
進化的機械知能に基づくXAIの基盤技術と産業応用基盤の開発

事業名

人と共に進化する次世代人工知能に関する技術開発事業／説明できるAIの基盤技術開発

研究開発テーマ

進化的機械知能に基づくXAIの基盤技術と産業応用基盤の開発

事業概要

本事業は、AIが「なぜその判断をしたのか」を人が理解できるようにする説明可能AI（XAI）の基盤技術を確立し、その技術を医療をはじめとする産業分野で実際に使える形にすることを目的として実施しました。具体的には、深層学習（DNN）が行う判断の根拠や仕組みを、専門知識がない人にも分かりやすく説明する技術や、人とAIが知識を相互にやり取りできる新しいAI手法を開発しました。あわせて、XAI技術の社会実装を見据え、医療分野を中心とした産業応用において、共同研究機関や協力企業と連携し、PoC（概念実証）、市場性調査、性能評価を行い、実用化に向けた課題整理と有効性の検証を進めました。

産業現場での実利用を前提としたXAI基盤技術を開発しました。DNN2EMEは深層学習モデル（DNN）を説明可能な構造に変換し、判断理由を図や言葉で可視化する技術です。また、GCMは画像分類時の判断根拠を高精度なヒートマップで示し、検査や品質管理の信頼性を向上させます。さらに、PLMは学習時のみの情報を活用することで、運用時の入力変数を削減し、低コストなAI運用を可能にします。これらの技術により、説明性・信頼性・実装性を備えたAIの産業展開が可能になります。

• このページをダウンロード（311KB）