株式会社Citadel AI
AIセーフティ強化に関する研究開発

事業名

AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発

研究開発テーマ

AIセーフティ強化に関する研究開発

事業概要

本事業では、AIシステムの安全性確保に向け、ガイドラインや評価プロトコル等の共通基盤を整備・公開しました。

特に同社では、生成AIやAIエージェントの開発・運用に取り組む企業へのヒアリングを通じ、技術、プロセス、組織文化の観点から共通する実践知を抽出し、「生成AI実践ガイドと企業事例集」として体系化しました。

また、開発者に向けて抽出したノウハウを検証の上で具体化するため、行政手続きなどに関する情報を中心に、外国人などの言語や制度の理解に一定の配慮を要する利用者を想定したチャットボットとして実装し、公開しました。

本成果は、生成AIの利活用とAIセーフティ・AIガバナンスの両立を実現するための方法論をフレームワークとして体系化したものであり、各組織におけるAI導入・運用の参考としての活用を想定しています。

さらに、公開したガイド・事例集とチャットボットの実装を通じて、抽象的な原則を具体的な評価・運用手法として提示し、実務におけるAIセーフティの実践を支援します。

• このページをダウンロード（298KB）