NEDO「AIセーフティ強化に関する研究開発」の採択について
2025年4月30日（水）11時47分 PR TIMES
[画像: https://prcdn.freetls.fastly.net/release_image/75720/37/75720-37-04b2e1e9d7f5c4f410d818f1562edc29-2398x1008.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
1.本事業の目的
本事業は、生成 AI を適切に管理・利用するために必要となる、AIセーフティ基準の策定・普及と AIセーフティ評価・管理技術の開発を一体的に行うことを目的に、以下の研究開発を推進するものです。- リスクベースアプローチの基になる 安全性の“ものさし”となる評価・管理技術の開発
- 暮らし領域での評価手法の開発と実証 およびテスト環境構築技術の開発
- 国際標準化および普及のためのガイダンス等の整備
2.背景
近年、生成AIの技術が急速に進展し利便性が向上する一方で、その安全性や信頼性を評価し技術検証する具体的な基準や手段が確立されていないことが、企業がAIを本格導入する上での大きな障害となり始めています。AIが単体のソフトウェアの域を超え、さまざまなビジネスアプリケーションや、自動車・ロボット・医療機器からコンシューマープロダクトにまで組み込まれる中、こうした高付加価値製品の頭脳たるAIの開発・導入で立ち遅れることは、日本の将来を大きく脅かすことになりかねません。
3.Citadel AIの役割
弊社は本事業の中で、AIセーフティ・インスティテュート (AISI)、産総研ならびにAI品質マネジメントイニシティアブ（AIQMI）等と連携の上、以下の研究開発を取り進めます。安全安心で高品質なAI製品・AIサービスの実現と社会実装の促進を通じて、日本ブランドの価値向上と、企業の国際競争力の更なる強化に貢献してまいります。
- 産業界のニーズと技術的有効性に裏打ちされた AIセーフティの評価基準・評価手法の整理
- 高い安全性や品質が求められる社外向け生成AIアプリケーションの企業向け実装解説の作成
- AIセーフティを実現する評価指標（メトリクス）の開発と技術検証を通じた有効性の確認
【関連情報】
- AIの品質検証で経営力を強化、Eval Insight 提供開始(https://citadel-ai.com/ja/news/2025/03/27/eval-insight/)
- AI時代の防衛戦、次世代ファイアウォール提供開始(https://citadel-ai.com/ja/news/2025/04/25/lens-custom-firewall/)
【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社のAIシステムの品質検証・モニタリングツールは、AIのモデルやフォーマットに依存することなく、生成AIから予測型AIまで、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役 小林裕宜
設立 2020年12月10日
企業URL https://citadel-ai.com/ja/
X (Twitter) https://twitter.com/CitadelAI
お問合せ info@citadel-ai.com
