KELA、生成AIセキュリティソリューション「AiFort」国内販売開始

KELAは4月19日、生成AIセキュリティソリューション「AiFort（エーアイフォート）」を国内販売開始すると発表した。
○「AiFort」の概要
「AiFort」は、生成AI /大規模言語モデル（LLM）をセーフティ、セキュリティ、プライバシーの3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供する。開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援する。
「AiFort」の特徴は、アンダーグラウンドの犯罪社会を常時監視することで収集・蓄積した膨大なデータに基づいている点。そのため、実際の犯罪の背景にある情報や、最新の脅威動向が反映されているので、現実的な対策を講じることができる。
○「AiFort」のシステム構成
「AiFort」は、「AiFort suite」として、3つの機能とサービスを提供するモジュールで構成される。
○AiFort Data：AIトレーニングデータセット
「AiFort Data」は、生成AIモデルのトレーニングで利用する、脅威インテリジェンスに基づくデータセット。最新の脅威動向や犯罪技術などを反映した「AiFort Data」を利用して、生成AIモデルに学習させることで、セキュリティを強化できる。
○AiFort Red：レッドチームサービス
「AiFort Red」は、AIモデルの脆弱性やセキュリティリスクがないかどうか、信頼性と安全性を診断するための、脅威インテリジェンスに基づくアドバーサリーエミュレーション（攻撃模倣プログラム）。
ユーザーが簡単な操作でテストプランを作成し、プランに基づいて「AiFort Red」が模擬攻撃を実行し、ユーザーは分析・診断結果をダッシュボードで把握できる。
「AiFort Red」がレッドチームを支援することで、テストを効率化し、テスト漏れを低減する。
○AiFort Protect：プロンプトフィルタリング
「AiFort Protect 」は、悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏洩、ハッキングなどの不正行為を防ぐことができる。
生成AIを用いたシステム/サービスを運用開始した後、生成AI向けのファイアウォールのように機能する。