Dataiku、生成AIにかかるコストを予測・管理するソリューション発表
2024年3月15日（金）16時33分 マイナビニュース
Dataikuはこのほど、さまざまなLLMによりアプリケーションを大規模で効率的に構築することができる「Dataiku LLMメッシュ」の新機能として、コスト監視専用ソリューション「LLM Cost Guard」を発表した。
○「LLM Cost Guard」の特徴
「LLM Cost Guard」は、企業のLLM使用状況を効果的に追跡、監視し、生成AIのコストをより適切に予測・管理する。特定のアプリケーション、プロバイダー、ユーザーに起因するコストを可視化し、どのLLMユースケースによりどのようなコストが生じているかを把握することを実現する。
これにより、本番稼働におけるコストと開発コストを明確に区分し、戦略的な財務計画を支援するほか、コスト超過の可能性を早期に特定し、ガバナンスの不備に関連するものなど、財務リスクを軽減できる。
○生成AI利用に伴うコスト把握が課題
企業は、大規模言語モデル(LLM)のパワーを広範に導入するにあたり、関連コストの包括的な把握と管理が必要であることが課題になっているという。
Dataikuの共同創設者兼CEOであるFlorian Douetteau氏は、「AIはあらゆる企業の革新と成長にとって重要な戦略だが、生成AIプロジェクトの潜在的なコストだけでなく、生成AIならではのコストのばらつきに関するビジネスリーダーの懸念も絶えず耳にする」とコメントしている。
こうした生成AI利用におけるコストにまつわる課題を解決するため、「LLM Cost Guard」が発表された。
○「LLM Cost Guard」の特徴
「LLM Cost Guard」は、企業のLLM使用状況を効果的に追跡、監視し、生成AIのコストをより適切に予測・管理する。特定のアプリケーション、プロバイダー、ユーザーに起因するコストを可視化し、どのLLMユースケースによりどのようなコストが生じているかを把握することを実現する。
これにより、本番稼働におけるコストと開発コストを明確に区分し、戦略的な財務計画を支援するほか、コスト超過の可能性を早期に特定し、ガバナンスの不備に関連するものなど、財務リスクを軽減できる。
○生成AI利用に伴うコスト把握が課題
企業は、大規模言語モデル(LLM)のパワーを広範に導入するにあたり、関連コストの包括的な把握と管理が必要であることが課題になっているという。
Dataikuの共同創設者兼CEOであるFlorian Douetteau氏は、「AIはあらゆる企業の革新と成長にとって重要な戦略だが、生成AIプロジェクトの潜在的なコストだけでなく、生成AIならではのコストのばらつきに関するビジネスリーダーの懸念も絶えず耳にする」とコメントしている。
こうした生成AI利用におけるコストにまつわる課題を解決するため、「LLM Cost Guard」が発表された。
関連記事（外部サイト）
