Dataiku、生成AIにかかるコストを予測・管理するソリューション発表
マイナビニュース2024年3月15日(金)16時33分
Dataikuはこのほど、さまざまなLLMによりアプリケーションを大規模で効率的に構築することができる「Dataiku LLMメッシュ」の新機能として、コスト監視専用ソリューション「LLM Cost Guard」を発表した。
○「LLM Cost Guard」の特徴
「LLM Cost Guard」は、企業のLLM使用状況を効果的に追跡、監視し、生成AIのコストをより適切に予測・管理する。特定のアプリケーション、プロバイダー、ユーザーに起因するコストを可視化し、どのLLMユースケースによりどのようなコストが生じているかを把握することを実現する。
これにより、本番稼働におけるコストと開発コストを明確に区分し、戦略的な財務計画を支援するほか、コスト超過の可能性を早期に特定し、ガバナンスの不備に関連するものなど、財務リスクを軽減できる。
○生成AI利用に伴うコスト把握が課題
企業は、大規模言語モデル(LLM)のパワーを広範に導入するにあたり、関連コストの包括的な把握と管理が必要であることが課題になっているという。
Dataikuの共同創設者兼CEOであるFlorian Douetteau氏は、「AIはあらゆる企業の革新と成長にとって重要な戦略だが、生成AIプロジェクトの潜在的なコストだけでなく、生成AIならではのコストのばらつきに関するビジネスリーダーの懸念も絶えず耳にする」とコメントしている。
こうした生成AI利用におけるコストにまつわる課題を解決するため、「LLM Cost Guard」が発表された。
○「LLM Cost Guard」の特徴
「LLM Cost Guard」は、企業のLLM使用状況を効果的に追跡、監視し、生成AIのコストをより適切に予測・管理する。特定のアプリケーション、プロバイダー、ユーザーに起因するコストを可視化し、どのLLMユースケースによりどのようなコストが生じているかを把握することを実現する。
これにより、本番稼働におけるコストと開発コストを明確に区分し、戦略的な財務計画を支援するほか、コスト超過の可能性を早期に特定し、ガバナンスの不備に関連するものなど、財務リスクを軽減できる。
○生成AI利用に伴うコスト把握が課題
企業は、大規模言語モデル(LLM)のパワーを広範に導入するにあたり、関連コストの包括的な把握と管理が必要であることが課題になっているという。
Dataikuの共同創設者兼CEOであるFlorian Douetteau氏は、「AIはあらゆる企業の革新と成長にとって重要な戦略だが、生成AIプロジェクトの潜在的なコストだけでなく、生成AIならではのコストのばらつきに関するビジネスリーダーの懸念も絶えず耳にする」とコメントしている。
こうした生成AI利用におけるコストにまつわる課題を解決するため、「LLM Cost Guard」が発表された。
「コスト」をもっと詳しく
「コスト」のニュース
-
品質・コスト・納期が向上!5月より『就労証明書』発行業務の自動化ツールを本格始動5月8日15時46分
-
5Gエキスパート集団のISL Networks, ワイヤレスジャパン2024に出展5月8日15時46分
-
DXハイスクール向け「アスクオリジナル AI学習用PC組立キット」を発売5月8日13時46分
-
助太刀、建設ドットウェブと共催セミナーを実施!建設コスト高騰の中で利益を創出するための超実践テクニック5月8日11時46分
-
米新興EVリビアン第1四半期は赤字拡大、設備改修コストが圧迫5月8日11時16分
-
地方の生活コストは本当に安いのか? - FPが地方に移り住んで感じたこと 第143回 新生活でのざっくり家計管理術【変動費編】5月8日11時0分
-
【豪華 資料ダウンロードが無料!】コスト最安で営業電話カットする方法とは?TELハラ対策を実施する手法を公開5月8日10時16分
-
建設ドットウェブ、助太刀と共催セミナーを実施!建設コスト高騰の中で利益を創出するための超実践テクニック5月8日10時0分
-
アングル:AIで出遅れのアップル、近く戦略公表 設備コスト抑制へ5月7日18時23分
-
ネクスウェイ、SMS用いた迅速かつ低コストなオンライン本人確認を提供開始5月7日16時5分
ITニュースランキング
-
1Google、「Pixel 8a」を5月14日に発売 - Tensor G3搭載・120Hz対応で約7万円 マイナビニュース
-
2「スーパーファミコンの試作機」がヤフオク出品、まさかの超高額に? - ネット「すげえ…」「大事になるんじゃ?」 マイナビニュース
-
3aiko、コナン主題歌「相思相愛」MVのロケ地に注目の声 「あの有名な」「飛行機あんなに近く飛ぶのすごいねー!!」 ねとらぼ
-
4「遊戯王」2つのギネス認定、トレカの「最多対戦人数」「最多参加人数」 - ネット「遊戯王しか勝たん」「未だにすごい」 マイナビニュース
-
5新型iPadのPVは、なぜここまで不快なのか 日本の著名クリエイターらが「嫌悪感」続々考察...「多様性を破壊」「『必然性』が欠落」 J-CASTニュース