令和AI、1ファイルでプロンプトの実行フロー定義を行えるプロンプトプログラミング環境を開発
PR TIMES2024年3月25日(月)10時46分
~ChatGPT/オンプレミスLLM等の複数自然言語AIをシームレスに接続~
株式会社令和AIは、プロンプトを組み込んだシステム開発に利用可能な、プロンプトの管理・実行環境を簡素化するプロンプトプログラム実行環境を開発しました。
■ プロンプトプログラム実行環境の必要性
現在、ChatGPT等の自然言語処理AIを使用したシステム開発のニーズは日々増加しています。
それに伴い、自然言語処理AIに投入するプロンプトも複雑化しています。また、単一の文章としてプロンプトを実行するのみならず、複数回のAI呼び出しによる指示フローとしてのプロンプトを定義したり、異なるキャラクターをAIにロールプレイさせ対話させるマルチエージェントシステムでの利用など、複数のプロンプトを組み合わせて、AIの呼び出しを適宜調整するような高度なプロンプト実行処理が増える傾向にあります。
そうしたシステム開発においては、プロンプトの文面の定義のみならず、AIのレスポンスによるフロー分岐の定義や、それら全体をプロンプトプログラム一式として扱ったバージョン管理などが求められます。
そこで令和AIは1ファイルでプロンプトの実行フロー定義を行えるプロンプトプログラミング環境を開発しました。
本環境は、令和AIが展開しているソリューション製品「SnippetBox」で使用されているプロンプト実行ロジックを発展させたもので、プロンプトのリストをプログラムにおける命令列とみなし、内部的にもつ仮想スタックポインタ/仮想レジスタによりプロンプトを順次実行するシステムと、プログラムの制御命令に相当するメタプロンプト命令セットからなります。
使用LLM/後処理ロジック選択概念図:
[画像1: https://prtimes.jp/i/127932/6/resize/d127932-6-551ae968e291e07fc1a3-1.png ]
プロンプトの順次実行システムは、AIのレスポンスから、自然言語AIに投入する指示文章のフローを分岐させたり、スタックにストアする情報を抽出するロジックを選択したり、新しい命令内にスタック内のデータを埋め込むことで、プロンプトの一式をプログラムと同等の自由度を持つ処理構造として作成することが出来ます。
■ 本技術の導入メリット
本技術は、令和AIのAIコンサルティングまたはAI受託開発において基本環境として使用されており、プロンプト開発の効率化、プロンプト管理の簡素化、バージョン管理の簡便化などの効果をもたらしています。
また、メタプロンプトによって定義される呼び出しLLMを調整することで、チャット等の対話フローとして設計されるプロンプト内においても、シームレスに使用するLLMを変更することが出来ます。
これにより、重要な推論を行う部分では高性能なAPIを使用し、そうで無い場合はオンプレミスLLMを使うなど、LLMの利用コスト低減/実行速度最適化に寄与します。
使用LLM/後処理ロジック選択概念図:
[画像2: https://prtimes.jp/i/127932/6/resize/d127932-6-d23ed6eccc17ccada50f-1.png ]
■ 提供形態
AIコンサルティングまたはAI受託開発において、弊社の基本環境として使用、納品物内ライブラリーとして提供いたします。
その際のコードの再利用に関する条件等は別途お問い合わせください。
お問い合わせ先:株式会社令和AI(contact@reiwa-ai.co.jp)
株式会社令和AIは、プロンプトを組み込んだシステム開発に利用可能な、プロンプトの管理・実行環境を簡素化するプロンプトプログラム実行環境を開発しました。
■ プロンプトプログラム実行環境の必要性
現在、ChatGPT等の自然言語処理AIを使用したシステム開発のニーズは日々増加しています。
それに伴い、自然言語処理AIに投入するプロンプトも複雑化しています。また、単一の文章としてプロンプトを実行するのみならず、複数回のAI呼び出しによる指示フローとしてのプロンプトを定義したり、異なるキャラクターをAIにロールプレイさせ対話させるマルチエージェントシステムでの利用など、複数のプロンプトを組み合わせて、AIの呼び出しを適宜調整するような高度なプロンプト実行処理が増える傾向にあります。
そうしたシステム開発においては、プロンプトの文面の定義のみならず、AIのレスポンスによるフロー分岐の定義や、それら全体をプロンプトプログラム一式として扱ったバージョン管理などが求められます。
そこで令和AIは1ファイルでプロンプトの実行フロー定義を行えるプロンプトプログラミング環境を開発しました。
本環境は、令和AIが展開しているソリューション製品「SnippetBox」で使用されているプロンプト実行ロジックを発展させたもので、プロンプトのリストをプログラムにおける命令列とみなし、内部的にもつ仮想スタックポインタ/仮想レジスタによりプロンプトを順次実行するシステムと、プログラムの制御命令に相当するメタプロンプト命令セットからなります。
使用LLM/後処理ロジック選択概念図:
[画像1: https://prtimes.jp/i/127932/6/resize/d127932-6-551ae968e291e07fc1a3-1.png ]
プロンプトの順次実行システムは、AIのレスポンスから、自然言語AIに投入する指示文章のフローを分岐させたり、スタックにストアする情報を抽出するロジックを選択したり、新しい命令内にスタック内のデータを埋め込むことで、プロンプトの一式をプログラムと同等の自由度を持つ処理構造として作成することが出来ます。
■ 本技術の導入メリット
本技術は、令和AIのAIコンサルティングまたはAI受託開発において基本環境として使用されており、プロンプト開発の効率化、プロンプト管理の簡素化、バージョン管理の簡便化などの効果をもたらしています。
また、メタプロンプトによって定義される呼び出しLLMを調整することで、チャット等の対話フローとして設計されるプロンプト内においても、シームレスに使用するLLMを変更することが出来ます。
これにより、重要な推論を行う部分では高性能なAPIを使用し、そうで無い場合はオンプレミスLLMを使うなど、LLMの利用コスト低減/実行速度最適化に寄与します。
使用LLM/後処理ロジック選択概念図:
[画像2: https://prtimes.jp/i/127932/6/resize/d127932-6-d23ed6eccc17ccada50f-1.png ]
■ 提供形態
AIコンサルティングまたはAI受託開発において、弊社の基本環境として使用、納品物内ライブラリーとして提供いたします。
その際のコードの再利用に関する条件等は別途お問い合わせください。
お問い合わせ先:株式会社令和AI(contact@reiwa-ai.co.jp)
「環境」をもっと詳しく
「環境」のニュース
-
<環境に優しく、フードロス削減!季節のフルーツを楽しむ。>新発売「みたあじ フルーツ定期便」発売記念2,000円キャンペーン!特別セール開始のお知らせ5月11日12時16分
-
“しあわせ広がる日比谷の秋” 「第22回日比谷公園ガーデニングショー2024」を今秋開催5月11日12時0分
-
『THE SECOND』は「より長く漫才を続けてもらうための大会」 2年目で裾野拡大、フェア環境一層追求5月11日6時0分
-
尖閣諸島、ヤギ食害で環境悪化 石垣市が調査5月10日19時10分
-
【橋田賞】バカリズム『ブラッシュアップライフ』で作品賞&個人賞W受賞「本当に恵まれた環境だった」5月10日18時25分
-
本社移転のお知らせ|エッジテクノロジー株式会社5月10日18時16分
-
【JPIセミナー】経済産業省「コンテンツ産業を取り巻く環境変化と直近の政策対応」6月6日(木)開催5月10日17時46分
-
トランプ氏、環境規制の撤回約束 石油業界幹部に 米報道5月10日17時4分
-
第8回エコラボフェスタ5月10日16時46分
-
【新商品発売情報】環境にやさしいエコな素材に、キシリトール加工を施した『ひんやりラグランプルオーバー、 ひんやりキーネックプルオーバー』がセシールから新発売!5月10日16時46分