使用状況とトークンコストの追跡
AI Hub は、すべての操作を Liferay トークン (LRT) で計測します。これは、基盤となるモデル、コンテンツの安全性、埋め込みコストを 1 つの数値に統合し、追跡および予算編成に使用できる単一の単位です。 残高はアクティビティページで確認できます。また、AI Hubは支出制限を設けているため、アカウントが購入済みの上限を超えることはありません。
AI Hubはあらゆる操作をLRTに変換する：
- 言語モデルは、エージェントがモデルに送信するリクエストと、エージェントが受け取るレスポンスを — と呼び出します。
- エージェントの実行ステップ — エージェントが実行する各言語モデルまたは AI 決定ステップ。 言語モデルステップが2つあるエージェントは、呼び出しごとに2つの実行ステップとしてカウントされます。
- コンテンツ安全チェック — ガードレールが入力と出力に適用するスクリーニング。
- テキスト埋め込み — は、AI Hub が検索用にコンテンツをインデックス化するときに作成されます。
LRTはブロック単位で購入され、消費量は固定された換算レートを用いて決定される。 各取引の換算レートは、購入時に各ブロックごとに固定されます。 Liferay はレートを変更できますが、変更は新しいレートが有効になった日以降に購入されたブロックにのみ適用されます — 既に所有しているブロックは元のレートを維持します。
プリペイドトークンブロック
AI Hubを使用すると、Liferay Marketplaceアカウントを通じて購入したプリペイドトークンブロックが消費されます。 Liferayトークンはすべて前払い制で、ブロック単位で販売されます。 各ブロックには、5,000、20,000、50,000、または200,000のLiferayトークン（LRT）が格納され、購入日が記録され、変換レートが固定されます。
AI Hubは、最も古いブロックから順に消費します。 各操作におけるトークンの使用量（生データ）は、そのブロックの固定レートでLRTに変換され、その結果はブロックの残高から差し引かれます。 あるブロックで全額を賄えない場合、残りは次のブロックから支払われる。
アカウントの残高はアクティビティページに表示されます。
トークン残高の確認
AI Hubは、アクティビティページにアカウントの概要を表示し、プリペイド残高の残額なども表示します。
-
AI Hub の左側のナビゲーションで、 アクティビティ をクリックします。
-
要約カードを確認してください。
- エージェント：アカウントに登録されているエージェントの数
- チャットボット：アカウント内のチャットボットの数
- 残りのLiferayトークン残高：LRTはプリペイドブロック全体でまだ利用可能です
残高はエージェントの実行が完了すると更新されるため、現在の消費量が反映されます。
残高がゼロになると、プリペイド残高を追加するまで、AI Hubはエージェントの実行をブロックします。
支出制限
AI Hubは利用量に厳格な制限を設けており、アカウントはプリペイド残高が残っている間のみエージェントを実行できます。 別途支出上限を設定することはできません。 — 購入した残高が上限です。 プリペイドブロックがすべて使い果たされると、AI Hub はスロットリングするのではなく、そのアカウントのエージェント実行をブロックし、チャットボットは回答の代わりに 割り当て量 を超えました、と応答します。 再開するには、 Liferayトークンの購入 で説明されているように、Liferay Marketplaceアカウントから新しいブロックを購入する必要があります。
同時リクエスト制限
AI Hubは、支出上限を超えると、アカウントが同時に実行できるエージェントリクエストの数を制限します。 Activateプランでは、各アカウントで最大10件の同時リクエストを実行できます。 アカウントが既に上限に達している場合、AI Hub は新しいリクエストを拒否し、メッセージ 同時リクエストの制限を超えました。そのため、呼び出し元のアプリケーションは待機して再試行できます。 リクエストスロットは短時間のみ保持されます。リクエストが停止したり放棄されたりした場合、AI Hubは1分後にスロットを解放し、管理者による操作は不要です。