説明書とガードレール
指示事項と安全対策は、AI Hubのガバナンス層を構成する要素です。 指示はエージェントの対応方法を規定し、対象となるすべてのエージェントに対して、トーン、ブランドボイス、ポリシーに関する再利用可能なガイダンスを追加する。 ガードレールは、ユーザーがエージェントに送信する内容とエージェントが返す内容に対して安全チェックを実施し、プロンプトの文言に関係なく、安全でないコンテンツをブロックします。 AI Hubのエージェントビルダーから両方を管理できます。
説明
命令 は、AI Hubが実行時にエージェントに適用する再利用可能なガイダンスブロックです。 指示を一度定義すれば、AI Hub はその指示の範囲に一致するすべてのエージェントにそれを適用するため、各エージェントを編集することなく、一貫したトーン、ブランドボイス、ポリシーを徹底できます。 指示書には、規則の内容と、その規則が適用される場合にエージェントがどのように対応すべきかの両方が記載されている。
「指示」タブには、Liferayに組み込まれているシステム指示（読み取り専用）と、ユーザーが作成する指示の2種類が表示されます。 システム命令が優先され、追加した命令で上書きすることはできません。
指示書の作成
指示を作成し、適用箇所を選択してください。
-
AI Hub の左側のナビゲーションで Agent Builder をクリックし、 Instructions タブを選択します。
-
新しい指示 をクリックします。
-
タイトル を入力してください。
-
あらかじめ入力されている 外部参照コード をそのまま使用するか、独自のコードを設定してください。これは、外部システムへの指示を識別するものです。
-
必要に応じて、 説明を入力してください。 この説明は内部メモであり、モデルには送信されません。
-
指示 フィールドに、エージェントが従うべき指示を入力します。 ルールの内容と、そのルールが適用された場合に期待する対応を明記してください。 以下に例を示します。
Do not provide financial advice. If the user asks for investment recommendations, reply that you aren't authorized to give financial advice and suggest contacting a qualified advisor. -
を の使用場所に設定して、命令の適用場所を制御します。
- あらゆる場所で：あらゆる表面に塗布できます。
- CMS: Liferay CMSからのリクエストに適用されます。
- クリックしてチャット：クリックしてチャットできる機能からのリクエストに適用されます。
-
必要に応じて、 と の使用場面を使用して、指示が適用される状況を説明します。 選択した範囲内のすべてのリクエストに指示を適用するには、この欄を空欄のままにしてください。
-
命令を有効にするには、 命令有効化 をオンにします。
-
［Save（保存）］をクリックします。
手順は「手順」タブに表示されます。 後で表示、編集、または削除するには、そのアクションメニュー 
を使用してください。
ガードレール
ガードレール は、エージェントとの間でコンテンツが流れる際にコンテンツをスクリーニングするルールです。 指示とは異なり、ガードレールはモデルをプロンプトに沿って導くのではなく、モデルの外部でチェックを実行するため、プロンプトがルールを回避しようとした場合でも有効です。 AI Hub は Google Cloud Model Armor を介してガードレールを実行します。
ガードレールはそれぞれ2種類に分類されます。
- 入力ガードレールは、ユーザーがモデルに到達する前にメッセージをスクリーニングし、プロンプトの挿入、脱獄の試み、悪意のあるリンク、機密データなどを検出します。
- 出力ガードレールは、モデルの応答がユーザーに返される前にそれをスクリーニングし、有害なコンテンツやポリシーに違反するコンテンツを捕捉します。
個々のエージェントにガードレールを設定することで、各エージェントは割り当てられたガードレールのみを実行します。
ガードレールの作成
ガードレールを作成し、実行するチェック項目を選択します。
-
AI Hub の左側のナビゲーションで Agent Builder をクリックし、 Guardrails タブを選択します。
-
新しいガードレール をクリックします。
-
タイトルを入力し、事前入力されている 外部参照コードを維持するか変更し、必要に応じて 説明 を追加します。
-
ガードレールタイプ を入力または出力に設定します。 種類によって、利用可能なチェックの種類が決まります。
-
必要に応じて、 多言語検出 をオンにして、英語以外の言語のコンテンツをスクリーニングします。
-
選択したタイプに合わせてチェックを設定してください。
-
入力ガードレールの場合、以下のいずれかの検出を有効にしてください。
- 悪意のある URI フィルタ: 疑わしいまたは悪意のある URL をブロックします。
- プロンプトインジェクションおよびジェイルブレイクフィルタ: 安全ルールを回避したり、エージェントを操作しようとする試みをブロックします。
- 機密データ保護: 個人識別情報 (PII) およびその他の機密データをスキャンします。
-
出力ガードレールとして、各コンテンツカテゴリに責任あるAIレベルを設定します。 ヘイトスピーチ、 危険、 性的に露骨な、および ハラスメント。 カテゴリをスキップする場合は「なし」を選択し、適用範囲の厳格さを設定する場合は「低以上」、「中以上」、「高」のいずれかを選択してください。
-
-
アクティブ トグルを使用して、ガードレールを有効または無効にします。
-
［保存］をクリックします。
ガードレールは「ガードレール」タブに表示されます。 後で表示、編集、または削除するには、そのアクション メニューを使用します。
エージェントにガードレールを取り付ける
ガードレールは、それを取り付けたエージェントにのみ有効です。 エージェントを作成または編集する際、エージェントフォームの「ガードレール」セクションには、「割り当て済みガードレール」フィールドがあり、そこで適用するガードレールを選択します。 入力ガードレール、出力ガードレール、またはその両方を取り付けます。
エージェントの構築手順については、 カスタムエージェントの構築 を参照してください。