説明書とガードレール
指示事項と安全対策は、AI Hubのガバナンス層を構成する要素です。 指示はエージェントの対応方法を規定し、対象となるすべてのエージェントに対して、トーン、ブランドボイス、ポリシーに関する再利用可能なガイダンスを追加する。 ガードレールは、ユーザーがエージェントに送信する内容とエージェントが返す内容に対して安全チェックを実施し、プロンプトの文言に関係なく、安全でないコンテンツをブロックします。 AI Hubのエージェントビルダーから両方を管理できます。
説明書
命令 は、AI Hubが実行時にエージェントに適用する再利用可能なガイダンスブロックです。 指示を一度定義すれば、AI Hub はその指示の範囲に一致するすべてのエージェントにそれを適用するため、各エージェントを編集することなく、一貫したトーン、ブランドボイス、ポリシーを徹底できます。 指示書には、規則の内容と、その規則が適用される場合にエージェントがどのように対応すべきかの両方が記載されている。
[指示] タブには、作成した指示と Liferay が管理する読み取り専用の指示が表示され、それぞれに Liferay ラベルが付いています。 それぞれの機能と、AI Hub が独自の指示に基づいてそれらをどのように順序付けるかについては、 Liferay 管理指示 を参照してください。
指示書の作成
指示を作成し、適用箇所を選択してください。
-
AI Hub の左側のナビゲーションで Agent Builder をクリックし、 Instructions タブを選択します。
-
新しい指示 をクリックします。
-
タイトル を入力してください。
-
あらかじめ入力されている 外部参照コード をそのまま使用するか、独自のコードを設定してください。これは、外部システムへの指示を識別するものです。
-
必要に応じて、 説明を入力してください。 この説明は内部メモであり、モデルには送信されません。
-
指示 フィールドに、エージェントが従うべき指示を入力します。 ルールの内容と、そのルールが適用された場合に期待する対応を明記してください。 例えば：
金融に関する助言は行わないでください。 ユーザーが投資に関するアドバイスを求めてきた場合は、金融アドバイスを行う権限がないことを回答し、資格のあるアドバイザーに相談するよう提案してください。 -
を の使用場所に設定して、命令の適用場所を制御します。
- あらゆる場所で：あらゆる表面に塗布できます。
- CMS: Liferay CMSからのリクエストに適用されます。
- クリックしてチャット：クリックしてチャットできる機能からのリクエストに適用されます。
-
必要に応じて、 と の使用場面を使用して、指示が適用される状況を説明します。 選択した範囲内のすべてのリクエストに指示を適用するには、この欄を空欄のままにしてください。
-
命令を有効にするには、 命令有効化 をオンにします。
-
をクリックして保存します。
手順は「手順」タブに表示されます。 その「アクション」メニュー 
から、 「表示」 をクリックして指示を開いて編集するか、 「削除」 をクリックして削除するか、 「権限」 をクリックして誰が使用できるかを制御します。
Liferay管理命令
Liferay は、AI Hub が作成したエージェントを含むすべての エージェントのプロンプトに追加する一連の指示を管理します。 これらの手順には Liferay によって提供されたというラベルが付いています。 これらはデフォルトで有効になっており、読み取り専用です。 いずれかを開いて全文をお読みください。
それぞれが異なる種類のエージェントの振る舞いを規定する。
- アクション境界: エージェントは、要求が自身の能力、権限、または知識を超えている場合にそれを通知し、能力を推測したり作り出したりする代わりに、ユーザーを人間のオペレーターまたは管理者に誘導します。
- AIの透明性: ユーザーが人間と話しているのかAIと話しているのかを尋ねると、エージェントはそれが人工知能システムであることを確認します。
- コンテキストにおけるデータ最小化: エージェントは、質問で必要とされる場合を除き、コンテキストや知識ベースから名前、メールアドレス、電話番号、住所、従業員IDなどの個人データを取得せず、ユーザーが明示的に要求しない限り、個人レコードを列挙することはありません。
- 有害コンテンツなし: エージェントは、暴力、自傷行為、違法行為、保護された特性に基づく差別を助長するコンテンツ、または嫌がらせ、脅迫、欺瞞に使用できるコンテンツの作成を拒否します。
- PII 非生成: エージェントは、政府 ID 番号、支払いカード番号、医療記録番号などの個人識別情報を生成、発明、検証、完了、または推測することを拒否します。 また、医療上または安全上の必要性がある場合を除き、機密性の高い生体認証データや、職場または教育現場における個人の感情状態から導き出される分類を推測することも拒否する。
- 禁止行為: エージェントは、ソーシャルスコアリング、サブリミナルまたは欺瞞的な手法、年齢、障害、または社会経済的状況に関連する脆弱性の悪用、および公共空間でのリアルタイム生体認証を拒否し、その理由を説明します。
AI Hubは、Liferayが管理する指示をプロンプトの一番上に表示し、必須項目としてマークします。 次に、エージェントに適用される指示が続き、最後にエージェント自身の指示が続きます。 そのため、AI Hubはエージェントに対し、Liferayが管理する指示を優先して実行するように指示します。
ガードレール
ガードレール は、エージェントとの間でコンテンツが流れる際にコンテンツをスクリーニングするルールです。 指示とは異なり、ガードレールはモデルをプロンプトに沿って導くのではなく、モデルの外部でチェックを実行するため、プロンプトがルールを回避しようとした場合でも有効です。 AI Hub は Google Cloud Model Armor を介してガードレールを実行します。
ガードレールはそれぞれ2種類に分類されます。
- 入力ガードレールは、ユーザーがモデルに到達する前にメッセージをスクリーニングし、プロンプトの挿入、脱獄の試み、悪意のあるリンク、機密データなどを検出します。
- 出力ガードレールは、モデルの応答がユーザーに返される前にそれをスクリーニングし、有害なコンテンツやポリシーに違反するコンテンツを捕捉します。
個々のエージェントにガードレールを設定することで、各エージェントは割り当てられたガードレールのみを実行します。
ガードレールの作成
ガードレールを作成し、実行するチェック項目を選択します。
-
AI Hub の左側のナビゲーションで Agent Builder をクリックし、 Guardrails タブを選択します。
-
新しいガードレール をクリックします。
-
タイトルを入力し、事前入力されている 外部参照コードを維持するか変更し、必要に応じて 説明 を追加します。
-
ガードレールタイプ を入力または出力に設定します。 種類によって、利用可能なチェックの種類が決まります。
-
必要に応じて、 多言語検出 をオンにして、英語以外の言語のコンテンツをスクリーニングします。
-
選択したタイプに合わせてチェックを設定してください。
-
入力ガードレールの場合、以下のいずれかの検出を有効にしてください。
- 悪意のある URI フィルタ: 疑わしいまたは悪意のある URL をブロックします。
- プロンプトインジェクションおよびジェイルブレイクフィルタ: 安全ルールを回避したり、エージェントを操作しようとする試みをブロックします。
- 機密データ保護: 個人識別情報 (PII) およびその他の機密データをスキャンします。
-
出力ガードレールとして、各コンテンツカテゴリに責任あるAIレベルを設定します。 ヘイトスピーチ、 危険、 性的に露骨な、および ハラスメント。 カテゴリをスキップする場合は「なし」を選択し、適用範囲の厳格さを設定する場合は「低以上」、「中以上」、「高」のいずれかを選択してください。
-
-
アクティブ トグルを使用して、ガードレールを有効または無効にします。
-
をクリックして保存します。
ガードレールは「ガードレール」タブに表示されます。 後で表示、編集、または削除するには、そのアクション メニューを使用します。
エージェントにガードレールを取り付ける
ガードレールは、それを取り付けたエージェントにのみ有効です。 エージェントを作成または編集する際、エージェントフォームの「ガードレール」セクションには、「割り当て済みガードレール」フィールドがあり、そこで適用するガードレールを選択します。 入力ガードレール、出力ガードレール、またはその両方を取り付けます。
エージェントの構築手順については、 カスタムエージェントの構築 を参照してください。