チャット生成Q&Aアプリケーションの作成¶
プレミアム機能
チャット生成Q&Aアプリケーションは、GenAIのプレミアム機能です。 この機能を有効にするには、DataRobotの担当者にお問い合わせください。
DataRobotでチャット生成のQ&Aアプリケーションを作成し、ナレッジベースのQ&Aユースケースを探索しながら、生成AIを活用してビジネス上の意思決定を繰り返し行い、ビジネス価値を示すことができます。 Q&Aアプリは、構築したLLMモデルの結果をプロトタイプ化、調査、および共有するための直感的で応答性に優れた方法を提供します。 Q&Aアプリは、生成AIの会話を引用で強化し、回答に関するフィードバックを提供できるようにします。 さらに、DataRobot以外のユーザーとアプリを共有して、使いやすさを広めることもできます。
テキスト生成デプロイの準備¶
チャット生成Q&Aアプリケーションを構築するには、最初にデプロイを準備して設定する必要があります。 テキスト生成ターゲットタイプでデプロイを作成する必要があります。
備考
Q&Aアプリの LLMをデプロイする場合は、アプリの回答に引用を提供するために、Q&Aアプリ機能を有効にした 後 でプレイグラウンドLLMをモデルワークショップに追加してください。
デプロイを作成した後、Q&Aアプリの回答のフィードバックを収集するために外部カスタム指標を設定することができます。
-
コンソール > デプロイページから、デプロイにアクセスします。 デプロイを選択し、モニタリング > カスタム指標タブに移動します。
-
新しいカスタム指標を追加をクリックして、ドロップダウンから外部カスタム指標を追加を選択します。
-
以下のスクリーンショットに示すようにフィードバック指標を設定します。 設定が終了したら、カスタム指標を追加をクリックします。
-
さらに、送信されたフィードバックを（カスタム指標を介して）関連付けられたプロンプトおよび回答データと共に保存するために、デプロイの 関連付けIDを設定します。 関連付けIDがない場合、フィードバックカスタム指標では、時刻値で集計された回答のみを保存できます。
-
適切なカスタム指標でデプロイを設定した後、デプロイIDとカスタム指標IDをメモします。 これらは、チャット生成Q&Aアプリケーションの構築に使用されます。 カスタム指標IDを見つけるには、デプロイの設定されたカスタム指標のアクションメニュー を選択して編集をクリックします。 ダイアログボックスに指標IDが一覧表示されます。
チャット生成Q&Aアプリケーションの構築¶
チャット生成Q&Aアプリを構築するには、次の手順に従います。
-
レジストリで、アプリケーションページをクリックしてから、ページの右上にある新しいアプリケーションソースを追加 > テンプレートギャラリーからアプリを作成をクリックします。
-
テンプレートギャラリーからQ&Aチャット生成アプリテンプレートを選択してから、アプリケーションのソースを作成をクリックします。
-
アプリケーションソースのページで、ランタイムパラメーターセクションまで下にスクロールし、鉛筆アイコンをクリックして
CUSTOM_METRIC_IDとDEPLOYMENT IDのパラメーターを編集します。 カスタム指標IDと、 以前に設定したテキスト生成デプロイのIDを指定します。 -
デプロイとカスタム指標IDを指定した後、アプリケーションを構築をクリックします。 すべてのアプリケーションリストにアプリケーションが初期化中ステータスで追加されます。 構築した後、開くをクリックしてアプリケーションを表示して使用できます。
備考
アプリケーションタブのカスタムアプリケーションの横にあるアクションメニュー をクリックして、アプリケーションを共有または削除できます。
チャット生成Q&Aアプリケーションの使用¶
チャット生成Q&Aアプリケーションの使用を開始するには、レジストリに移動し、アプリケーション > すべてのアプリケーションリストでQAアプリを見つけて、開くをクリックします。
備考
Q&Aアプリケーションがロードに失敗した場合、または開くボタンに警告アイコンが表示された場合は、アプリケーションソースのログを確認して、動作のトラブルシューティングを行ってください。 アプリが他のユーザーと共有されている場合、他のユーザーのログにエラーが保存されることがあります。
Q&Aアプリケーションがロードされたら、チャットを開始するよう求めるプロンプトが表示されます。 アプリが実行され、少し時間が経ってからプロンプトに回答が返されます。
アプリは、レスポンスのレイテンシーや信頼性スコアと一緒に回答を返します。 プロンプトの回答のサムネイルで上または下を選択することで、アプリケーションのフィードバックを提供できます。 （フィードバックを得るには、プロンプトレスポンスフィードバックを収集するための カスタム指標を設定する必要があります。)
さらに、引用をクリックすると、アプリケーションがプロンプトに対する回答を検出するソースの詳細を示すダイアログボックスが表示されます。
チャット生成Q&Aアプリケーションの管理¶
コードファーストのワークフローを使用して、チャット生成Q&Aアプリケーションを管理できます。 フローにアクセスするには、DataRobotのGitHubリポジトリに移動します。 このリポジトリには、アプリケーションコンポーネントのための変更可能なテンプレートが含まれています。 これらのコンポーネントには、複数の Streamlit設定が含まれています。 以下のテンプレートの内容の概要を確認してください。
| ファイル | 説明 |
|---|---|
qa_chat_bot.py |
他の必要なすべてのファイルが含むメインアプリ機能 ここでは、基本的なページ設定（タイトル、ファビコン、幅）を変更し、サイドバーや追加のサブページへのリンクなどの追加要素を追加することができます。 |
constants.py |
アプリケーションとユーザー設定用のすべての翻訳可能な文字列：表示名、アプリロゴ、サイドバー設定など |
components.py |
アプリ内で使用されるカスタマイズされたStreamlit要素とデフォルトのStreamlit要素の両方のレンダー関数 |
dr_requests.py |
DataRobot APIリクエスト関数 |
styles/main.scss |
アプリ起動時にCSSにコンパイルされ、SALを介してStreamlitネイティブコンポーネントをカスタマイズするために使用されるSASSスタイルシート streamlit-sal compileを実行して、手動でコンパイルできます。 |
styles/variables.scss |
色や枠線など、さまざまなCSS特徴量を変更するために使用されるスタイル |
.streamlit/config.toml |
Streamlit設定ファイル [theme]の下に、独自のアプリの色を定義できます。 値を有効にするには、アプリを完全に再起動する必要があることに注意してください。 |
このレポジトリで作業するには、レポレポジトリをクローンしてから、上記のファイルを修正して、自分のバージョンのアプリを引き続き開発します。 変更したアプリケーションは、 DRApps CLIまたは アプリケーションページからアップロードしてリリースすることができます。