#
要約
#
それは何ですか?
この拡張機能は、チャットで発生するイベントに基づいて自動的に生成されたサマリーを作成、保存、および活用できます。要約はチャット履歴の一般的な詳細の概要を支援し、長期記憶として解釈される可能性があるものを提供できます。塩ひとつまみで その声明を取ってください。言語モデルがサマリーを生成するため、出力は重要な詳細を失う可能性があるか、ハルシネーションを含む可能性があります。そのため、常にサマリー状態を追跡し、必要に応じて手動で修正することをお勧めします。
#
一般的な構成
要約拡張機能はSillyTavernにデフォルトでインストール済みであり、ST拡張機能パネル(積み重ねられたキューブアイコン)リストに次のように表示されます:
- 現在の要約 - 現在のサマリーを表示し、変更する機能を提供します。サマリーはサマリーが生成されたときにコンテキストにあった最後のメッセージのチャットファイルメタデータに更新され、埋め込まれます。チャットから削除または編集されたメッセージにアタッチされたサマリーを削除または編集すると、最後の有効なサマリーの状態に元に戻ります。
- 前を復元 - 現在のサマリーを削除し、前の状態に戻します。これは要約がある時点で不十分な仕事をしている場合に役立ちます。
- 一時停止 - 要約が自動的に更新されるのを防ぐこれをチェック。これは独自のカスタム要約を提供する場合、またはボックスをクリアして更新を停止することで効果的に要約を無効にする場合に役立ちます。
- ポップアップウィンドウ - 要約をサイドバーの移動可能なUIパネルに分離することができます。デスクティプ レイアウト用に簡単に要約設定にアクセスできたり、拡張機能メニューを移動したりすることなく。
- 挿入テンプレート - サマリーが通常のチャットプロンプトに挿入される場合の詳細を定義します。特別なマクロを使用して、プロンプト挿入テキスト内の現在の要約状態の正確な場所を示す必要があります。
- 挿入位置 - プロンプト挿入の場所を設定します。オプションはAuthor's Notesの場合と同じです:メインプロンプトの前/後、またはチャット内の指定深さ。
#
サポートされているサマリーソース
#
メインAPI
要約は現在選択されているAIバックエンド、モデル、および設定によって提供されます。このメソッドは追加のセットアップを必要とせず、働くAPI接続が必要です。
このオプションには、サマリープロンプトの構築方法が異なるいくつかのサブモードがあります:
- 生、ブロック。要約はサマリープロンプトとチャット履歴のみを使用して生成されます。後続のプロンプトは、サマリーが生成された後に送信されたメッセージを含む前のサマリーも含まれます。このモードは、プロンプトで多くのバリアビリティを生成し、llama.cppおよびその派生物など遅いプロンプト処理時間を持つバックエンドでは推奨されません。
- 生、ノンブロック。上記と同じですが、チャット生成はサマリー生成中はブロックされません。すべてのバックエンドが同時リクエストをサポートしているわけではないため、要約が失敗する場合はブロッキングモードに切り替えてください。
- クラシック、ブロック。要約プロンプトは通常の生成プロンプトの最後に送信されます。ニュートラルシステム命令として、キャラクターカード、メインプロンプト、サンプルダイアログ、およびチャットプロンプトの他の部分を省略しません。これは通常llama.cppおよびその同伴を有することで再利用されたプロンプトで上手くプレイします。これはllama.cppとその兄弟で使用することをお勧めします。