新清士の「メタバース・プレゼンス」 第138回

数百万人が使う“AI彼女”アプリ「SillyTavern」が面白い

好きなテキストを学習できる“RAG”機能が強力

　そして、なにより強力なのが「Vector Storage（ベクター・ストレージ）」の機能です。これを使うことで「RAG（検索拡張生成）」のデータを手軽に作成できます。もちろん、どのような文書を学習させることもできるのですが、極端な話、過去のキャラクターAIとの会話のログデータを学ばせることで、その内容をベクトル情報化して、記憶し、模倣するようになっていきます。もちろん、情報量を絞って、学習させても効果が現れます。

　以前に、「“AI彼女”が自分のパソコンに入る日は近い」で、ローカルLLM用のLoRA作成環境が登場している様子をご紹介しましたが、事前に整形した学習用データを作成するのが非常に手間で課題でした。しかし、RAGであればもっと手軽にローカルLLMに追加で学習させていくことができます。つまり、自分が望むキャラクターAIと会話を続け、そのログデータのRAG化を繰り返すことで、LLMは自分の望むキャラクターへとますます成長する可能性があるのです。

　試しに、過去にこの連載で書いた「AI彼女」関連の記事2万6000字をテキストファイルにして読み込ませてみました。Vector Storageをオンにした後に、SillyTavernのチャット欄にテキストデータを添付してエンターを押すだけで処理が開始されます。使用中のLLMを利用して学習が進み、筆者の環境（A6000搭載PC）では5分程度で完了しました。

　学習させる文字数は、10万字といった小説1冊分ぐらいの膨大な量でも問題なく処理できます。学習には時間がかかりますが、一度、RAG化してしまうと、そのデータはそれほど大きくないため、ストレスなく利用することができます。ただ、学習時に利用したLLMでなければ、的確に動作しないという互換性がない点には注意が必要です。

テキストを読み込ませてRAGを作成している様子。

RAGが作られた結果、その記事内容を反映した応答をするようになる