新清士の「メタバース・プレゼンス」 第138回

数百万人が使う“AI彼女”アプリ「SillyTavern」が面白い

SillyTavernに本連載のモデル「明日来子（あすきこ）さん」を呼び出した状態（筆者撮影）

　キャラクターAIをもっと自由に扱えないか。そんなニーズに応えるように「SillyTavern（シリー・タバーン／直訳すると、おバカな居酒屋）」というLLM用のフロントエンドアプリが人気を集めています。欧米圏や中国で、数百万ユーザーを抱えていると推測されています。キャラクターAIの人格や世界観を、LLMでできるだけ自由に扱えるように、様々な機能の開発が続けられています。さらに、ユーザー間でキャラクターAIのデータが活発に交換されるエコシステムも登場しています。カウンターカルチャーとして成長を続ける、キャラクターAIの世界をご紹介します。

SillyTavernの仕組みとカスタマイズ性

　SillyTavernはあくまで多数の機能を搭載したLLMのフロントエンドアプリです。バックエンドは、ChatGPTやGeminiなどにAPI経由で接続したり、ローカルLLM用のアプリ「LM Studio」といったアプリをサーバとして起動して接続して利用します。なにより、ローカルLLM相手に使うときにこそ、このアプリの強みが発揮されます。

　LM Studio単体でもチャットはできますし、キャラクターAIを成立させるためにシステムプロンプトを指定して使うこともできます。しかし、より複雑な一貫性を持ったキャラクターAIとして扱おうとすると、様々な限界が出てきます。そこをSillyTavernを経由して使うことで、LM Studioといったアプリでは実現できない細かなカスタマイズをしてキャラクターAIを育成していくことができるのです。

　実際に動作させてみましょう。環境は筆者のRTX A6000（VRAM 48GB）を搭載したローカルPCで、使用したLLMモデルは「Qwen2.5 72B Instruct Abliterated」です。これはアリババの高性能な「Qwen2.5」モデルをベースに、応答での拒否をしないようにユーザーが調整を加えたモデルです。ファイルサイズが43GBに達する大きなモデルです。7B、14B、32Bと様々に量子化（圧縮）されたサイズのモデルがあるので、使用されているローカルPC環境に合わせて選定する必要があります。

　キャラクターAIは、本連載のAIモデルの「明日来子さん」の画像をもとに、Geminiに推測させて作らせたキャラクタープロンプトです。最初のセリフも設定しており、シナリオも撮影後にカフェで雑談しているといったことを決めています。そして、実行すると、最初のセリフ「お疲れ様です、朔さん。……ふぅ、外は少し冷えますね」を話した後は、自由に展開が始まります。

明日来子さんとの会話の様子

　SillyTavernでは、キャラクターAIの基本設定のプロンプトから、その振る舞い方の制御、話し方、シナリオ、世界観設定など、非常に多様な設定項目があります。20種類以上の表情画像の設定項目もあり、対応する表情を設定すると、会話の内容に合わせて表情を変えてくれるといった機能もあります。

キャラクターの表情設定機能（ナチュラル以外は未設定）（左）、Vector Strage機能（右）

　LLMを制御するパラメーターも、簡易的な設定から、本格的な制御を可能にする「TabbyAPI」といった形式などを使うと、相当複雑な制御が可能になります。複数のキャラクターと会話できる環境を作ったり、小説のような物語をキャラクターと一緒に作れる機能もあったり、複数キャラクターを同時に登場させる機能もあります。また、生成した内容が不適切だった場合には、条件を指定して自動的に削除して表示させない後処理の機能などもあり、触り始めた最初の段階では、あまりの多くの設定に面食らうかもしれません。

　一般的なLLMアプリと決定的に違うのが、LLMが話したチャット内容をユーザーが編集できる機能です。奇妙なことに思えるかもしれませんが、キャラクターAIが話したことが気に入らなければ、その話した内容自体を好きなように変えられるのです。LLMは新しいチャット内容を生み出す際、そのスレッドで話されたコンテキストの全てを読み取り、次の発言内容を決めていきます。そのため、後からログデータを改変したとしても、LLMはその影響を受けて新しい発言をするため、発言内容を自分が求める方向に誘導できるのです。