新清士の「メタバース・プレゼンス」 第178回

GPT-4o級モデルが自宅のPCで動いた！　ローカルAIの常識を変える「Strata」

Web検索や画像解析、画像生成も可能に

　Strata+Qwenの環境は、インストールした直後はチャット機能しかありませんが、様々なモジュールを組み込んでいくことで、さまざまな機能を追加することができます。

　クライアントにはMCP（モデル・コンテキスト・プロトコル）の設定があるので、そこを通じてWeb検索ができるように、「web_search」、「read_web_page」、「analyze_image」などの機能を追加していきました。これにより、外部の検索エンジンやページから取得した情報をStrata+Qwenに戻し、検索することができます。

シンギュラリティに関する2026年の論文を検索させているところ

検索結果のまとめ部分

　画像を読み込み、内容を解釈することもできます。画像処理用の「strata-vision」と「mmproj」を組み込むことで、画像をQwenが受け取れる形式に変換できるのです。解析した画像を基に、画像AI用のプロンプトを生成することもでき、ComfyUIといった外部AIアプリを操作して画像を作り出すこともできます。冒頭の画像は、この連載のモデルである明日来子さんの画像を分析させ、画像AI「Krea2」用のプロンプトを作成させ、筆者が作成したComfyUIのラッパーアプリを通じて画像として生成させたものです。

　同じ機能を拡張し、PDFを添付して、そのテキスト内容を読み取るといった用途にも使えます。

　こうしたカスタマイズ作業は、クラウドAIに指示すれば、かなり容易に進められます。クラウドAIを使って、ローカルLLMをカスタマイズしていくわけですから、奇妙な関係です。ただ、GPT-4oクラスのAIが自宅で動いているというのは、プラモデルでも組み上げているようで楽しい気がします。

明日来子さんの画像を解析させている様子

画像解析結果から、画像AI「Krea2」用の自然言語のプロンプトを作成させたところ