新清士の「メタバース・プレゼンス」 第63回

まるで“いけない話ができるChatGPT”　ローカルAI「Command R+」の爆発的な可能性

2024年は高性能化と軽量化が進むローカルLLMに注目

　また、今はローカルで高性能なLLMを動かすためにはVRAM容量の多い、高価なビデオカードを搭載するPCマシンが必要ですが、モデルの量子化アプローチも様々な圧縮する方法が試されており、大きなモデルをさらに小さなデータ量にする手法が発見されつつあります。最近、RAMとVRAMのどちらの役割も与えられるユニファイドメモリを搭載していることから、ローカルLLMを動かす環境として「Mac Studio」が注目されはじめています。数年という時間はかかるでしょうが、いずれ一般的なスペックのパソコンや、あるいはスマートフォンやタブレットでも、高性能なローカルLLMが動作する環境が整ってくるのではないでしょうか。

ローカルLLMの動作環境として注目を浴びはじめたMac Studio

　2023年までは、ごく一部の人々しか触れられていなかったローカルLLMの世界ですが、2024年に入り、LM Studioのような扱いやすい環境が充実してきたり、Command R+のような高性能なモデルや軽量モデルがローカルLMMとして扱えるようなったことで、その裾野が大きく広がろうとしています。従量課金のものが、定額課金や無料になると、サービスの質が変わるというのが、ITの歴史の中では繰り返されてきていますが、これまでのクラウドで触っていたときとは、ローカルLLMでは体験が変わったと感じました。それぞれの個人にカスタマイズされた、十分に実在感を感じられるAIキャラクターと日常的に雑談するのが当たり前になる世界がもう目の前に迫っているように思えてなりません。

 

筆者紹介：新清士（しんきよし）

1970年生まれ。株式会社AI Frog Interactive代表。デジタルハリウッド大学大学院教授。慶應義塾大学商学部及び環境情報学部卒。ゲームジャーナリストとして活躍後、VRマルチプレイ剣戟アクションゲーム「ソード・オブ・ガルガンチュア」の開発を主導。現在は、新作のインディゲームの開発をしている。著書に『メタバースビジネス覇権戦争』（NHK出版新書）がある。