ASCII STARTUPについて

メルマガはこちらから

PAGE
TOP

  1. ASCII STARTUP
  2. 生成AIを手軽に導入できるオンプレミス生成AIパッケージ 『Insight Buddy』をリリースしました
  • はてなブックマーク シェアボタン
  • LinkedIn シェアボタン

生成AIを手軽に導入できるオンプレミス生成AIパッケージ 『Insight Buddy』をリリースしました

PR TIMES

株式会社日本AIコンサルティング
オンプレ生成AI　自社情報を熟知した貴社だけの業務パートナー


オンプレ生成AI　社内情報を熟知した貴社だけの業務パートナー『InsightBuddy』
　株式会社 日本AIコンサルティング（大阪府吹田市　代表取締役　香月章宏）は、中小企業をメインターゲットとした、小規模から段階的に導入できるオンプレミス(※1)生成AI導入パッケージ『Insight Buddy』をリリースいたしました。


　昨今、生成AI（LLM※2）のビジネス活用に注目が集まり、大企業がぞくぞくと導入と活用を進める中、中小企業以下の組織にとって独自に生成AIを導入することは技術的なハードルも高く、関心は高いものの導入が進んでいません。また、導入にかかるコスト面から、具体的な活用方法を検証するために試験導入をするのにも二の足を踏んでいるというケースも散見されます。そこで、我々はオープンソースのLLM(CodeLlama-34B)をファインチューニング※3によって社内データ活用に特化させ、かつLLMの量子化によって比較的入手のしやすい一般向けのGPUでも動作可能にすることで、コスト面を含めた導入の容易さを実現しました。さらにPoC※4を起点とした、段階的に生成AIを導入、活用いただける導入支援サービスを展開してまいります。価格は158万円～となります。

　弊社は、『Insight Buddy』の展開によって、誰もが生成AIを気軽に導入でき、ビジネスパートナーとしてAIが当たり前に存在する社会の実現を目指し、活動してまいります。



▼『Insight Buddy』の特徴
○中小企業の実態に合わせた柔軟な導入が可能
　『Insight Buddy』はオープンソースLLMの活用により、継続的な利用にかかるライセンス費用がかからない環境を構築しました。自社内にシステム部門があり、一定のシステムメンテナンスが可能であれば、利活用におけるランニングコストは不要です。また、LLMのアップデートを含めた運用サポートはチケット制としており、必要な際に追加購入可能なため、状況に応じた柔軟な運用が可能です。

　また、ハードウェア面については生成AIの台頭によるGPUのニーズが高まり、価格の高騰や調達リードの延長が続いております。『Insight Buddy』はLLMを量子化することによって、必要な動作環境の軽減を行っており、一般的なデスクトップ向けに販売されているGPUメモリ24GBの環境でも動作可能にし、ハードウェアの調達が比較的容易になっています。企業の状況に合わせた導入・運用に対応可能です。

○RAGによる社内データの効率的な活用
　社内データをLLMに追加学習させる場合、膨大な学習時間が必要となりますが、『Insight Buddy』はRAG※5と呼ばれる技術の活用により、LLM自身が随時学習外の情報を検索して回答することで、追加学習の必要なく社内のデータを活用可能となります。さらに、都度の再学習が不要となるため、常に最新の売上データや在庫情報などを活用することができ、日々の状況が経営のカギとなる中小企業にとっては、常に最新の情報をもとにした経営判断ができるという点で最適な環境となりえます。

『RAGのない世界』と『RAGのある世界』の比較


○オンプレミスゆえの高いセキュリティ
　オンプレミスによる生成AIの導入により、LLMの活動を社内に限定することが可能になり、情報管理およびコンプライアンスの面から、外部に発信することが望ましくない情報のやり取りを社内に留めることができます。また、自社のセキュリティポリシーに準じた運用が可能となるため、既存のセキュリティを維持することが可能です。
　『Insight Buddy』は社内のサーバー上で動作し、RAGによる参照先も社内データに限定することが可能なため、利用者の回答が社外に発信されることは一切ありません。



○導入スケジュール

『InsightBuddy』導入スケジュール
○価格一覧
PoC期間中

PoC期間中の価格一覧
PoC終了後(保守契約)

PoC終了後の価格一覧
サーバー
稼働確認済みの端末をご案内いたします。
稼働確認済み端末の例
　・FRONTIER FRGAG-B760/KD43（NVIDIA RTX4090 24GB）
　・DELL PowerEdge R7625 Rack Server（NVIDIA L40S 48GB 2台）

無料オプション
オンプレAKT-Light：業務ログ分析ソフトAKTを3か月間無料でお使いいただけます。

その他サービス
都度工数に応じたお見積りをさせていただきます。
▼今後の展開
　ハードウェアメーカーとの連携により、GPUやPC、サーバーの調達を含めた総合的な導入提案を展開する体制を整えており、あらゆる企業が生成AIを活用できる環境を手軽に構築できるようサポートしてまいります。PoCからの導入となり、その後の活用提案、導入コンサルティング、本格導入にかかる費用は内容に応じての見積となります。ただし、PoCで構築した環境はそのまま社内資産として活用し続けていただくことが可能です。

　今後は、より企業の生産性・効率性を高められるように、定期的に作成するルーティン資料の自動生成や、定期配信、プログラミング以外の様々な分野の強みを持ったLLMとの連携などの機能拡張を開発、リリースを予定しております。

株式会社 日本AIコンサルティング
　大阪府吹田市豊津町 1-31　ヨシタケビル3F
　製品ページ：https://j-aic.com/service/insightbuddy
　電 話 番 号：06-6369-7870
　メールアドレス：insightbuddy@j-aic.com

株式会社　日本AIコンサルティング
私たちの理念は「楽しめるチームをつくる！」。ＡＩによる「効率的」で「楽しい」チームデザインのソリューションを提供する“チームデザインテック”を展開。人の行動を計測し、分析・評価した結果をチーム設計やマネジメントにフィードバック、生産性、存続可能性の向上を支援。人と時間のInputが減るからこそ、必要な効率的チームデザインと、Outputを高めるための楽しい働き方＆挑戦の機会創出をお手伝いします。