【世界初】あなたに代わって顧客に対応してくれる、世界で最もクイックな音声対話AIをコードを一行も書かずにWebサイトに設置できる Quantz(R)
ThinkX
ChatGPTなどの外部APIを一切用いない、独自のリアルタイムマルチモーダルAIシステム。高速で完全なデータプライバシーを提供。
全世界で10万ビュー近く閲覧されているQuantz(R)の紹介動画 https://x.com/QuantzAI/status/1823327218241855620
AIが人間に代わって会話をすることで、人間のコミュニケーションに費やす時間を大幅に削減するシステムが、営業や面接、社内管理、公的手続きや教育現場などあらゆる場面に浸透していく時代に突入しつつある。
こうした時代を背景に、ThinkX(東京都港区、代表取締役 大塚一輝)は2023年以降、ChatGPTやElevenLabs等の外部APIを用いず、高速で完全なデータプライバシーを実現する、独自のリアルタイムマルチモーダルAIシステムを構築してきた。
(関連記事: https://prtimes.jp/main/html/rd/p/000000005.000054712.html)
67万行の独自コードベースで構築されたQuantz(R) Voice-AI OS。動画にも拡張予定。
このシステムはThinkX社がデータセンター上で管理するハイパフォーマンスGPUサーバークラスター上からホストされ、1台のサーバーで200人の人間と同等の知的処理を同時に行うことができ、30語を超える長文でも800ms未満のスピードで音声応答することが可能な、世界的にも希なシステム*1であり、同社の100万行近いコードベース*3には4件の特許技術(うち2件取得済み)が含まれている。
*3 オープンソースライブラリを除いた同社独自のコードのみをカウントした数
業界で一般的に用いられる"相槌テクニック"を使わずに、"30語以上の実質的な"応答を800ms以内に返すことが可能。(ThinkX社Webサイトより: https://thinkxinc.com/ja/products/Quantz-Voice-AI-OS)
応答速度が1秒未満であることが、"人間らしい快適な会話"に欠かせないため、ThinkX社のマルチモーダルシステムは"実質的な"応答速度にこだわっている。(ThinkX社Webサイトより: https://thinkxinc.com/ja/products/Quantz-Voice-AI-OS)
Quantz(R)はこの、業界最速水準*2を誇り完全なデータプライバシーを守る音声対話AIを、誰でも簡単に10分で一行もコードを書くことなく自分のWebサイト上に構築できるようにしたサービス。
*1 *2 業界を代表する最速クラスのクラウドAIコールシステムOpenCall、RetellAIでは"相槌(フィラー)テクニックが用いられ、ThinkXが提唱する"実質"応答速度の基準では1.0秒を超えるため、1.0秒を切るQuantz(R)を"業界最速水準"とした。
またこれらの他社システムはAPIベースのため、Quantz(R)のように完全なプライバシーを維持せず、同時にデプロイにサーバー側のコーディングが必要なことから、一切のコーディングを必要としないQuantz(R)を"世界初"とした。
(2024年8月時点、自社調査)
Quantz(R)がユーザーと会話すると送られてくるメール。この会話はThinkX社がみずからQuantz(R)サービスを説明させるために自社の公式サイト上で運用しているもの。画像では"Quantz"を誤って"Glants"と発音したユーザーに対し、「それはQuantzのことではないか」と、文脈を踏まえ会話を方向づけする人間的な賢さを見せている。またQuantzの言語モデルは無関係なことを喋らないようにハルシネーションが厳しく制御されている。
実際の利用シーン。ECサイトに組み込まれた音声対話AIが、ボタンを押して「返品できるか」と一声発するだけで、返品ポリシーを説明している。面倒なタイピングも、呼び出しまでの待ち時間もない、電話を過去のものにする新時代の体験。
Youtubeで1万人のチャンネル登録者数をもつAIインフルエンサー,Rohan Paul氏 (https://www.youtube.com/@RohanPaul-AI) によるQuantz(R)サービスの紹介 (日本語訳・全文):
https://x.com/rohanpaul_ai/status/1830946975513973159
営業/コミュニケーション業界はリアルタイム・マルチモーダルAIによって大きくディスラプトされる 🤔
そしてこの流れで、「完全なプライバシーを実現する唯一のシステム」と言うQuantzという新製品を見つけた👨🔧
Quantzはあなたの代わりに顧客と話をする。
このようなシステムが営業、面接、コールセンター、組織のコミュニケーション、あるいは社会のあらゆる場所で普及するにつれ、プライバシーが鍵となるだろう。
-----
Quantzの主な特徴:
🔧 コーディングなしでカスタム音声対話AI作成
⏱️ 「フィラー」テクニック(つまり、メインの応答が準備されている間、「ありがとう」や「わかりました」を最小限に抑える)を使わない、応答時間800ms以下の独自の音声エンジン
⏳ 業界最速の応答時間を誇るプロバイダーという謳い文句がとても気に入っている
🔐 プライバシー中心のアーキテクチャ
🧠 RAGとLLaMA 3の実装
プライバシー・エンジニアリング:
🛡️ 非API依存アーキテクチャ
🔒 第三者から隔離された会話データ。同社は独自の音声エンジンを使用しているため、すべてのモデルは同社のコンピューティング・クラスター内で実行されます。そのため、顧客としては、データのプライバシーについて保証できる。
🖥️ モデルは専用のスーパーコンピューター・クラスター上で実行される。
コア・コンポーネント:
📚 67万行の独自コードベース
📜 4つの特許技術(2つは申請中)
🔄 並列NLPおよび音声処理パイプライン
🌐 カスタムunixソケットベースのバイト転送プロトコルにより、TCP/IPに由来するオーバーヘッドを削減
🖥️ 専用GPUインフラ
スケーラビリティ:
📈 AIエージェントの大規模展開に対応した設計
何百万もの企業にサービスを提供できる可能性
パフォーマンスの主張:
⏳ 会話型AIにおける「1秒の壁」を超える⏱️ 顧客との対話1件あたり5分の時間節約を報告
💼 企業にとって月10時間の節約になると主張
Quantzは印象的な技術仕様を提示しているが、特にコールセンター環境における実際のパフォーマンスとプライバシーの主張を評価するには、独立した検証が必要だろう。
Quantzシステムのデプロイプロセスは非常に簡単で速く見える:
- 非常にシンプルです。セットアップ時間は10分だそうです。
- コーディング不要
- 顧客とのやりとりの自動化を目指す
このチュートリアルビデオでは、セットアップのプロセスを説明している。
https://x.com/QuantzAI/status/1823327223375704477
音声データは同社のコンピューティング・クラスター内で処理されるため、同社は「フィラー技術」を使わずに「1秒の壁」を超えると主張している。
多くの典型的なAPIベースの音声AIエンジンは、「1秒の壁」を超えるのに苦労し、「フィラー技術」の使用に頼っている。これは、メインの応答が準備されている間に、「ありがとう」や「わかりました」などの予備応答を発行することを含む。この方法では、数値上の応答時間は1秒を切るかもしれないが、本題に入るまでに1~2秒かかるため、長時間の対話ではフラストレーションがたまる。
しかし、Quantz Voice-AI OSはこのテクニックを排除し、800ミリ秒以内に本題、つまり本当の応答を提供する。
技術ホワイトペーパーを読んだが、TCP/IP通信のオーバーヘッドを削減し、大量のデータ転送を1台のサーバーで完了できる独自のバイト転送プロトコルで、大規模な並列音声処理パイプラインを実行しているようだ。
このシステムは、ThinkXが管理する専用のGPUスーパーコンピュータによって駆動される。
システム全体は、llama3による合理化されたRAGシステムである - おしゃれな言葉で言うなら - が、彼らは独自の高速で完全なプライベートリアルタイム・マルチモーダルシステムを構築するために多大な労力を費やしている。
ザッカーバーグはローワン・チャン @rowancheung とのインタビューで、llama3は何十億もの中小企業のエージェントになると語った。https://youtu.be/Vy3OkbtUa5k?si=4b9dbuSIY57IDirb&t=1691
そして、Quantzがここで焦点を当てていることの多くは、カスタマーサポートやセールス、従業員や顧客とのコミュニケーションを行うことができるAIエージェントを、あらゆる中小企業に提供することだ。
私は、すべてのビジネスが将来、顧客が会話できるAIエージェントを持つようになると考えています。
ThinkXでは、私たちと一緒に普遍的な価値を追求する知性と不可能に挑戦する心をもった人を募集しています。弊社の仕事に興味のある方はCEO大塚のTwitter (https://x.com/K00TSUKA)までDMをお送り頂くか、商品や取材については弊社公式サイト https://thinkxinc.com/ja/inquiry/product よりお気軽にご相談ください。
関連リンク:
Quantzリリース https://x.com/QuantzAI/status/1823327218241855620
公式サイト(日本語) https://quantz.thinkxinc.com/ja/
ProductHunt https://www.producthunt.com/posts/quantz
チュートリアル動画(日本語字幕対応) https://youtu.be/R0ciYDzMIEc
Quantz紹介動画 (日本語字幕付) https://youtu.be/FD0WaRMISh0