新清士の「メタバース・プレゼンス」 第24回

「超知能」も議論の対象：

AIのウソと著作権、国際レベルの問題に

チャットAIはまだウソをつく

　そんなGoogle I/Oの目玉はやはり、AIチャット「Bard」でした。3月下旬に欧米でサービスが開始されましたが、日本語対応への発表と同時にサービスを開始したんです。しかし実際に触ってみると「これは出して大丈夫なのか」というような出来でした。質問に対する回答が、ウソばかりなんですよね……。まあ、マイクロソフトのBingも相変わらずひどいし、ChatGPT（GPT-4）でも誤った情報を出してくるんですが。

　そのひとつが「写真の登場によって当時の絵描きが仕事を失った」という言説についての説明です。

　これは画像生成AIについて議論になっている話題なんですが、これについてChatGPT（GPT-4）に聞いたところ「19世紀に、写真が登場した影響で風刺画家の仕事がなくなり困窮した」というオノレ・ドーミエという画家を紹介してきたのですね。「なるほどな」と思ってツイートしたら「それ間違いですよ」と指摘をいただいた。調べたらその通りで、「違うじゃないか」とChatGPTに問い詰めたら、「私の以前の説明には矛盾があります。申し訳ありません。ここで訂正させていただきます」と言ってきました。

　それではということで、同じ質問をBardにしてみたところ、Bardは「写真によって職を失ったと主張する思想家がいます。その思想家は、マルクス主義の経済学者であるカール・マルクスです」と言ってきたんです。

筆者とBardとのやりとり。この次の会話で『ドイツ・イデオロギー』に書いてあると主張している

　この回答を見て「マルクスってそんなこと言ってるの？？」と驚いてしまいました。あまりにもはっきり言うので、ウソなのか本当なのか迷ったんですね。なら具体的に書かれている本は何かと聞くと、1848年に出版された『ドイツ・イデオロギー』だと言ってくる。『ドイツ・イデオロギー』は社会主義を解説している内容で、いくら調べても写真に関する記述はないようです。それならばとBingにも聞いてみると「こういうふうに書いていました」とまたもっともらしいウソをついてくる。

筆者とBingのやりとり。すべてウソである。また、参照先リンクを飛んでも、該当するテキストは出てこない

　一方、同じことをChatGPT（GPT-4）に聞くと「申し訳ありませんが、あなたの情報は正確ではありません。「ドイツ・イデオロギー」において、写真の芸術家への影響については特に触れていません」と否定してきたので、「ChatGPTのほうがちょっとは優秀なのかな……」と思いもしました。どちらにしても、どの大規模言語モデルも出力をそのまま信頼できないことだけは、はっきりわかりました。

ChatGPTは筆者が書いた質問を否定してきた。しかし、そもそもがChatGPT自身のウソから始まっていることを忘れてはいけない