チャットAIはまだウソをつく
そんなGoogle I/Oの目玉はやはり、AIチャット「Bard」でした。3月下旬に欧米でサービスが開始されましたが、日本語対応への発表と同時にサービスを開始したんです。しかし実際に触ってみると「これは出して大丈夫なのか」というような出来でした。質問に対する回答が、ウソばかりなんですよね……。まあ、マイクロソフトのBingも相変わらずひどいし、ChatGPT(GPT-4)でも誤った情報を出してくるんですが。
そのひとつが「写真の登場によって当時の絵描きが仕事を失った」という言説についての説明です。
これは画像生成AIについて議論になっている話題なんですが、これについてChatGPT(GPT-4)に聞いたところ「19世紀に、写真が登場した影響で風刺画家の仕事がなくなり困窮した」というオノレ・ドーミエという画家を紹介してきたのですね。「なるほどな」と思ってツイートしたら「それ間違いですよ」と指摘をいただいた。調べたらその通りで、「違うじゃないか」とChatGPTに問い詰めたら、「私の以前の説明には矛盾があります。申し訳ありません。ここで訂正させていただきます」と言ってきました。
それではということで、同じ質問をBardにしてみたところ、Bardは「写真によって職を失ったと主張する思想家がいます。その思想家は、マルクス主義の経済学者であるカール・マルクスです」と言ってきたんです。
この回答を見て「マルクスってそんなこと言ってるの??」と驚いてしまいました。あまりにもはっきり言うので、ウソなのか本当なのか迷ったんですね。なら具体的に書かれている本は何かと聞くと、1848年に出版された『ドイツ・イデオロギー』だと言ってくる。『ドイツ・イデオロギー』は社会主義を解説している内容で、いくら調べても写真に関する記述はないようです。それならばとBingにも聞いてみると「こういうふうに書いていました」とまたもっともらしいウソをついてくる。
一方、同じことをChatGPT(GPT-4)に聞くと「申し訳ありませんが、あなたの情報は正確ではありません。「ドイツ・イデオロギー」において、写真の芸術家への影響については特に触れていません」と否定してきたので、「ChatGPTのほうがちょっとは優秀なのかな……」と思いもしました。どちらにしても、どの大規模言語モデルも出力をそのまま信頼できないことだけは、はっきりわかりました。
この連載の記事
-
第66回
AI
有名人そっくり、増え続けるAI音声 “声の権利”どう守る -
第65回
AI
画像生成AIに照明革命 日本と世界で同時に“神ツール”登場 -
第64回
AI
自分好みのAIチャット相手を簡単に作れる「Dify」が面白い -
第63回
AI
まるで“いけない話ができるChatGPT” ローカルAI「Command R+」の爆発的な可能性 -
第62回
AI
動画生成AI、映像制作の“民主化”目指して研究進む -
第61回
AI
画像生成AI“児童ポルノ”学習問題、日本では表現規制の議論にも -
第60回
AI
3Dアニメーション技術の革新が止まらない -
第59回
AI
政府、生成AI推進に向けて議論を加速 -
第58回
AI
画像生成AIで同じキャラクターが簡単に作れるようになってきた -
第57回
AI
日本発のリアルタイム画像生成AIサービスが熱い 大手にとっては“イノベーションのジレンマ”に -
第56回
AI
画像生成AIの著作権問題、文化庁議論で争点はっきり - この連載の一覧へ