ウイングアーク1stのUpdataNOW 26基調講演で見えたAI活用の現在地
トークンコスト、データ主権、コンテキスト腐敗 AI時代を生き残るためのデータ戦略とは?
2026年11月18日 11時00分更新
提供: ウイングアーク1st
AIエージェント時代は、使う個人にも「責任」がある
「AIを『使う』から『任せる』へ AI時代の責任と信頼」をテーマに講演したのは、 トヨタ自動車 先進データサイエンス統括部 DS基盤開発室 室長の山室 直樹氏。AIに質問し、答えを得るというチャットベースのAI時代から、業務自体を任せられるAIエージェントの時代に突入し、問われている「どこまで任せられるか」について持論を披露する。
山室氏が披露したのは、「企画・検討」「情報収集・分析」「作成・実行」「運用・継続」というごくありふれた製造業のビジネスフローだ。このフローを元に、山室氏はAI以前に日本が取り組んでいたDXとの比較を披露する。「DXも同じく、どこまで人に任せるか、ツールに任せられるかが大事でした。DXのときも、ツールを導入する際に、仕事そのものを再設計しました。これはとても大変でしたし、ここにいるIT部門でも心労の伴う作業だったと思います」と語る。
しかし、AI時代になると、この仕事の再設計自体が頻繁に行なわれる。「AIエージェントは容赦ないので、ちょっとバージョンが上がるだけで、使えるものが使えなくなったり、逆によりよい未来が見えることになる」と山室氏は語る。
一方で、AIを使う側には相応の責任が伴うことになる。欧州では、「レスポンシブルAI」と呼ばれる概念によって、すべての人に公正な「公平性」、安定して期待通りに動く「信頼性」、人や社会に危害を与えない「安全性」、個人の情報を適切に扱う「プライバシー」、判断の根拠を説明できる「説明責任」、仕組みやプロセスがわかる「透明性」などが規定されている。山室氏はこれらに加えて、個人が「AIを使う責任」を負うことで、はじめてAIを安心して社会に活かせると語る。特に結果について説明し、引き受ける説明責任が重要になるという。
生成AI以前、AIは技術的に難しかったため、知識のあるエンジニアが利用するものだった。限られた人が作り、使うものだったため、開発者がシステムを作り、管理職が運用を管理し、会社が責任を負うという責任モデルが機能していた。社員全員はAIを使う時代になると、使う責任も全員が負わなければならない。「使う個人が説明責任を感じながら、AIを使う責任を履行する必要がある」と山崎氏は語る。
とはいえ、これは容易ではない。社員Aが社内資料をAIに入力し、AIプロバイダーが「誤っている可能性がある」という但し書きがある生成AIで回答や資料を作成する。そして、この資料を別の社員Bがレビューして、営業資料として使い、書かれていた内容が誤っていた場合、これは社員いったい誰が悪いのかという話になる。「結局はみんなが守っていかないと、会社の成果物として出すのが難しいことになる。一人ひとりがその工程で使う責任を持つ必要がある」と山崎氏は語る。
国民性を活かしたコンテキストで、AIもジャパンクオリティを実現せよ
では、AIを使う責任は個人に帰する精神論になるのか? もちろんそんなことはなく、企業はAIを正しく使うための環境を整える必要があるという。なにをしてよいのかのルール、安全に使えるツール、信頼できるデータの提供、使った履歴を残せる仕組みなどだ。「一人ひとりの行動と、企業の仕組みが揃って、はじめて信頼されるAIの活用が実現する」と山崎氏は語る。
実際、トヨタ自動車もデータの真正性・完全性・来歴を証拠として残し、AIや業務で安全に利用するためのデータ保全プラットフォーム「PCE(Proof Chain of Evidence」というSaaSプロダクトを提供している。社内の業務データを自動収集し、いつ、誰が、なにを、どう残したかを改ざん不能な形で登録し、AI開発や学習に利活用できる。
個人として負うべき責任、企業が提供する使えるAI環境、そして山室氏が特に重要だと考えるのが、社会・業界でのルールだ。「AIの世界は輝ける日本に戻るための最後のピースだと思っています。日本人って奥ゆかしいし、丁寧で、細かい。日本のプロダクトをけなす人はそうそういない。これってベースは国民性だと思います」と山崎氏は語る。
安全に、信頼性の高いAIをみんなで使える社会。これを山崎氏は、現在の自動車社会と照らし合わせる。「車って2トンくらいあるんですが、あれが60kmくらいで走ると、すごいエネルギーが発生して、人は生きていられません。でも、みなさん平気で車の近くを歩ける。これはどんな根拠があるのか?ということです」と山崎氏。安全な自動車、危ない運転をしない運転手、歩行者を守るガードレース、道路を利用するための法令など、すべてが合わさって高い信頼性が実現されている。これがまさに国民性に由来するという論だ。
こうした国民性は、コンテキスト生成に活かせるという。「AIの出力は入力の質で大きく変わります。諸外国では気づかれないような細かい入力データを整備し、僕はこれ(コンテキスト生成)をみんなで積み上げていけば、すごくクオリティの高い出力ができるはず。でも、これは一人ひとりでやっても意味がない。今の日本の安全神話は、諸先輩方が血のにじむ努力で実現したもの。この日を境に一人ひとりが強い意識を持っていけば、AIでもジャパンクオリティ、ジャパンブランドを実現できるはず」と聴衆にアピールした。
本記事はアフィリエイトプログラムによる収益を得ている場合があります











