画像クレジット:Photo Illustration by Sarah Rogers/MITTR | Photos Getty
AIエージェントを単なるツールではなく「従業員」として扱う企業が増えている。だが、それは人間の仕事の質をむしろ下げるおそれがある。ボストン大学の研究では、作業結果が「AI従業員」によるものだと伝えられた人は、見つけるエラーが18%少なく、自分で直さず上司に判断を委ねる傾向も強まった。
新しい部下が自分の下につくことになったと知らされて出社する場面を想像してほしい。その「部下」は人間ではなく人工知能（AI）ツールだ。しかし会社はそのツールを「アレックス」と呼び、肩書と明確な職責を持つ「従業員」として扱っている。あなたはアレックスとうまく協働できると思うだろうか。
ボストン大学のエマ・ワイルズ教授（ビジネス学）が最近研究したマネージャーたちと似たような人物であれば、アレックスをソフトウェアツールではなく「同僚」として扱うことで、仕事のパフォーマンスが低下するだろう。ワイルズ教授が明らかにしたところによると、作業結果がチャットボットではなくエージェント型の「AI従業員」によるものだと伝えられた場合、人々が発見するエラーの数は18%少なかった。名称に何が込められているかは、実に大きな意味を持つのだ。
これは、シリコンバレーが私たちを突き進めようとしている未来の憂慮すべき一端だ。昨年、エヌビディア（Nvidia）のCEOであるジェンスン・フアンは、「デジタルヒューマン」が働く職場について語った。4月以降、マイクロソフト、オープンAI（OpenAI）、アンソロピック（Anthropic）、グーグルはいずれも、AIエージェントのチームを管理することを目的とした新ツールをリリースしており、その多くは実際の人間と同等の柔軟性と認知能力を持つデジタル同僚として明示的に宣伝されている。さらに、ワイルズ教授の研究に参加した1261人のマネージャーのうち約3分の1が、自社ではすでにAIエージェントを従業員として位置づけていると回答しており、23%は組織図にも記載しているという。
もちろん、エージェント型AIの技術的な進歩がすべて誇大宣伝というわけではない。エージェントとは、目標を達成するまでループ処理で動作するよう設計されたAIツールと実質的に捉えることができるが、より複雑なタスクへの対応能力が測定可能な形で向上している。しかし、こうしたツールを同僚や従業員と呼ぶのは大きな飛躍であり、そうすることでAIの能力に対する非現実的な期待が生まれる一方、名目上それらを管理する立場の人間の従業員はかえって不利な状況に置かれることになる。
その一因として、ワイルズ教授の研究が示すように、誰が責任を持つのかという感覚が逆転してしまうことが挙げられる。AIツールが従業員として位置づけられた場合、研究の参加者たちはその出力に対する自分の責任を低く感じた。また、AIが出した疑わしい作業結果を自分で修正するのではなく、さらなる確認のためにマネージャーにエスカレーションする可能性が44%高かった（これはそもそもAIエージェントを使う目的である時間節約の効果を打ち消してしまう）。
この問題はオフィス文化にとどまらない重大な意味を持つ。AIエージェントが医療、軍事、教育、行政に組み込まれるにつれ、人間の誤った意思決定、インセンティブ、監督体制が生み出した失敗の責任を押しつける都合のよい受け皿として利用されるリスクが高まっている（イランの女子校への爆撃がクロード（Claude）のせいだと広く非難されたが、あらゆる証拠は人間による一連のエラーを指し示していたことを思い起こしてほしい）。
「現在のAIエージェントは人間を代替できるものとして売り込まれていますが、それは完全に間違った方向性だと思います」と語るのは、2024年にノーベル賞を受賞し、AIが経済に与える影響を研究するMITの経済学者ダロン・アセモグルだ。「AIは人間の能力を高められるよう最適化されるべきであり、現時点ではそうなっていません。」
では、それはどのような形になり得るのか。スタンフォード大学の新たな取り組みが参考になる。研究者たちは104の職種に就く1500人の労働者に対し、AIが業務のどのタスクを担える可能性があるかを示したうえで、実際に最も役立ち生産性が上がるのは何かを尋ねた。労働者たちは特定の領域での自動化を確かに望んでいた。たとえば法律事務補助員は、AIが各案件の進捗状況を適切に管理するのに役立つと考えていた。しかし、技術の専門家がAIに最も適していると判断したタスク、たとえば営業担当者向けの顧客信用格付けの確認などは、実際の労働者がエージェントに任せたくない、あるいは必要ないと明確に答えたものであることが多かった。
話はアレックスに戻る。アレックスを従業員と呼ぶのは簡単だ。特に何か問題が起きたときには都合もよい。しかしそれはブランディングの話にすぎない。そう呼んだところでツールの性能が上がるわけではなく、ワイルズ教授の研究が示すように、周囲の人間の仕事の質を低下させる。そして忘れてはならないのは、AIが模倣しようとしている主体性を実際に持っているのは人間だということだ。人間はアレックスよりもっとよい扱いを受けるべきだ。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
