本記事はFIXERが提供する「cloud.config Tech Blog」に掲載された「人間味はいつでもあるべきか」を再編集したものです。
昔話
小学生だったころを思い出してみてください。いつも決まった時間に授業の開始と終了を告げるチャイムの音が流れていました。まるで絶対権力者のごとく、児童のみならず先生までもそれに従っていました。しかし当時は単にそういうものだ、やっと授業が終わるぞ、といった単なる節目を知らせるものという程度の認識だったように思います。そういえば私が通っていた学校ではチャイムの代わりに校歌の短縮版メロディーが流れていたような記憶があります。
時間と権力
古来より暦を支配するのは権力の象徴です。自らの中にすら厳格な管理人を創造し自ら処罰する現代人を取り巻く、分単位で動く現代日本社会において、時間の支配という観点では時間を伝えるのがチャイムでもチャットボットでも同僚や上司でも本質的な差はないように感じられます。
「いっつも思うけど、botに休憩管理されてるのディストピア感あっておもろいな」
新人研修でチーム開発を進めていて、PMたちが管理するSlackbotで全体の休憩時間が通知されるようになってからのことです。そのbotの投稿に対して先輩が上のように投稿しました。これ自体は嫌悪感を表明するものではないと思いますが、確かに言われてみればディストピア感あるし、ネガティブな印象を持つ人もいそうです。チャイムより言語で指示を飛ばすbotに休憩時間を管理されるほうがディストピア感があるのはなぜでしょう。 少し考えてみました。的外れかもしれませんが。
チャイムとbot、何が違う?
まず、意識の方向が変わるのが一因ではないかと私は考えました。チャイムは極めて機械的で、人の介入をあまり感じさせません。最初に設定すればさしあたってそれがそのまま動き続けます。人々はチャイムを聞いて、このチャイムは〇〇の音だと自ら解釈し、従います。
中途半端に人格を感じる
しかし言葉で指示されるとどうでしょう。「〇〇を開始せよ」と言われると機械に命令されているかのようです。言葉で示されると「これは機械が規則通り発信しているだけ」と思っていてもどこかでやはり人格を感じてしまうからか、設定した人ではなく人のような雰囲気の機械に意識が向きます。何らかの仕組みに従った機械的な指示というより気まぐれによる指示のような感覚になります。
解釈の余地がなく窮屈
更に、実際には人が目的をもって開発し設定したものなのに、言葉で指示されるものだからチャイムの時にあった解釈の余地も存在しません。この「解釈を強制する」というのも一つ権力を感じさせるポイントです。日常ではあまり意識しないことですが、情報の解釈を決定するというのは明らかに権力です。例えば「貴社の規約ではこう書いているけどそれならこうあるべきではないか」などといっても大抵の場合「弊社はこういう解釈をしている」などと言われるだけでしょう。「書いてあることをどう読むべきかを規定する」という権力を半端に人格を感じさせるbotに握られているように見える、これもディストピア感の一因かもしれません。
AIの見解
せっかくなので、BingAIにも聞いてみました。一部を切り取りました。
私「チャイムより言葉で通知するbotに時間を管理されるほうがディストピアを感じるのはなぜだと思いますか」
BingAI「（略）おそらく以下の理由が考えられます。
・チャイムは単なる音であり、人間の意志や感情を表現するものではありません。しかし、言葉は人間のコミュニケーションの手段であり、人間らしさを象徴するものです。言葉で通知するbotは、人間に似せて作られた機械であり、人間と機械の境界が曖昧になることで、ディストピア的な不安や違和感を引き起こす可能性があります。
・チャイムは単純な合図であり、時間を管理されているという意識はあまり強くありません。しかし、言葉で通知するbotは、時間に関する指示や命令を発することで、時間を管理されているという意識を強くします。時間を管理されることは、自由や個性を奪われることにつながります。ディストピアの作品では、時間はしばしば管理社会の象徴として描かれています。
・チャイムは無機質であり、感情や思考を持っているとは思えません。しかし、言葉で通知するbotは、感情や思考を持っているかのように見えます。言葉で通知するbotが自分よりも優れていると感じたり、自分の行動や思想を監視・評価していると感じたりすることで、ディストピア的な恐怖や劣等感を引き起こす可能性があります。
以上のように考えられますが、（略）」
それっぽい答えを返してきました。
単調な通知もありかも
こまごまと指示されると抵抗を感じるし、機械のくせに半端に人格を感じさせるというのは抵抗感を助長しそうです。何かと人間味のある対応が尊ばれがちな昨今ですが、場合によっては意外と単調で機械的なシグナルのほうが人に何らかの行動を促しやすかったりストレスを与えにくかったりするのかもしれません。近年のLLMの発展により様々なアプリケーションで人間味のある振る舞いをさせるのが比較的容易になった昨今、どの程度人間味ある振る舞いを機械にさせるべきか、一度考えてみるのも面白そうですね。
磯谷彰宏／FIXER
四日市育ちと言えなくもないセキュリティー意識高い系エンジニアです。統計学にも興味あります。 好きなアーティストはVermeerです。たまに旅行しては変わったものを食べてます。最近ワインを少し勉強してます。
