欧米人の想像する中国の悪名高い社会信用システムは、人工知能（AI）を駆使した人権侵害の監視制度だ。政治的支配を強調するために利用する例を私たちもしばしば耳にする。
たとえば先月、母親の医事紛争について政府の支援を要請したある男性は、要請のたびに10点ずつ減点され、結局1000点の持ち点から950点を剥奪された。しかし、もう一方の話についてはほとんど耳にしない。それは、はびこる詐欺行為や偽造製品、公衆衛生の不備にうんざりしている多くの国民が歓迎している支配構造だ。
これは、サウスチャイナ・モーニング・ポストの記事が物語る、それほど単純ではない現実だ。栄成（ロンチェン）市内のジャカンマージャ村は、社会信用システムの運用に成功して賞賛を受けた地域の1つだ。住民たちは、このプログラムの効果があるとすれば、それはほとんどが良いことばかりだと話す。実際にはAI も他のテクノロジーも関係ないのだ。紙と手作業でポイントが付けられているだけで、多くの人々はこのシステムを単なる末端のお役所仕事と考えている。ましてや日々の生活を大きく動かすようなものとは程遠い。
中国の社会信用システムは、国民が合法的で誠実であることを奨励するために設計されている。国民はボランティア活動や献血、街への投資といった善行に対してポイントがもらえる。一方、交通違反や脱税、高齢の親の世話を怠ったりすると、ポイントを失う。ポイント数によって地域の福祉制度の利用に影響が出る。ポイントの高い人は無料の健康診断を受けたり、暖房費の割引を受けたりできる。 ポイントの低い人は国からの補助金を失ったり、政府関係の仕事に就くことができなかったりする。
この最後の例は欧米ではしばしば権威主義的な政府による自由侵害だと特徴付けられているが、多くの学者は社会信用システムの得点が一般に考えられているほど広範な支配的効果をもたらさないと主張する。実際に、社会信用システムが収集するデータは 、たとえば、銀行が融資をするかどうかを決めるのに必要なデータなどとは合致しない。激しい反発にあえば、規定は改定されこともある。遂寧（スイニン）市では、許可されていない嘆願（住民が高等当局に直接訴えること）による減点を廃止した。したがって、社会信用システムが支配的効果がないとする学者は、システムは強圧的なものというよりもむしろプロパガンダの手段として使われていると話す。ほかにも、このシステムは単に中国文化の長い伝統である道徳的善行の奨励の一環に過ぎず、中国国民はプライバシーや自由というものについて完全に異なった考え方を持っているという指摘もある。
