由大数据驱动的“数字声誉”系统正在通过收集和推断个人信息，引发一种“社会冷却”效应。这种效应导致人们因担心被监控和评分而进行自我审查、规避风险，长此以往将抑制社会的多样性、创造力和自由表达。要解决这个问题，我们需要像应对全球变暖一样，提升公众对数据隐私和“犯错权”的认识。
你的数据如何变成评分
当你感觉被监视时，你会改变自己的行为。这可能会限制你冒险或自由表达的意愿。数据中间商将你的数据与他们掌握的更详尽的数据进行模式比对，从而猜测出你从未透露过的成千上万个细节。
这些被推断出的信息可能包括：
- 宗教信仰
- 智商（IQ）
- 政治观点
- 真实的性取向
- 是否容易上瘾
- 是否曾是强奸案受害者
- 是否曾堕胎
- 经济稳定性
- 父母是否在你21岁前离婚
- 是否拥有枪支
“数字声誉”如何影响你的机会
人们开始意识到，这种“数字声誉”可能会限制他们的发展机会，而且这些算法往往充满偏见，并建立在错误的数据之上。
- 求职： 如果你的数据表明你不够“积极”，你可能无法得到理想的工作。
- 广告： 如果你是女性，你可能会更少看到高薪工作的招聘广告。
- 贷款： 如果你在社交媒体上有“坏朋友”，你申请贷款时可能需要支付更高的利息。
- 社交： 如果你的评分不高，交友软件的算法可能不会向你推荐有吸引力的人。
- 税务： 你在社交媒体上发布的内容可能会影响你被税务审计的几率。
社会冷却效应：长期的负面影响
“社会冷却”指的是生活在声誉经济中所产生的长期负面效应。
墨守成规的文化 你是否曾因为担心访问记录被追踪并留下不良印象，而对点击某个链接犹豫不决？越来越多的人感受到这种压力，并开始进行自我审查。
风险规避的文化 当纽约的医生开始被评分时，出现了意想不到的结果。那些努力救治晚期癌症患者的医生，因为死亡率较高而得分较低；而那些放弃救治的医生，即使病人过早死亡，却获得了高分。评分系统会制造不当的激励机制，增加人们迎合官僚式平均值的压力。
社会僵化加剧 数字声誉系统正在限制我们抗议不公的能力和意愿。在某些国家，政府为每个成年公民建立“社会信用分”，评分依据包括犯罪记录、社交媒体言论、购物行为，甚至朋友的分数。低分者在求职、签证、贷款等方面都会受限。
社会压力是最强大也最微妙的控制形式。我们正变得过于透明，这催生了一个将自我审查和风险规避视为新常态的社会。
我们面临的重大问题
- 哲学层面： 我们是变得更守规矩了，但人性是否也因此减少了？在一个将监视作为主流商业模式的世界里，自由意味着什么？
- 经济层面： 我们是否正在削弱我们的创意经济？在一个创意经济中，敢于与众不同的人是我们最宝贵的资源。
- 社会层面： 这会影响我们作为一个社会的进化能力吗？少数群体为争取平等而进行的斗争，在今天已成为被广泛接受的准则。但在未来，少数派的观点还能蓬勃发展吗？
如何应对社会冷却？
我们可以将这个问题与全球变暖进行类比。
- 社会冷却是微妙的： 就像空气污染最初不为人知一样，我们社交环境的“污染”对大多数人来说是无形的。
- 社会冷却是复杂的： 这个问题无法单靠政客、公民、企业家或科学家中的任何一方来解决。
- 公众意识仍然很低： 我们花了很长时间才将石油问题提上议程，而社会冷却问题不能再等那么久。
在未来，随着追求完美的压力越来越大，我们将真正理解隐私的含义。
当算法评判我们所做的一切时，我们需要保护犯错的权利。当一切都被大数据记录下来时，我们需要拥有让错误被遗忘的权利。