信用评分堪比《黑镜》老大哥用大数据看着你?

江南仁

Nosedive讲述的是一个无所不在的评价分值覆盖的社会，人性被扭曲的故事。

周围人（同事、店员、出租车司机、乃至路人甲等等）都有权利，对一个人打分，满意到恶劣，几个级别。如果你今天的穿着，有人非常不满意，OK，也许公交车上一个人，对你着你扫描下，自动寻到你的ID，一个负分出去了。评分后的总分，将严重你的社会福利、消费权限等等。每个人都假装满满的正能量，假意奉承，挂着招牌式的笑容。甚至发展出，抱团评分，恶意排斥低分者等手段，造成严重的人性扭曲。

“很不幸，这样的现实即将在中国出现。”外媒评论道。

英国《连线》杂志对此发表深度评论，以下是文章主要内容。

2014年6月14日，中华人民共和国国务院发布《国务院关于发布社会信用体系建设规划纲要（2014-2020）的通知》，提出建立一个国家评分系统，对公民信用进行评分。

评分系统所搜集的信息来自日常活动的方方面面：在实体商店或线上购物，个人在每时每刻的地理位置定位，交友圈子以及彼此之间互动的内容，花在看视频或玩游戏上的时间，支付（或未支付）何种账单和税款。这些数据看上去繁琐浩瀚，但得益于各种智能设备的日渐流行，这些数据搜集起来并不困难。搜索引擎记录搜索内容，移动社交网络记录发帖的内容以及发帖的时间和定位。以Fitbit为代表的可穿戴设备更是专注于心率等身体指标的检测。信用系统基于所有这些信息为个人打出信用评分，显示一个人的诚信程度。所有人的评分经过公开排序，用以确定个人的贷款额度或工作能力、子女可以选择哪所大学，甚至与异性约会的机率。

看上去像是否有“科幻版老大哥在看着你”的既视感？事实是这一切正在眼下的中国大地上发生。中国政府正发展其社会信用体系来评估13亿公民的诚信度，希望通过这一制度“营造守信光荣的舆论氛围。推进政务诚信、商务诚信、社会诚信和司法公信建设。”

阿良：“以德治国”的技术支撑基础？

也有人对这个宏大的目标并不乐观。“在深度和广度上都非常有雄心但难以实现，它审视个人行为和人们读什么书，是一种带有奥威尔式政治扭曲的亚马逊消费者跟踪系统。”瑞典国际事务研究所的中国网络专家Johan Lagerkvist如是描述社会信用体系。荷兰莱顿大学冯·沃伦霍芬研究所学者罗吉尔·克里默斯(Rogier Creemers)将《国务院关于发布社会信用体系建设规划纲要（2014-2020）的通知》翻译成英文，在评论中将其比作“国家保姆对你进行的Yelp点评”。

严格来讲，现阶段公民可以自愿选择是否参与公民评分系统。不过到2020年，它将强制实施。届时中国每个公民和法人（包括所有公司和其他实体）的行为都将被评估，无论其是否自愿。

在2020年全面实施之前，政府正在采取观察和学习的策略。目前政府向8家私营公司颁发了发展社会信用评分系统的许可。其中两个最广为人知的项目分别由中国两大科技巨头支持运营。


第一家是信而富（China Rapid Finance）。

信而富与社交巨头腾讯建立合作，而腾讯旗下的微信拥有超过8.5亿活跃用户。另一边是由阿里巴巴下属公司蚂蚁金服运营的芝麻信用（Sesame Credit）。蚂蚁金服销售保险产品，向中小企业提供贷款。不过蚂蚁金服真正的王牌产品是支付宝（Alipay），人们不仅用支付宝在线购物，还可以在线下就餐、购买电影票甚至相互转账。

芝麻信用还与滴滴出行和百合网等数据平台合作，滴滴出行在去年打败Uber，成为中国最大的网约车服务商。百合网则是中国最大的婚恋网站。不难看出，这些服务将提供何等巨量的数据，供芝麻信用用以评估用户行为，并对其进行评分。

究竟这一评分怎样进行？

芝麻信用使用350～950之间的数值衡量个人诚信程度。阿里巴巴没有对外界展示其计算这些数字的复杂算法，不过表示评分主要考虑五个因素。

第一个是“信用历史”。例如公民是否按时缴纳电费或电话费。

其次是“履约能力”，阿里巴巴在说明中将其定义为“用户履行合同义务的能力”。

第三个因素是“身份特征”，验证手机号码、地址等个人信息。

第四个因素“行为偏好”是让人玩味的地方。

在这一系统下，一个人的消费习惯也将成为衡量他人格的方式。阿里巴巴承认，他们根据用户购买产品的类型来评估用户。

“举例来说，一个一天花十小时打游戏的人会被认为是游手好闲，而经常买尿布的人可能已为人父母，而做父母的通常更有责任感。”

芝麻信用的技术总监李颖赟解释道。可见，系统并非只是调查行为，同时也在“塑造它”。评分系统将促使公民自动远离政府不喜欢的消费或其他行为。

交友状况也在考察范围之内。芝麻信用考察的第五个因素便是“人脉关系”。多传递正能量信息，说政府好话或者夸赞国家经济发展向好，将使你的的分数上升。

阿里巴巴坚称，在社交媒体上发布负面内容不会影响个人评分。（我们不知道这是否属实，毕竟阿里的算法是保密的。）不过等到2020年整个系统正式实施时，情况究竟如何还不好说。


尽管目前无法确定8家试点企业最终谁将负责运营政府的系统，但政府有可能从这些先行试验的系统中吸收数据。若果真如此，这些私营的评分系统即是在为政府搜集信息，其背后的企业可能也别无选择。


在中国，发表不同意见从来不是明智之举，但现在这一行为将直接影响公民的评分。即便个人三缄其口，如果他的一位网友在网上发表了负面言论，他的评分也会受到影响。

社会信用体系受到数百万民众的支持，部分原因是因为若一个人能获得良好的信用评分，就能享受某些特定权益。

如果信用评分达到600分，用户就能通过“ 蚂蚁花呗”享受5000元的借款额度用于线上购物（仅限于阿里系网站）。信用评分达到650分，就可以免押金租车。此外还可以更快捷地入住酒店，或者在北京首都国际机场享受VIP待遇。评分超过666点评分，可以从蚂蚁金服获得5万元的贷款额度。芝麻信用分高于700的人可申请新加坡签证，无需提供在职证明。若达到750分，则能快速办理普通人梦寐以求的泛欧申根签证。

高评分已经成为地位的象征。芝麻信用上线数月之后，将近十万人在微博上晒出自己的信用得分。个人的信用评分甚至能影响到他交友、约会的成功率。在百合网上，信用评分较高的用户排在更前列的位置。

芝麻信用提供提高个人排名的提示，警示与低信用人士交往会有负面影响。一种新职业“分数顾问”可能就此兴起，专门为人们提供提高信用评分的建议，如何快速晋升排名或解除黑名单封锁。

芝麻信用令人想起英剧《黑镜》中的大数据游戏。系统监视所有人的行为，从学校到职场，每个过失都被扣分，善举和正能量则获得加分。若身边人要在网上发负面评论时，家人会阻止他：“不要发这些。这不只会让你的评分降低，还会连累到我。”




照此下去，我们必定也会看到“信用黑市”的诞生，兜售快速提高信用评分的“邪门歪道”。就像微博和朋友圈里的点赞数可以购买一样，有人也会花钱来买评分。信用系统的安全性如何保证呢？黑客（有些甚至受国家支持）可能会改变或窃取这些数字信息。

这一新制度反应一种聪明的思维转变，监管者试图使民众像玩游戏一样遵守规则，从而免于使用强力和恐惧。说白了，这是一种打扮成分数奖励游戏的新管理手段。

2015年10月，BBC新闻记者在北京街采访人们对芝麻信用评级的看法，大多数人都给予了正面评价。谁会公开批评这个系统呢？要知道你的分数可能因此下降。不过在赞扬的同时，很少有人意识到太低的评分会给他们带来不便。人们对这一评分机制的了解程度和了解欲望更是令人忧心。

目前，芝麻信用尚不会直接给用户打出“不可信赖”这样的低分，而是着重用加分来吸引用户。不过芝麻信用总经理胡滔在发言中透露，被评为“不受信任”将无法租车，无法贷款，甚至连求职都有困难。她还透露芝麻信用与教育部门合作，将考试作弊纪录纳入信用评分考量范围，作弊的学生将为自己的不诚信行为付出代价。

或许到2020年全民信用制度强制实施之后，处罚情况也会发生变化。2016年9月25日，国务院办公厅印发《关于加快推进失信被执行人信用监督、警示和惩戒机制建设的意见》，提出加强信息共享和联合惩戒，“构建一处失信、处处受限的信用监督、警示和惩戒体系”。

例如，信用评级较低的人只能使用低速网络，出入餐馆、夜总会或高尔夫球场也会受到限制，甚至出境自由也受影响。此外，信用分数也会影响到一个人的租赁申请、保险购买、贷款额度乃至社保福利。


一些雇主可能不会雇佣分数过低的应聘者，后者也会被公务员、新闻和法律领域等行业拒之门外。高级私立学校也会根据新生或新生父母的信用评分来招生。


这并非空穴来风，而是中国居民面临的现实。正如政府公文中所述，社会信用体系将“使守信者处处受益、失信者寸步难行”。

根据牛津大学哲学与信息伦理学教授卢西亚诺·弗洛里迪（Luciano Floridi）的说法，历史上共有三场关键思想革命改变了人类的自我认知：哥白尼的日心说、达尔文的自然选择理论；弗洛伊德的潜意识理论。

弗洛里迪相信，我们正在进入第四次革命：线上（online）和线下（offline）的界限正在模糊，导致“线上人生”（onlife）时代的到来。他断言，随着世界越来越化身为一个信息圈，物理和虚拟经验不断融合，人们正在获得一个不同于现实身份的“线上人生”。这一转变在Facebook和微博上正在发生。


人们在社交网络上编辑并展示自己理想的生活状态。回忆一下自己使用Uber的经历，乘客和司机之间进行一桩交易，然后互相给对方评分。






不过Uber的评分系统同Peeple比起来，可是小巫见大巫。Peeple诞生自2016年，是一个以人为对象的评分APP。你可以在上面给任何你认识的评分并发表点评——你的爱人、邻居、老板甚至你的前任。所有的评分综合起来，形成一个人的“人品评分”（Peeple Number）。


听上去很有意思？不过请注意，一旦你的名字出现在Peeple系统里，你就无权删掉了。

Peeple在社区准则中划定了一些禁区，包括禁止提及别人的健康状况、不许进行亵渎或性歧视。除此之外，具体的评分和评级机制则并不为外界所知。

目前中国正在实行的信用评级制度尚且是自愿的，但已经初显成效。从2013年失信被执行人名单制度建立直到2017年之间的4年时间里，全国法院共限制615万“老赖”购买机票。


在正式的社会信用体系建立后，对“老赖”的限制或将升级成为黑名单制度。


最高法院执行局局长孟祥表示，最高法与国家发改委等44家单位签署了《备忘录》，实现对失信被执行人的多层面限制。另有165万被加入黑名单的人将无法乘坐火车。

这些系统尚有不完美之处，可能无法周全的考虑到所有情况。比如一个可能因为患病住院而无法按时缴纳账单或罚款的人，应该同那些故意占便宜的人区别对待。这不仅仅是中国的情况，而是所有人在数字世界中都会面临的挑战。如果要用算法处理这些问题，我们就需要对细微差别和矛盾细加甄别，弄清楚它们究竟如何反应现实的生活。

你可能将中国的社会信用体系看作是奥威尔的1984与巴甫洛夫条件反射实验的结合：表现的像个良好公民，因此得到奖赏并自我感觉良好。不过值得注意的是，针对个人的评分系统其实是源自西方世界，并已在那里存在了数十年之久。

70多年以前，美国工程师比尔·费尔(Bill Fair)和数学家厄尔·艾萨克(Earl Issac)发明了信用评分。直到今日，许多公司仍使用FICO评分来制定财务决策，包括确定一个人的贷款利率或者评估其是否有贷款资格。

在中国，大多数人没有信用评分，因此他们也没有信用卡。


“在中国很多人没有房子、汽车或者信用卡，所以信用信息难以衡量。”


一位名叫文泉（Wen Quan，音译）的博主在博客中写道，科技与金融是他写作的主题。


“央行有8亿人的财务数据，但其中只有3.2亿人有传统的信用记录。”


根据商务部的统计，中国企业每年因信用缺失导致的直接和间接经济损失高达6000亿元。

正是由于缺乏国家层面的信用体系，政府试图通过实行信用评分制来解决“信用赤字”问题。


在缺乏管制的市场中，销售假冒伪劣是个棘手的难题。根据经合组织（OECD）的统计，全世界63%的假货——从手表到手提包再到婴幼儿食品——来自中国。


“微腐败的程度是巨大的，所以假如这一方案能够带来更有效的监督和问责，它就可能受到热情的欢迎。”克里默斯说道。

学生和低收入家庭一直是传统信用制度涵盖范围之外的群体，社会信用体系正好可以将他们纳入其中。


首都师范大学哲学社会科学教授王淑芹是参与诚信体系建设的学者之一，她强调没有一个这样的机制，在中国做生意是冒风险的，大约有半数的合同无法履约。


“考虑到数字经济的速度，人们能够快速确认对方的信用十分重要。”她说。

“大多数人的行为由其思想决定，一个信奉社会主义核心价值观的人表现的会更为得体。”




她将道德标准和财务数据列为评估内容之一，作为额外的加分项。

的确，国务院的目标是提高“全社会的诚信意识和信用水平”，从而“提升国家整体竞争力”。


有没有可能这一体系同时被用来作为监视公民的手段呢？


“作为一个中国人，知道自己在网上所做的一切都在被追踪的情况下，我是选择希望知晓被监视的细节，并用这些信息指导自己遵守规则呢？”


生活在上海的博主罗素·马吉德（Rasul Majid）在博客中写道，他写作的主题是设计和游戏心理。“


或是宁愿生活在无知之中，幻想个人隐私仍然存在，并受到统治者的尊重。”


简言之，马吉德认为这一制度反而给了自己更多的对个人数据的控制权。

现实生活中，我们时刻在点评着餐馆、电影、书籍甚至医生。Facebook不用看你的脸就能在照片上认出你——它只需要知道你的衣服、发型和体态——准确度高达83%。


2015年，经合组织发表的一份研究报告显示，在美国，平均每100个居民中至少拥有24.9部联网设备。各种科技公司通过这些机器搜集“大数据”，了解人们的生活和欲求，并试图据此预测我们的行动。

世界各国的政府都在开展监视和评估的工作。在美国，国家安全局（NSA）并不是监视公民网络行踪的唯一部门。2015年，美国运输安全管理局提议扩大PreCheck背景调查，将社交媒体、地理定位和购物记录也纳入审查数据之内。这一提议广受批评，最后被取消，但这并不意味着类似的事情止步于此。我们已经生活在一个算法的世界中，算法根据我们的表现判定我们是否有威胁、有危险或是品行良好。

无论是东方还是西方，人们都在走向一个“线上人生”的未来：个人行为被算法评分，而个人无法抹去或修改这一评价。不过在此之前，我们还可以选择想要什么样的评估系统。是监督者和被监督者彼此透明的互相监督，或是一种秘密、单向的全景监视。

阿良：

很明显，这个排名系统会造成很多的分裂，让精英们得到比他们已经享受的更多的特殊待遇——马太效应。

在法律上也有麻烦，因为它违反了宪法精神，中国宪法中提到，公民有通信的隐私（除非涉及国家安全和刑事罪）。任何组织不得违反宪法。互联网的数据某种程度就是通信隐私的一部分。

这种类型的等级决不会有利于平等，我们不需要实行社会排序系统来增加社会的诚意。我们只需要对他人有更多的同情心，把他们当作平等的对待。

评级制度可能会严重阻碍我们的个人成长，创新和对知识的渴求。政府将能够看到你正在阅读的书籍和你正在研究的内容，如果它不符合目前的政策，那么你可能会得到一个较低的分数。

如果我们不质疑现状，我们如何才能成长为一个社会？

如果我们不能再质疑我们现在的生存状态，质疑我们的环境，那我们怎么能继续作为一个集体来推进？作为一个集体，我们的许多优势在于我们的分歧。

看看地球的状况，如果我们放任而不去批评，我们如何履行地球公民的责任？

一个多元化的社会包括了各种各样的优点和知识的人，但是如果我们都在为争取更好的排名而竞争，那么我们就可能失去很多这种阐述“真知灼见的怪人”，让社会变成看似和谐，却危机四伏的状态。

从老祖宗的太极图就知道，两极对立是客观存在，并相互依存的。它们彼此对立而又相互流通，造成了世界永远的和谐和活力。

当我们用大数据的放大镜，得到一个正义的时候，我们在制造一个新的不正义。我不反对社会评估系统，只是我们要小心地处理它，不能成为割裂社会，制造和强化两级对立的工具。

如果对本文理解有点困难的，我强烈建议你下载，英国科幻系列电视剧“ 黑镜 ” 第三季第1集——“Nosedive”，看看。当然，黑镜系列，每一集都是经典之作，都值得观看。英国真是伟大的，自由思想的王国，这是为什么人工智慧的顶级王者——阿尔法狗能诞生在英国原因之一？当然，被逃亡的马克思当年也是在英国得到庇护，才能写出《资本论》。

睡之精灵

这样的贴子不看都罢了

海妖

站的角度不一样，看法差异很大

拉倒

站的角度不一样，看法差异很大

说得来

这样的贴子不看都罢了

星情

站的角度不一样，看法差异很大

逍遥一派

这样的贴子不看都罢了

爱在梦里飞

这样的贴子不看都罢了

透明

这样的贴子不看都罢了

冷酷到底

站的角度不一样，看法差异很大