损失上百万的储户们，和被攻破的银行人脸识别系统

　　如今，使用人脸识别进行身份验证似乎已经变成了一件理所当然的事情。然而，当人脸识别被伪造、被攻击，我们的个人财产很可能随之受损近日，中国银行和交通银行多名储户称账户遭遇了盗刷，他们认为，银行采用的人脸识别系统难辞其咎。
　　南都记者结合公开报道梳理发现，这些储户先是被诱骗交出了银行卡信息，有的还与诈骗分子进行了视频通话，然后诈骗分子利用上述信息通过了人脸识别验证，又拦截了手机验证码，从而把钱取走。
　　事情发酵至今，越来越多的争议聚焦在银行的人脸识别系统是否存在漏洞、银行应不应该担责上。银行认为，采用手机验证码和人脸识别结合的验证方式已经尽到安全保护义务，储户们则坚持银行的人脸识别系统并不足以保证资金安全。
　　有技术专家告诉南都记者，诈骗犯能破解人脸识别验证，说明银行的人脸识别系统确实存在技术漏洞。还有专家认为，由于相应风险是银行引进人脸识别所导致，原则上就应该由银行承担责任，只有这样，才能倒逼银行提高安全技术保障。
　　1hr本人未登录、未操作，20万被转走
　　近日，中国银行储户马琳（化名）对南都记者爆料称，自己遭遇了电信诈骗她的中国银行账户在她本人未登录、未操作、未进行人脸识别的情况下，被转走了20万元。
　　去年8月，马琳在北京办理签证期间，接到了一个自称是公安局的电话。对方称她涉嫌境外洗钱，口气强硬。马琳起先也有怀疑，但对方不但准确地说出了她在办理签证时提交给中介的信息，还通过视频电话的方式，向她证实了自己的警察身份，基本打消了她的怀疑。
　　随后，对方发来一个带链接的短信，让马琳确认自己的身份信息。她点开链接，网页显示了她的身份证正面照片，这进一步加深了她的信任为了办理护照，马琳几天前刚去办理了新身份证。据她回忆，自己只在中国银行办理业务时使用过这张新身份证。
　　马琳照做后，就没有再收到对方或中国银行发来的任何短信。没过多久，她反应过来不对，于是登录手机银行查看，这才发现，她的中国银行账户在她本人未登录、未操作、未进行人脸识别的情况下，被转走了20多万元。
　　马琳遇到的骗局并不鲜见，她主动把重要的人脸信息交给诈骗分子也是事实。但令她想不通的是，登录她账户的设备IP地址是中国台湾，而她那一段时间一直在北京银行不是应该对异地登录有严格防范吗？
　　对此，中国银行回应称，查到的验证视频是马琳本人的，也发了手机验证码到她的手机上，验证流程没有问题。但事实上第一我没有收到手机验证码，第二我没有进行过任何的人脸识别检测，我本人我不可能自己去黑自己的账户对吧？
　　我最开始也不太理解（为什么会通过），我就拍了一段视频，其中包括了点头摇头，然后去其他银行的人脸识别功能试了试，一次都没通过，都提示说‘请确保是您本人’。马琳告诉南都记者，在她和中国银行的交涉过程中，也有相关人员提到，如果使用视频是有可能攻破人脸识别的。
　　不满于中国银行的回复，马琳进而向北京银保监会投诉。经调查发现，诈骗发生当天，马琳账户里的20万被分成8笔转走，其中7笔发送了手机交易码短信，5笔触发了人脸识别，1笔触发了外呼（电话通过电脑自动往外拨打用户电话，将录制好的语音通过电脑播放给用户），但她从未收到任何相关告知。
　　马琳后来又去了北京来广营派出所报案。对于马琳的诉求，中国银行给出的说法是钱财的转出在安全的机制内，让她去起诉。这让她感到不可思议：按照常理来说，人脸识别肯定是要本人，她说，身在异地的犯罪分子能通过活检，这本来就是一种不合理。
　　在损失了这笔积蓄之后，马琳的签证已经很难继续办理，她离开了北京。我希望中国银行的漏洞能堵一下，不要给更多的人带来更大的损失。这个事情对银行来说，可能确实没有什么损失。但是从储户的角度来说，这个就是一个人生的大灾难。
　　2hr除了中国银行，至少6名交通银行储户也有类似遭遇
　　南都记者了解到，中国银行不是唯一一家被曝人脸识别系统可被破解的银行。就在前不久，南都曾报道，交通银行的储户也有过相似的遭遇他们中的部分人也和马琳一样，遇到的盗刷者IP地址显示为中国台湾，手机型号则为摩托罗拉XT1686。
　　交通银行储户小雪（化名）向南都记者提供的一份北京市丰台区人民法院民事裁判书显示，2021年6月19日上午，小雪接到自称是公安方面打来的电话，称其在哈尔滨涉嫌非法入境，还涉嫌反洗钱案，要求小雪下载公安防护App瞩目App，开启会议模式通过视频验证是否为本人，并进行手机屏幕共享，指示其将手机拦截电话、短信等功能开启。
　　随后，对方还以国有大行安全措施比较好为借口要求小雪办理一张新的交通银行卡，并把所有银行的存款全部转入内，以此核实个人资产。为此，小雪特意将近50万的储蓄资金从其他银行转入到该交通银行账户。而后，这笔资金便不知去向。
　　据警方调查，密码重置和大额转账的IP地址为中国台湾，验证方式为短信验证人脸识别，且当天银行系统有7次通过人脸识别的记录，其中6次通过活检。也就是说，骗子拦截了小雪的短信验证码，通过短信和伪造人脸识别完成了密码重置、限额调整、大额转账的全过程。
　　法院一审判决认为，整个过程中是小雪自己按外人的指令下载了相关App、开启电话及短信拦截等，才导致发生身份识别信息、交易验证信息泄露的风险，因此认定该案是小雪不审慎所致，判交通银行不承担责任。
　　值得注意的是，根据凤凰网《新视界》7月5日的报道，2020年10月至2021年10月期间，有至少6位交通银行储户被犯罪分子诱骗、将钱存入交通银行后被盗刷，金额高达数百万元。
　　6次人脸识别，交行一次都没识别出来犯罪分子使用的是假人脸。交通银行存在支付安全漏洞，没有办法识别出是不是真的人脸。有被盗刷的交通银行储户认为，犯罪分子指定交通银行而不是其他银行，是因为他们发现并利用了交通银行的人脸识别漏洞。
　　自被盗刷以来，交通银行储户马跃（化名）曾多次上诉至法院，但法院驳回了他的申请。和小雪得到的判决相似，法院认定，交通银行相关支行已通过多个登录密码、验证码、人脸识别的合理方式识别使用人身份，未见存在明显的过错和过失。
　　图源：凤凰网《新视界》
　　针对上述事件，交通银行股份有限公司北京长辛店支行的工作人员向南都记者表示不接受采访。
　　3hr银行的人脸识别验证系统是否存在漏洞？
　　人脸识别被破解、手机验证码被拦截，是储户们认为银行存在漏洞的关键环节。那么，中国银行和交通银行采用的人脸识别系统是否建立了足够的安全防范机制，又是否达到了监管要求呢？
　　根据中国银行5月29日最新更新的手机银行隐私政策，其使用了云从科技的人脸识别SDK（软件开发工具包），用于提供人脸识别服务。为交通银行提供技术支持的则是一家成立于2016年6月的生物识别企业：北京眼神科技有限公司（下称眼神科技）。
　　根据两家人脸识别服务提供商的官网介绍，他们的客户均涵盖六大行。此外，云从科技的客户还包括12家股份制银行以及城农商行，服务超过400家金融机构、10余万个银行网点；眼神科技服务的银行机构则近150家。
　　南都记者以储户身份分别致电云从科技和眼神科技。云从科技方面称，若犯罪分子使用视频通话的方式，确实有可能攻破人脸识别系统，但除此之外不愿透露更多信息。
　　眼神科技方面则表示，根据现有的司法判决，犯罪分子是获取了短信验证码等多个隐私信息，所以才出现了这种事，而人脸识别只是整个流程中的一个验证环节，所以并不能明确地说就是人脸识别的问题。银行方面对安全性的要求是很高的，也是基于我们的产品（的正确率），银行这边才会选择我们的。客服强调。
　　一位人工智能安全领域的技术专家也告诉南都记者，从整个流程来看，诈骗分子是劫持了受害人的电话和短信，才导致后续银行无法通过短信、电话对转账人身份及转账情况进行核实，这部分与人脸识别系统的安全风险无直接关联。
　　不过他也表示，储户即使被诱骗给出个人信息，但事实是储户本人并未前往外地，而诈骗犯肯定是用某种手段通过了人脸识别的活体检测，这就说明银行的线上人脸身份核验系统确实存在被假体攻击、注入攻击的技术漏洞这并不是说活体检测这一技术本身不合格，很有可能是犯罪分子绕过了活体检测的环境。
　　去年1月，依托清华大学人工智能研究院成立的团队瑞莱智慧RealAI就曾通过对抗样本攻击，一举破解19款安卓手机的人脸识别解锁系统。即便是搭载了交互式活体检测功能的十余款金融和政务服务类App，也都被轻易破解。
　　瑞莱智慧RealAI高级产品经理张旭东曾以银行类App为例向南都记者表示，虽然现在的支付转账操作都需要多因素验证，但一旦用户的个人信息全部泄露，不法分子就可能同时完成刷脸、输入手机验证码等操作，使得多因素验证失效。
　　当时，研究人员提到，目前业界主流的人脸识别算法都具备了活体检测能力，之前常见的用一张照片、一段视频来完成刷脸的做法已经行不通。但对抗样本攻击针对的是算法模型底层的漏洞，完全不受活体检测限制。攻击者在脸上添加了局部扰动，导致算法产生了错误识别。
　　上述技术专家则用受害人被诈骗分子诱导进行视频通话的案件来举例表示，这种情况下，受害人很有可能被录制下指令动作的画面视频，或者诈骗分子直接基于储户的照片，通过合成软件伪造的动态视频。
　　但伪造的视频不会直接拿手机平板放到摄像头前，按照正常流程通过人脸识别系统，而是使用某种黑客手段入侵了人脸识别的底层系统。比如通过劫持摄像头，让系统不启动摄像头，直接从底层注入提前准备好的动态视频，完全就能绕过活体检测。这种注入攻击是针对人脸识别系统的应用软件层面的安全漏洞。他说。
　　这位技术专家表示，由于目前大多识别系统是用神经网络大数据训练的方法实现，所以黑盒性和不可控性是一定存在的。他认为，技术方需要进一步提高对新型算法安全风险的研究水平。
　　4hr储户、银行、人脸识别提供方，责任如何划分？
　　截至目前，上述遭遇盗刷的储户得到的法院判决均认定，银行没有明显过错，不承担责任。银行的技术提供方也认为，是储户先泄露隐私，才导致事件发生。但在储户看来，即便自己被诱骗交出了部分个人信息，也不应影响银行通过人脸识别验证出诈骗分子并非储户本人。
　　既然人脸识别是银行所引进，而且往往是变相强制储户使用，一旦出现存款被骗，银行不承担任何责任显然也是有问题。完全让储户个人来当冤大头，既不公平，也无助于对犯罪的预防。马琳说，技术如果不够先进、不够完备，那就不应该投入使用，而不是已经造成各个方面的损失，然后现在又说银行的系统还在升级。系统不完备的损失谁来承担，不是银行来承担吗？虽然银行自己也是受害者，但是他改善系统的能力比储户大得多。
　　在清律律师事务所首席合伙人熊定中看来，银行不担责的判决结果不是很合理。他认为，整个流程存在两个问题：人脸识别系统被攻破是银行的责任，而储户本身可能也存在手机被劫持的防范不足。从损失情况来看的话，应该是典型的双方过错，各自承担责任。
　　他解释道，整个流程中存在着两组关系，一组是储户和银行，另一组是技术提供方和银行。储户和银行之间，是银行提供了技术验证手段给储户，那么银行本身肯定要对于人脸识别的结果有足够的保证，如果特定的技术出了问题的话，责任当然是由银行承担。而技术提供方和银行之间，要取决于银行跟技术提供方的合同到底是如何约定的，他们如何去解决这种因为技术使用导致的损失、如何约定责任的分担问题，这是他们之间的问题，跟储户没有关系。
　　清华大学法学院教授劳东燕也有类似的看法。她认为，由于相应风险是银行引进人脸识别所导致，也就是银行参与了风险的创设。在法律上，谁创设风险，谁原则上就应当对风险现实化的结果承担责任。其次，银行在相关业务领域里获益最大，理应承担与获益相称的风险责任。再次，银行防范风险的能力更强，能力越强者责任越大。最后，从对犯罪的预防来看，只有让银行承担部分法律责任，才能倒逼其提高安全技术保障。
　　事实上，纵观银行使用的密码、U盾、手机验证码等用户安全措施，都有被攻破的案例，人脸识别也不例外。熊定中认为，使用人脸识别验证技术并没有放大原来就有的风险，只是一个新的技术在使用过程中出现了问题。
　　但广东人民时代律师事务所律师王胜生认为，一旦陷入技术崇拜的怪圈，并对技术进行强制推广，就会带来风险。这是一种让技术的攻防在发展中共生共长，出现风险时又严重依赖技术防范的方案。唯独没有停下技术强制使用的想法，也没有停下人脸识别滥用的做法。
　　劳东燕还提出，对于个人生物识别信息这类高度敏感的信息，有进行专项立法的必要性，并采取以公法保护为主的方式。在专项立法的规定中，需要明确数据处理者才应当是个人信息保护责任的主要承担者。
　　在数据处理过程中，究竟是谁制造了相应的风险？劳东燕说，同时，谁是其中最大的获益方？肯定不可能是个人，而是作为数据处理者的科技企业与监管部门。而从风险预防能力与风险预防效果来看，也应该将鞭子打到数据处理者身上。相应地，立法对人脸信息技术的规制重心，应当从知情同意机制转向数据处理者的合规义务体系。
　　王胜生则认为，要解决人脸识别这一技术带来的诸多问题，立法只是其中一个环节。虽然现在人脸识别已经广泛普及，但是对及技术局限和风险的公共教育和学界讨论、对法律上的举证责任、举证能力、风险防范能力、司法公正的考量、对技术带来的社会权力的对比和分析，各个环节都是缺失的。
　　在他看来，首先，技术公司需要持续披露和明确告知技术的真实情况，包括风险，使得大众对技术进行全面的认知；其次，大众和个体对强制和变相强制的技术适用应该拥有说不的能力，非法律的社会力量制衡途径需要存在；最后，方便适用的法律是否完备，司法公正性如何，才是最后一环的水波效应。
　　或许微乎其微的举动不能影响人脸识别的大道其行，但也或许会带来温和的振动，促成一些良性的审慎的改观和发展。他说。
　　采写：南都见习记者杨博雯记者胡耕硕余毅菁实习生王睿