季卫东：代码与法律双行，AI 社会呼唤制度创新（最新发布）(5)

技术规格如和你的法律规定不匹配，那只能优先技术规格，否则实现不了；但是反过来，也希望技术规格里考虑公平性。因此，人工智能专家和法律专家的合作非常重要。这时，我们看到一个很有意思的现象，代码和法律并行就有可能出现，不能说代码就取代法律了，但是代码也很重要，法律有规定如代码存在你就无法起诉。这也符合中国传统中的“礼法并行”文化，因为也有现代的“法律与政策并行”的实践经验，国人对于代码与法律并行的治理方式并不会产生抵触。在这个中间来寻找治理方式的创新，也许是在中国我们可以考虑的一个非常重要的切入点。

人工智能时代还有一个非常重要的变化，整个社会因为大数据而变得透明，但是算法黑箱化导致个人的隐私和自由很难得到保障，此时就出现了另一面——和人工智能相关的区块链协议，它的本质是使得把个人的隐私可以黑箱化的系统中枢不再成为必要，每一个人通过自己的那一部分的操作即可处理信息，然后在网络共识中形成相互信任。在某种意义上，是通过具体的智能合约来决定网络中的权利义务。

因此，要靠代码来解决技术问题的思路在人工智能时代变得越来越重要了，这两者之间能不能形成一种平衡关系？这个过程中，我们又一次看到让法律失效的例子。

2016年德国独角兽企业的数字货币The Dao被黑客劫持了，导致大量验证码流失。面对这种情况法律束手无策。根据网络共识，最后采取技术性裂变的方式解决。出事前的验证码失效，黑客无法从中继续获利，持币人的损失按后面持有的比例补偿。对这样的处理相关人员皆大欢喜。可从法律上来看却问题多多。例如从黑客处获得验证码的第三人是无辜的，他的损失怎么处理？等等。这个实例再次证明了代码取代法律的现实，也让我们认识到AI时代制度创新势在必行。

本期讲堂首次进行线上（zoom会议室）线下（现场）并进的形式

*如何预防“算法黑箱化”妨碍问责？承认机器人格，以AI制衡AI

2016年，美国、日本、欧洲很多国家都在这一年开始加强人工智能的制度建设，中国也在同一个起跑线上，2017年就制定了《新一代人工智能的发展规划》《促进新一代人工智能产业发展的三年行动计划》。那时，我们已经意识到大数据和人工智能存在的风险，2019年制定了《新一代人工智能的治理原则——发展负责任的人工智能》，提出八条基本原则：和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。

与人工智能治理相关的立法也从2016年11月开始不断诞生。比如，《网络安全法》里规定个人信息的删除权、订正权；2017年的《个人信息安全规范》里，有对网络平台进行规制，2018年的《电子商务法》；里明确网络平台经营者的监管责任；2020年3月《网络信息内容生态治理规定》里有整顿个人信息交易，调整算法推荐逻辑。就在上个月（6月），全国人大常委会对《个人信息保护法草案》《数据安全法案》进行了审议，对人工智能数据安全立法调研也在上个月开始了。所以在立法方面已经初具规模。但是随着大数据和人工智能的快速推进，立法的节奏也要跟上。

在这样一个智能网络社会，人工智能是一个规则嵌入系统，它可以促使法律的规范严格执行，所以人工智能是有利于法治的，能够形成硬法，甚至能够加强硬法的效力，但是在智能网络化的背景下，它必须要借助软法来补强各种各样的互动中的情节的系统，但是人工智能“算法黑箱化”会导致责任政府和问责机制的动摇。

这里的对策是，要承认机器人格，即主体资格。似乎有点悬，但有现实意义。其一，当人工智能的应用越来越广泛的时候，如果你不承认机器人有人格，就等于让人工智能的开发者、制造者为算法失误承担无限的连带责任，这会妨碍人工智能发展。其二，为了使这种责任有限化，为了确保智能合约的违约责任能够依法追究，有必要承认机器人的主体资格。实际上，只有当机器人有主体资格时，以人工智能来制衡人工智能的构想才能落到实处。如果要机器人赔偿，赔偿方案就以机器人的收入者的存款来解决这个问题。

文汇讲堂负责人李念担任主持