季卫东：代码与法律双行，AI 社会呼唤制度创新（最新发布）

【导读】承认机器人格，设立信息托管机构，起草无人驾驶交通法，这些举措是否大开脑洞？这是为了应对人工智能社会的算法黑箱化、机器自主化、智能网络化。本周三（7月8日）晚，在第148期文汇讲堂上，16位现场听众和近300名zoom会议室在线听友共同聆听了季卫东教授缜密又极富创见的演讲。这场《AI的权利与义务，人类说了算？》主题由上海市法学会东方法学讲堂和文汇讲堂共同举办，首次进行探索了线上线下并进的新形式。此篇分享主题演讲。对话和提问将陆续上线。

我今晚和大家分享的话题是“人工智能对现代法律体系的挑战及其影响”。从人工智能的治理以及相关的法律问题研究这个角度来看，特别是从全面依法治国的立场来看，我们当然希望人工智能的发展能纳入法律可控的轨道。然而现实却是人工智能（AI）技术规格往往取代了法律、超越了法律。我将通过几个典型案例来观察科技对法律有何影响，进而分析当中的权利义务关系，并对挑战提出相应的对策和制度设计方案。

上海交通大学文科资深教授季卫东主讲《AI的权利与义务，人类说了算？》

人工智能引起的法与社会变迁

我们都能感受到中国的社会生活正在发生非常深刻的变化。

*社会变化：为数字覆盖，经济活动受数据驱动，交易形态从物品变为服务

首先，日常生活的方方面面被数字所覆盖，不说网购、外卖、一卡通交通、电子保险，就说移动支付，已经普及到商场停车缴费，连餐厅吃饭停车优惠券也是扫描二维码；疫情期间，我们采取测体温，出示随申码、群体检测等手段为疫情防控提供了扎实的技术保障。这些快捷便利的实质是什么？是把生活中所有的场面、所有的活动全部转换成了数字形式。

其二，由于在现实的世界之外还有虚拟的世界，因此经济活动的动力就从资源转移到了数据。有人甚至断言，数据是21世纪的石油，或说是一种交易的媒介通货。由于国人更喜爱追求便捷的生活方式，因此，我们对数据收集采取了宽容的态度，它使得人工智能在中国的发展更迅速，更有优势。那从法律上看，数据的所有权究竟属于谁？目前的法律对信息并不承认它具有排他性的绝对所有权，数据信息需要流通，如果规定明确的所有权，或基于一种排他性的保护，那么数据的收集和使用都变得非常困难。欧盟曾有过这样的法律尝试，就导致了至今没有大型的数据企业产生。

其三，今天市场交易的形态从物品转变为服务。比如说有了滴滴打车等网约车，出租服务这么方便，我为何还要自己购车？所有影视、音乐作品的网络服务也非常便捷，拥有光碟的意义就不大了。我们的交易对象越来越多的是服务，而不是物品。这使得社会经济结构发生变化，促进了电商的繁荣。阿里巴巴在十年前提出平台战略的口号，希望所有的商店都驻到其网络平台来提供服务，现在被电商的常态所全面实现，服务也变成了一种交易。

*算法黑箱化、机器自主化等变化，敦促法律概念和制度发生范式革命

所以，归纳我们所处的人工智能时代的社会系统，有三个特征——智能网络化、算法黑箱化、机器自动化。

人工智能时代的社会系统有三大特征（演讲PPT）

智能网络化。所有的人工智能的系统都和互联网是联系在一起，形成了一个智能网络化的社会。科幻系列片《终结者》讲了智能机器对人类进行末日审判的故事，人类社会和机器人展开博弈，中间有一个领域叫天网，现在我们社会确实变成了如“天网”一般的智能网络化的社会。

算法黑箱化。我们知道人工智能是靠算法来运作的，如今它的内容变得越来越复杂，运作的机制变得越来越难以理解，因此，出现了“算法黑箱化”现象。

机器自主化。机器人是否有自我觉醒的意识，是人类一直所关注的。去年8月在Youtube上，人们突然发现算法自动删除了所有机器人互相打架、打仗的残杀视频，这在某种程度上能否理解为机器人自我意识或者说机器崛起一种征兆？

以上诸多现象，使得现代法律体系正面对一种空前的挑战。