如何规制人工智能,给法律带来新挑战?
目前人工智能的发展仍处于弱人工智能阶段,当前还无法制定出完整的人工智能法律制度。人工智能的法律规制需要与具体领域相结合,在每个细分领域中,都存在着不同的规制方法、路径和手段。当务之急是修改现有的法律,使其能够适应大数据和人工智能技术在具体领域和场景中的应用。
人工智能的法律规制需要与具体领域相结合,在每个细分领域中,都存在着不同的规制方法、路径和手段。电子商务将互联网技术应用于商业领域,政府监管的重要目的在于促进竞争和反垄断,保护消费者权利,维护市场秩序。人工智能广泛应用于医疗领域,相关数据往往属于个人敏感数据,政府在设计监管模式时,必然采取高准入、严许可的路径。
就人工智能的法律应对而言,我国目前更多的是从产业政策促进、扶持和发展的角度对人工智能提供行政指导。2017年国务院发布的《新一代人工智能发展规划》突出地反映了这一思路。
在监管层面上,目前对人工智能的法律规制在电子商务、数据安全和智能投顾领域的立法中已经有个别条款分别涉及。《电子商务法》规定,电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其推销商品或服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。这是在法律层面对大数据算法杀熟的回应。此外,《电子商务法》第40条规定,对于竞价排名的商品或服务,应当显著标明“竞价”。
规章层级的《数据安全管理办法》(征求意见稿)也对算法进行了相应的规制。《办法》规定,“网络运营者利用大数据和人工智能等技术,通过算法自动合成的新闻信息、博文、帖子、评论等,应当以显著方式表明‘合成’字样。”对于算法推荐的规制,除了披露义务之外,规范信息流程、报备模型参数、违规行为惩处等长效机制都是法律制度设计需要考量的要素。
2018年3月28日,中国人民银行、银保监会、证监会、外汇局联合发布《关于规范金融机构资产管理业务的指导意见》(以下简称“指导意见”)。该指导意见对人工智能在金融领域的应用进行了规制,从胜任性要求、投资者适当性以及透明披露方面对智能投顾中的算法进行穿透式监管。
《指导意见》明确,运用人工智能技术开展投资顾问业务应当取得投资顾问资质。除了要遵守一般性规定外,还应当向金融监督管理部门报备人工智能模型的主要参数以及资产配置的主要逻辑,为投资者单独设立智能管理账户,充分提示人工智能算法的固有缺陷和使用风险,明晰交易流程,强化留痕管理,严格监控智能管理账户的交易头寸、风险限额、交易种类、价格权限等。
《指导意见》强调,因算法同质化、编程设计错误、对数据利用深度不够等人工智能算法模型缺陷或者系统异常,导致羊群效应、影响金融市场稳定运行的,金融机构应当强制调整或者终止智能投顾业务。
在监管手段上,金融监管部门对智能投顾的法律规制采取了组合拳的方式。智能投资顾问是投资咨询机构业务的延伸,投资咨询机构应当被识别为受托人,承担信义义务和合规义务。
在监管方式上,金融监管部门运用监管科技应对金融科技的兴起。金融机构在利用智能投顾开展资产管理业务的时候,必须要获得行政许可、获得资质;报备模型参数、实现算法透明和算法可解释性;制定预案、适时人工干预。
