深圳拟出台人工智能条例:市政府或需设立人工

2021-07-20 08:48:04 作者:品味希望ゞ   阅读:88 次  点赞:0 次  鄙视:0 次  收藏:0 次  由 www.3ctuan.cn 收集整理
分享到:
关闭
听新闻 - 深圳拟出台人工智能条例:市政府或需设立人工
00:00 / 00:00

-

+

语速: 慢速 默认 快速
- 6 +
自动播放×

御姐音

大叔音

萝莉音

型男音

温馨提示:
是否自动播放到下一条内容?
立即播放当前内容?
确定
确定
取消

7月14日,深圳市人大常委会办公厅发布关于《深圳经济特区人工智能产业促进条例(草案)》(简称“《草案》”)公开征求意见的公告。

这是全国人工智能领域的首部地方性法规,共七章八十三条。《草案》从基础研究与技术开发、产业基础设施建设、应用场景拓展等方面提出了促进人工智能产业发展的措施。此外,《草案》还明确了深圳人工智能产业的治理原则和措施,确立多元主体协调共治的治理机制,设立人工智能伦理委员会,并明确规定禁止侵犯个人隐私和个人信息保护、损害国家安全和社会公共利益、算法歧视等一系列行为,划定了行为底线。

关于《深圳经济特区人工智能产业促进条例(草案)》公开征求意见的公告。图自深圳市人大官网

中国社科院研究员段伟文认为,此次深圳出台《草案》,作为一种地方的先行先试,将对国内其他城市的地方立法探索起到示范作用。而在国家立法层面,清华大学教授梁正表示,法学界的专家意见是,现在还不是人工智能综合立法的适宜阶段。目前国家在人工智能领域以专门立法为主,兜底性地划定界限,而《草案》则是以促进发展为主的综合性地方条例,二者在将来可能形成很好的互动。

1

推动公共数据开放,引导开放更多应用场景

《草案》第一章为总则,第二章到第五章具体规定了人工智能产业发展的促进措施。

在基础研究与技术开发方面,《草案》从制度建设和人才培养层面推动解决基础研究薄弱的问题。提出重视基础研究和关键核心技术突破,鼓励科技资源开放共享等。

在产业基础设施建设方面,《草案》要求,加强数据开放平台、算法开源平台、算力开放平台、检测及认证平台等基础设施建设。值得注意的是,《草案》第二十九到第三十六条都与数据相关,鼓励搭建支撑人工智能发展的绿色数据中心,构建公共数据资源体系,推动公共数据的创新运用。

《草案》明确,市政府应建设公共数据开放平台,建立人工智能应用领域的公共数据开放清单和调整机制,推动公共数据分类分级有序开放。《草案》还特别提到,超出公共数据开放清单范围的,“数据主管部门应当在安全可控的前提下,在法律法规允许范围内最大限度开放相关数据。”

在应用场景拓展方面,《草案》支持人工智能技术在医疗、教育、就业、养老、文化、住房保障等民生服务领域的创新应用,引导开放更多应用场景。关于产品准入机制,《草案》明确,要加快低风险的细分领域的产品行政许可,允许通过测试、试验、试点等方式,支持低风险人工智能产品和服务先行先试。《草案》特别提到,鼓励医疗机构建立临床试验伦理审查的快速审核机制与互认机制,加速人工智能医疗器械的临床试验。

就如何保障人工智能产业的问题,《草案》也指出了具体的措施。对于人工智能企业,在金融支持、科技保险、知识产权等方面做好保障。在人才培养方面,《草案》提出要吸引国际高端人才,建立海外人才储备库,并为人工智能领域人才提供多方面的保障和便利。

《草案》还提出“加强宣教”,要求相关部门加强向公众的教育科普,帮助公众适应人工智能发展带来的生活方式、就业形式以及伦理道德等方面的影响。

2

专家解读治理机制:包容审慎、敏捷治理协同共治

在一系列促进产业发展的措施之后,《草案》第六章对人工智能产业治理原则与措施做了规定。

《草案》确立了政府规范、行业自律、企业自治、社会监督的多元主体协同共治的治理机制。人工智能企业应进行伦理安全风险评估,鼓励人工智能企业设立伦理风险岗位或者委托专业机构,开展前款工作。

梁正认为,在协同共治中,政府规范的主要作用是“保底线”,通过法律法规做兜底工作,主要采取事后追责的方式;但行业发展产生的很多新问题,通过法规也许不好判断,这时候就需要行业自律,制定行业标准规范;企业内部也需要有良好的治理体系、合规体系、风控体系建设;最后,社会监督层面将来可能主要会涉及应用的环节,监督技术滥用或误用的问题。前面政府、行业、企业这三个主体在治理中发挥主要作用,社会监督作为外部的一种补充。

段伟文关心社会监督将来如何落地的问题。《草案》第七十七条提到,社会组织和个人可以向市场监管部门、行业组织等举报违规行为。“比如在人脸识别等应用场景下,一般民众到底能不能够进行监督,这个值得观察。”他说。

延续我国《新一代人工智能治理原则》中的敏捷治理原则,《草案》明确采用敏捷治理方式,相关部门应当开展人工智能发展的监测和评估,组织开展人工智能社会实验,研究人工智能发展对个人和组织的行为方式、社会心理,就业结构、收入变化、社会公平等方面的综合影响,并及时调整产业发展政策。

《草案》的一个重要的制度创新是由深圳市政府设立人工智能伦理委员会。人工智能伦理委员会需要履行下列职责:制定人工智能伦理规范和安全标准管理制度;对数据垄断、算法歧视、隐私保护、伦理道德等重点领域开展监测与研判;评估、监督人工智能企业的伦理规范执行情况等。

在梁正看来,成立人工智能伦理委员会就是敏捷治理的一个很好范例,体现了一种灵活的、柔性的治理方式。“在市一级的政府成立人工智能伦理委员会,是一个比较开拓性的思路。目前伦理委员会主要是在一些企业中设立,作为企业内部治理或风险防范的机制。这次深圳由政府设立伦理委员会,从它的职责能看出,这不是一个强监管和惩罚性的机制,更多的是进行一些风险的预判和识别,以及制定白皮书等去做引导。这确实能起到一个很好的引领示范作用。”他说。

段伟文评价,人工智能伦理委员会的职责中提到了数据垄断、算法歧视、智能滥用等重点领域,非常具体,而且是对现有问题的及时应对,落地性很强。

此外,《草案》还明确了对人工智能采取分级监管的机制。高风险的人工智能应用应当采用事前评估和风险预警的监管模式;中低风险的人工智能应用应当采用事前披露和事后控制的监管模式。

段伟文认为,分级分类监管的原则,是对人工智能产业的动态治理的表现。

不过,《草案》并未表明风险级别应如何界定。梁正认为,下一步需要对“高风险”和“中低风险”做界定。他给出了一种评估方式,从后果的严重程度和风险发生的概率这两个维度来评估风险等级。以自动驾驶为例,风险发生的概率低,但一旦发生事故可能会造成严重后果,这样的应用要采取预防性治理。而像人脸识别这样的应用,风险发生的概率很高,但在一般的普通消费场景,危害没有自动驾驶那么严重,因此要采用及时治理的方式。如果风险发生的概率和后果的严重程度都高,应采取优先治理方式;如果两个维度都低,则应该通过激发主体的志愿意识进行处理。

对于人工智能技术中的算法,《草案》明确要对算法进行分类规制。其中特别提到,对于公共决策领域以及涉及公共利益的商业领域的算法,应当采取公众可理解的方式进行算法说明。

《草案》还明确了人工智能领域的“禁止行为”,包括侵犯隐私、危害国家安全、危害人身安全、歧视用户、大数据杀熟等。此外,《草案》明确禁止相关组织和个人实施垄断和不正当竞争等行为,并强调了相应的法律责任。

段伟文认为,《草案》中的国际治理、风险评估、加强宣教等条款都值得关注。其中,国际治理谈到了要推动形成具有广泛共识的国际人工智能治理框架和标准规范,说明此次《草案》出台的影响力可能将超出国内范围。风险评估则列举了五项具体的评估内容,让伦理安全风险评估比较容易落实。加强宣教除了教育培训科普外,还特别强调了伦理道德和社会价值观的引导。

3

立法意义:为其他城市做示范,与国家立法做互动

作为国内人工智能领域首部地方性法规草案,该草案对于人工智能领域立法实践有何意义?

据深圳市人大常委办公厅发布的《关于<深圳经济特区人工智能产业促进条例(草案)>的说明》(简称“《说明》”)介绍,在人工智能领域立法方面,国际上以欧盟和美国为代表的国家主要采取分行业、分散式的人工智能立法模式,而国内尚未出台针对人工智产业发展进行全方位规范的专门性立法。通读深圳此次出台的《草案》全文可以发现,其内容大多是对人工智能领域整体的框架性规定,对人工智能的细分行业涉及较少。对此,《说明》进行了解释——该《草案》是基础性立法。“在结构上侧重制度体系的搭建,在内容上不作过细的规定,为与相关细分领域的专门立法做好衔接预留空间,同时保持立法的稳定性。”

此外,《说明》介绍,在立法思路上,该《草案》的另外两个指导原则分别是创新性和促进性。创新性体现在“发挥先行示范区立法的引领作用,为人工智能国家层面立法先行探路”,促进性的含义则是现阶段更需要对产业发展予以支持、呵护,因此《草案》围绕“促进人工智能产业发展”这个核心目的,在内容上注重体现“全面促进与合理必要的规范”。

促进性同样体现在《草案》总则中的“包容审慎监管”条款,明确了监管应按照鼓励创新的原则。段伟文认为,相比欧盟严苛的“审慎监管”治理方案和而美国宽松的“无须批准式监管”治理方案,包容审慎体现了中国近二十年来对数字和网络产业的一贯政策。

在他看来,此次深圳出台《草案》,作为一种地方的先行先试,具有积极意义。深圳的探索反映了人工智能的一个特点,即人工智能领域出现新的场景应用的问题、监管的问题,实际上是随着技术和产业不断发展而涌现的,在人工智能产业较发达的地区,对于立法的需求就更为迫切。在国内,北京、上海、杭州等城市的人工智能产业创新都比较集中,深圳的探索对国内其他城市能起到很好的示范作用。

此外,他认为,《草案》还可能加快新兴行业未来立法的速度。例如,《草案》第七十二条为算法规制,规定对于公共决策领域以及涉及公共利益的商业领域的算法,应当采取公众可理解的方式进行算法说明。“算法规制实际上是很新的东西,但在这里的规定是非常明确的。”

在对其他城市立法的引领示范之外,深圳的《草案》是否会对国家层面在人工智能领域的立法提供经验?

对于这个问题,梁正认为,这次深圳的《草案》作为一个综合性的地方条例,可圈可点。它涵盖了人工智能领域的技术研发、产业发展、应用场景、数据等很多方面,主要内容是促进发展。而在国家层面,目前,法学界的专家意见是,现在还不是国家对人工智能产业综合立法的适宜阶段。因为人工智能领域面临的问题比较新,如果综合立法的话很容易失于笼统。现在我国与人工智能领域相关的《数据安全法》、《个人信息保护法》,都是专门立法,在网络安全方面,针对不同场景的标准规范也在逐渐出台,所以国家层面目前是以专门立法为主,兜底性地划定界限,而地方性条例更多以促进发展为主。

“我觉得将来会形成一个很好的互动,国家层面立法把红线设置好,地方性条例多采用综合性方式,做一些促进发展、先行先试的探索。在真正的前沿实践中反应要快,不能提前就把什么都管‘死’,这也是我们讲的敏捷治理理念。”梁正补充道。

他还强调,所有的立法目的都是促进发展。新一代的人工智能规划基本的指导原则明确,创新和治理是两个轮子,都是为了更好地发展。“一边走得稍微快一点,另一边就要跟上,是这样一个思路。”他说。

采写:南都见习记者李娅宁返回搜狐,查看更多

Tags标签
加入收藏夹(0 点赞一下(0 鄙视一下(0
发表评论
内容:
剩余字数:360/360


     :: 正在为您加载评论……


每页10条,共0

相关文章

play
next
close
X

3C团-上所有的内容均由网友收集整理,纯属个人爱好并供广大网友交流学习之用,作品版权均为原版权人所有。
如果版权所有人认为在本站放置您的作品会损害您的利益,请指出,本站在核实之后会立即删除。QQ:22359512
Copyright 2006-2021 3ctuan.cn Inc. all Rights Reserved

粤ICP备65461687号 XML地图 Tags标签

×

分享到微信朋友圈

扫描二维码在微信中分享