欢迎来到万全财经杂文网!

万全财经杂文网

你想看的都在这里
万全财经杂文网
当前位置:

蠕变湾换脸软件ZAO遭遇滑铁卢 或推动人工智能前瞻性立法进程

来源:万全新闻 时间:09-06 15:03:44浏览2次

对话人

中国传媒大学网络法律与知识产权研究中心主任王思新

北京师范大学法学院网络与智能社会法治研究中心主任刘德亮

中国传媒大学政法学院法律系副主任郑宁

《法律日报》记者赵丽

记者:鉴于人工智能深度变脸技术风险频发  ,网络安全法律专家认为  ,我们必须高度警惕恶意使用该技术的风险  ,尽快进行法律风险评估  。

王思欣:我们需要对它进行安全评估  。这种安全评估也是基于法律的  。《互联网安全法》和互联网信息办公室制定的规范性文件都有相应的要求  。在安全评估中需要明确的是  ,实际操作过程中可能存在哪些风险  ,以及我们可以采取哪些措施来应对这些风险  。只有完全解决了这些问题  ,它们才能正常运行 。

记者:今年6月13日  ,美国众议院情报委员会(Intelligence Committee)就人工智能的深度伪造举行听证会 ,公开讨论了深度伪造技术给国家、社会和个人带来的风险  ,以及防范和应对措施  。随着人工智能技术的深入应用 ,业内许多人也建议我们必须高度警惕恶意使用该技术的风险  。然而  ,深度伪造的内容不能一击毙命  。许多深度伪造的合成媒体内容都是合法的  。只有影响国家安全、公共安全和民主政治的虚假信息才需要加强监管 。不同的法规适用于涉及刑事犯罪和常见网络侵权的深度伪造  。

王思欣:要建立一个非常完整的内部制度 ,或者建立一个更好的制度和机制 ,对于这些发展中出现的问题有一些特别的程序  。同时  ,我们必须建立有效的反馈机制 。

郑宁:对于深度伪造  ,应该分析具体问题  。如果不影响国家安全、公共安全和公民个人权利 ,如电影特效  ,就不会有太多的干扰  。如果是这样  ,就应该受到监管  。具体的法律责任取决于违法行为的严重程度  ,然后判断是承担民事责任、行政责任还是刑事责任 。

记者:有专家建议  ,立法部门应跟上国际人工智能技术的最新发展  ,并联合国内专业研究力量  ,评估这一新技术可能带来的法律风险和对国家安全的威胁  ,以加快对类似新兴技术的前瞻性立法研究  。

郑宁:《网络安全法》第十七条规定 ,国家推进网络安全社会化服务体系建设  ,鼓励相关企事业单位开展网络安全认证、测试和风险评估等安全服务 。对于新技术 ,应进行安全评估  ,可由社会组织或企业自行进行 ,并由政府部门监督检查  。

王思欣:网络安全法是一项非常系统和庞大的系统工程  ,要求企业充分履行其主要职责  ,在实践中真正解决这些问题  。

刘德亮:对于这种立法  ,我们将来可能需要跨越一些障碍 。首先  ,我们应该改变观念  ,从关注个人信息的披露转向滥用的方向  。我认为障碍在于概念  。当前主流观点强调披露 ,而不是防止滥用  。

观念改变后  ,组织专家讨论和提出建议可能会非常复杂  。主体不同  ,被侵害的权益也不同 。有必要系统地规范什么是滥用  ,存在什么类型的滥用  ,以及如何有效地防止民法、行政法和刑法中的滥用  。没有立法  ,正义就没有意义  。

记者:在你看来 ,防止泄密和绝对保密是不可能的吗 ?未来的立法应如何侧重于防止滥用此类信息或数据  ?

刘德良:相关法律法规的建立和完善必须具有可操作性 ,不能不利于大数据和人工智能产业的发展  。大数据和人工智能行业本身需要数据收集  。现在我们的个人信息已经存在于N个企业和机构中  。我们不知道从哪里泄露出去  。防止的不是泄漏  ,而是滥用  。

从立法上来说  ,进行身份识别的机构或平台(如银行、支付平台、电信公司和保险公司)应承担责任 。如果用户的个人信息被盗用或误用 ,有两种问责方式:一种是推定这些机构和平台的过错  。除非能够证明验证和比较义务已经履行  ,否则该义务的标准将随着技术和时代的变化而不断升级和变化  。司法机关有必要根据这一标准判断和获取证据  ,以确定在给予豁免之前是否履行了义务  。否则 ,它将与伪造者承担连带责任  。其次 ,它更加严格  ,并承担无过错责任 。

如果法律有这样的规定  ,它将迫使这些机构和平台仔细检查和比较  ,甚至想尽一切办法开发更新的技术手段 ,以有效避免身份伪造和滥用  。没有这样的立法  ,持有个人信息的组织和平台将把风险转移给伪造者  ,让个人承担风险  。

资料来源:《法律日报》

    

分享到:

请输入搜索内容

最新标签

NEWSTAGS