欢迎来到万全财经杂文网!

万全财经杂文网

你想看的都在这里
万全财经杂文网
当前位置:

潘良时父亲无端"被贷款"…AI"换脸",你知道"丢脸"后果吗

来源:万全资讯 时间:09-04 18:09:12浏览6次

来源: 新华网

新华社厦门9月2日电-你知道当一个账户被盗、名誉被侵犯、被不公正地“借出”时  ,“丢脸”的后果吗...……ai“变脸”游戏  ?

新华社记者阎志宏

最近  ,基于人工智能技术的“变脸”应用已经成为一个流行的网络  。只要用户上传他们自己的高清照片  ,他们就可以在大量视频剪辑中用明星脸替换他们的脸  。他们不仅可以沉迷于明星本身  ,还可以与他们心爱的偶像“合作”  。许多年轻用户选择将他们的脸上传到互联网上  ,并“换脸”娱乐  。

新华社记者发现  ,如果用户的面部生物特征信息被盗或失控  ,这种“变脸”带来的“丢脸”风险不小  。该应用程序用户协议规定 ,一旦用户上传自己的照片进行视频“变脸” ,他们将不可撤销地完全授权该公司及其在全球的附属公司免费提供包括面部照片在内的肖像数据  。尽管相关企业在舆论压力下对用户协议进行了一些修改  ,但风险依然存在  。

如果我们丢面子  ,我们会面临什么风险  ?如何堵住漏洞  ?新华社记者发起了一项调查  。

风险1:“丢脸”会导致“赔钱”

目前  ,大多数银行和其他金融机构已经建立了人脸识别登录应用功能  。“刷脸”支付甚至远程签名越来越普遍  。如果用户的“脸”不安全  ,“钱”也会面临巨大风险 。

企业通过用户协议和其他方式获得的面部识别信息有被泄露的风险  。据记者了解  ,今年2月  ,一家国内面部识别公司的数据库发生信息安全事故 ,数百万个人信息被泄露  。8月 ,一家欧洲公司发生大规模信息泄露  ,数百万人的面部识别信息被泄露……滥用公共面部信息的风险增加了  。

记者在一些知名的网上购物平台上输入“面罩”、“硅胶头套”等关键词 ,发现许多商家出售“面罩”  ,其中一些甚至可以根据顾客提供的照片进行定制  。记者了解到 ,通过3d打印等技术 ,“面罩”可以获得更高程度的模拟 ,而且面部识别数据越详细、越准确 ,模拟程度越高  ,在使用面部识别信息作为密码账户方面的突破性越强  。在此之前  ,一些人已经在一个著名的在线支付平台上使用3d打印面具来验证他们的脸  。

“轻率地上传自己清晰的正面照片并授权他人存储或用于其他目的  ,关系到“钱包”的安全  。”中央财经大学金融法研究所所长黄镇认为  ,现行法律没有充分规范“人工智能人脸改变技术”  ,因此目前保护个人面部信息非常必要  。他建议有关部门加快推广相关技术规范的应用  。

记者从一些已经启用人脸识别的金融机构了解到 ,金融机构设置的当前人脸识别安全级别高于智能手机  ,但风险依然存在  ,因为在许多交易场景中 ,识别标准并不统一  。几位专家建议 ,当用户将面部识别设置为他们的财产账户密码时 ,他们还应该设置其他认证方法以降低风险 。

风险2:“丢脸”会导致“失去纯真”

目前  ,“变脸”技术在一些涉嫌犯罪的地区使用并不少见  。记者发现  ,一些网站使用"人工智能变脸"和"变脸视频"来提供著名艺术家制作的视频"脸"和"嫁接" 。这些视频经常被怀疑是色情的  ,难以辨别真假  。此外  ,记者以“变脸”和“变脸视频”为关键词搜索了qq群和百度贴吧  ,发现许多社会团体打着“技术交流”的幌子出售这类“变脸明星”视频  。

知情人士告诉记者  ,除了出售“变脸”的非法音像制品牟利外 ,一些犯罪分子还利用手中所有借款人的面部信息  ,利用这些技术进行非法集资活动  ,直接侵犯了贷款人的人身权利和名誉权  ,甚至滋生敲诈勒索等其他严重犯罪活动  。

北京师范大学国际互联网法治中心执行主任吴申国认为人工智能“变脸”有许多法律风险  。从实际案例来看  ,名誉侵权是一个高发问题 。特别是恶意剪接产生侮辱性和诽谤性的观点材料或非法传播和利用  ,将使人们难以及时发现对受害者造成的伤害并提供有效的救济  ,要求相关部门密切关注并积极防范  。他建议  ,由于该领域技术性质强 ,相关企业数量多 ,规模不同  ,应加强职能部门的监督  ,消除事后选择性执法  ,建立对整个行业过程的公平监督 ,依法严惩违规者 ,并创造稳定、良性的可预测市场环境  。

风险3:“丢脸”会导致“被借出”

申请网上贷款的人可能对“点头”、“摇头”和“张嘴”等动作并不陌生  。借款人输入身份信息后  ,在线贷款机构将对申请人进行“活体测试”  ,以确保贷款人是自己  ,贷款是有担保的  。然而  ,记者发现  ,一些基于相关技术的照片编辑应用程序可以“复活死者”  ,让静态面部照片像活体一样“移动”  。

记者使用众所周知的照片编辑软件加载包含人物面部的照片  ,然后使用其“3d塑料”功能  ,使照片中的人物能够完成记者要求的“上下点头”、“左右摇动”等“动作”  。

在另一个口号为“让你的照片活下来”的应用程序中  ,只需加载一张包含人脸的照片  ,你就可以点击一下“说话”  。记者发现  ,用户还可以使用该应用程序来确定语音的内容  ,并可以处理输入的声音  ,调整音色和音调  ,视听感觉非常逼真 。

一些业内人士告诉记者  ,许多在线贷款机构仍然使用手动或低技术机器进行“实时测试”  。一旦公众的面部识别信息被犯罪分子掌握  ,使用这些黑色技术“活着”的面部很可能是假的和不真实的 ,导致不知情的人“被在线借出”而招致巨额债务 。此前  ,在“3月15日”派对上  ,有人用“现场”照片展示了手机“刷脸”登录系统的成功突破  。记者还发现  ,在苹果和安卓手机商店  ,许多人使用人工智能“变脸”应用进行选择 。

中国信息安全研究所副所长左晓东认为 ,随着人工智能“变脸”使用的场景越来越多  ,行业和监管部门应该开发相应的“反变脸”检测技术  ,以筛查相关视频是否由“变脸”完成  。他建议加快建立人工智能算法的安全评估体系  ,在不同场景下评估人工智能“变脸”技术 ,解决相关技术的误用问题  。

   

分享到:

请输入搜索内容

最新标签

NEWSTAGS