警惕AI写真小程序越过隐私红线

2023-08-21 11:38:35


【资料图】

今年被认为是“AIGC元年”,众多AI应用相继问世。从年初的ChatGPT,到如今的妙鸭相机,AI逐渐“飞入寻常百姓家”。最近,一款名为“妙鸭相机”的小程序火爆朋友圈,人们纷纷分享自己的AI写真。这些写真七八分“像”,两三分“美”,精准地拿捏住了赛博世界里的用户心态,得到了广泛的自发传播。

但在火爆的同时,妙鸭相机这样的AI写真生成小程序带来隐忧。此前,妙鸭相机就因不支持退款涉嫌侵害消费者的公平交易权而被上海市消保委点名、也因涉嫌泄露隐私风险而被央视调查批评。

隐私风险是几乎所有AIGC生成软件无法避免的问题。妙鸭相机在最初版本的用户服务协议称:“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容”。尽管妙鸭相机现已对此做出了撤回修改,但隐私问题仍是消费者心头挥之不去的忧虑。面部信息对于消费者来说本身比较敏感,而基于大数据模型生成出的人像过于逼真,被不法分子利用会极具欺骗性。AI写真生成小程序需要收集用户上传的照片,从中提取面部信息并进行处理。开发者应当严格遵守相关法律和规定,明确告知用户数据处理的目的和方式,确保用户的照片和信息不被滥用或泄露。

与此同时,相关法律法规积极完善。8月15日,国家网信办等部委联合发布的《生成式人工智能服务管理暂行办法》正式生效施行。《办法》通过明确规定用户隐私保护、投诉举报机制、虚构承诺的禁止行为以及处罚措施,能够引导AI写真生成小程序行业向着更加规范和可靠的方向发展,为用户提供更安全可靠的服务,推动构建生成式人工智能的安全围栏。因此,对于AI写真生成小程序的推广和宣传,要坚持合法合规的原则。如果将用户的照片运用于商业或其他未经授权的领域,这涉及知识产权和肖像权的问题。开发者必须遵守相关法律,尊重用户的权益和意愿,避免侵犯他人的利益。

AI写真生成式小程序的兴起为用户带来了独特的趣玩体验,然而在使用这类应用时,消费者需要保持警惕和理性。在使用该类小程序之前,消费者应该了解应用会收集和使用的个人数据,包括照片和面部信息。隐私保护意识的提升、选择正规平台、审慎授权、了解数据用途、保留原始照片、警惕虚假宣传以及维护权益等都是消费者应该关注的重点。遵循合理的授权原则,确保在使用AI写真生成式小程序时的隐私安全和合法权益得到有效保障。

在AI写真生成式小程序如火如荼的发展背后,研发团队不能践踏隐私红线,消费者应保持理性、警惕和知情。随着《生成式人工智能服务管理暂行办法》的正式施行,更加规范和有序的发展环境正在构建。AI写真生成式小程序能够在保护消费者权益的道路上不断前行,为消费者带来源源不断的美丽与趣味。

标签:

关闭
最新热文