欢迎进入漳州风云电气设备有限公司

漳州风云

11年工业自动化配件供应商

只要您有任何找不到的型号,都可以找我们

二维码

全国免费咨询热线:

+86 153 5902 9662

联系邮箱:

geabbamy@gmail.com

当前位置: 漳州风云 > 新闻资讯 > 行业新闻

AI诈骗、AI侵权等屡见不鲜,AI时代的阴暗面亟待治理

文章作者:作者 人气:发表时间:2023-11-01 10:38:24

今年在资本市场,人工智能同样再度爆火了一轮。天眼查平台统计数据显示,2023上半年资本力捧人工智能市场,月均融资事件达48起,其中5月融资数量最多,有61起。

然而,在我们畅想并努力通往人工智能美好未来的同时,也不该忽略人工智能正在产生的“恶”。至少目前从现实来看,人工智能带来的东西,似乎并不如想象般美好。

利用AI合成的色情图片进行敲诈勒索,俨然成为一种新型电诈方式 。令人难以接受的是,在极易泄露个人形象的今天,即使你什么都没有做,都可能因为AI图片受到威胁。 不仅是敲诈,利用AI产出不当内容、AI电信诈骗、AI侵权等情况更是屡见不鲜 。

一、以下这些作恶事件中,都有AI的应用

AI,这个史上(也许)最强工具,在恶人手里,也已全副武装。对普通人来说,AI的加入,让种种骗局和伤害,更防不胜防。

试想一下,任何的身影和动作,那张脸可能是你自己,恐怖吗?

个人发布在社交平台的自拍和视频,很容易就可以经过AI换脸、AI绘画技术的处理,被不法分子作为不雅图片和视频的“素材”,兜售或者冒用。

再想一下,铺天盖地看到的信息,都是被基于某种目的制作和散发的,可怕吗?

网络流传的各种截图、聊天记录,本就难以分辨真假,当AI加入“创作”,风格能模仿,逻辑能自洽,还能不知疲倦的批量生产,信息污染,一键达成。

AI诈骗、AI侵权等屡见不鲜,AI时代的阴暗面亟待治理

2月16日,杭州某小区业主群内讨论ChatGPT,一位业主尝试用ChatGPT撰写了一篇假的新闻稿,大致内容为“自2023年3月1日起,杭州将取消限行”。随后这条假新闻就被不明所以的群成员截图传播,甚至上了热搜,最后警方介入调查,涉事业主公开道歉。

5月16日,微博博主“赛博十块鉴定处”发帖称,发现在B站有部分用户上传了AI绘画工具合成的写实风儿童软色情图片。生成的图片内女孩衣着暴露,举止不雅,用户会在评论和动态内分享“图包”。

无独有偶,此前5月3日,博主DeadPrince在微博私信被告知,自己的自拍被陌生人制作成了LoRA模型上传到了绘画模型分享网站Civital,并且有人使用该模型绘制了裸照。

二、AI背后:脱缰、失控

除了色情内容等灰色产业外,AIGC背后的内容侵权问题也 愈演愈烈。

AI绘图所引发的大讨论仍在眼前,反对者认为AI生图是“尸块拼接”“畸形产物”。在他们看来,AI生图并不是一种创作,而是一种重组,被投喂了一个画师的大量作品后,AI会不自觉的产生类似作品,这本身就是一种侵权。而当AI绘图被广泛应用于各大平台后,这种“侵权”行为似乎越来越明显,甚至出现了企业利用AI侵权的行为。

AI绘图争吵不断,而在文本领域,新的“信任危机”也在蔓延。2023年9月,亚马逊推出了新的政策,限制AI内容制作者每日出版作品的数量。原因就在于,AI生成的书籍,正在扰乱整个图书市场。

跟AI生图一样,AI生成文本内容同样基于对网络文本的大量深度学习,而当生成某一种类型的书籍时,不可避免地会参考某些作家的文本,于是侵权问题再度出现。6月,就有一批作家与用户向亚马逊抗议,原因是青少年言情小说榜上AI生成的“书”明显带有一些作家的风格色彩。

当一位作家在网络上大量发布文本内容后,其创作的文本很有可能被AI书籍创作者作为训练数据投喂给AI,最终养成一个跟作家本身风格类似的AI创作者,抢占作家自身应有的读者和收益。

另一方面,AI创作的高效率、低成本也致使AI书籍过分泛滥,内容却难以保证质量,整个市场被AI作品充斥,扰乱用户的消费过程。

从AI图片到AI书籍,侵权、泛滥现象层出不穷,归根结底上是AI创作低门槛、弱监管所导致的创作脱缰,是“人”所导致的。但在AI产品大量出现的今天,AI自身的失控也值得关注。

AI诈骗、AI侵权等屡见不鲜,AI时代的阴暗面亟待治理

三、治理正在路上

关于AI技术的脱缰与失控问题是必须解决的,但对于技术开发者、企业、监管部门等产业上下游的所有参与者来说,这个问题都很具有挑战性。

难点首先在于AI技术的开源性质,在所有人都可以参与情况下,技术如何被应用是很难规范的;而在内容保护、版权维护等角度,需要对所有内容社区进行规范,实施难度极大;在最关键的“人”这一环,灰色地带会产生相当大的商业转化空间,当利益成为唯一的驱动力,一切治理的推动都会难上加难。

国内的治理正在路上。

2023年10月12日,中国网络空间安全协会人工智能安全治理专业委员会正式成立,该协会由国家互联网应急中心、阿里云、华为、金山等单位企业共同发起。该协会将会在国内AI安全领域发起努力,其中内容安全、隐私保护、知识产权保护等方面更是重中之重。

从目前的现实来看,行业上游的治理仍需要时间,法规制定、监管必然会成为当下的治理重点。

一个无可辩驳的事实是,AI正在成为解放生产力的工具,并且正在改变这个世界。但在推动技术发展的同时,我们需要保有一份警惕。

毕竟技术背后的,是需要约束的人性。