今年在资本市场，人工智能同样再度爆火了一轮。天眼查平台统计数据显示，2023上半年资本力捧人工智能市场，月均融资事件达48起，其中5月融资数量最多，有61起。

然而，在我们畅想并努力通往人工智能美好未来的同时，也不该忽略人工智能正在产生的“恶”。至少目前从现实来看，人工智能带来的东西，似乎并不如想象般美好。

利用AI合成的色情图片进行敲诈勒索，俨然成为一种新型电诈方式 。令人难以接受的是，在极易泄露个人形象的今天，即使你什么都没有做，都可能因为AI图片受到威胁。 不仅是敲诈，利用AI产出不当内容、AI电信诈骗、AI侵权等情况更是屡见不鲜 。

一、以下这些作恶事件中，都有AI的应用

AI，这个史上（也许）最强工具，在恶人手里，也已全副武装。对普通人来说，AI的加入，让种种骗局和伤害，更防不胜防。

试想一下，任何的身影和动作，那张脸可能是你自己，恐怖吗?

个人发布在社交平台的自拍和视频，很容易就可以经过AI换脸、AI绘画技术的处理，被不法分子作为不雅图片和视频的“素材”，兜售或者冒用。

再想一下，铺天盖地看到的信息，都是被基于某种目的制作和散发的，可怕吗？

网络流传的各种截图、聊天记录，本就难以分辨真假，当AI加入“创作”，风格能模仿，逻辑能自洽，还能不知疲倦的批量生产，信息污染，一键达成。

2月16日，杭州某小区业主群内讨论ChatGPT，一位业主尝试用ChatGPT撰写了一篇假的新闻稿，大致内容为“自2023年3月1日起，杭州将取消限行”。随后这条假新闻就被不明所以的群成员截图传播，甚至上了热搜，最后警方介入调查，涉事业主公开道歉。

5月16日，微博博主“赛博十块鉴定处”发帖称，发现在B站有部分用户上传了AI绘画工具合成的写实风儿童软色情图片。生成的图片内女孩衣着暴露，举止不雅，用户会在评论和动态内分享“图包”。

无独有偶，此前5月3日，博主DeadPrince在微博私信被告知，自己的自拍被陌生人制作成了LoRA模型上传到了绘画模型分享网站Civital，并且有人使用该模型绘制了裸照。

二、AI背后：脱缰、失控

除了色情内容等灰色产业外，AIGC背后的内容侵权问题也 愈演愈烈。

AI绘图所引发的大讨论仍在眼前，反对者认为AI生图是“尸块拼接”“畸形产物”。在他们看来，AI生图并不是一种创作，而是一种重组，被投喂了一个画师的大量作品后，AI会不自觉的产生类似作品，这本身就是一种侵权。而当AI绘图被广泛应用于各大平台后，这种“侵权”行为似乎越来越明显，甚至出现了企业利用AI侵权的行为。

AI绘图争吵不断，而在文本领域，新的“信任危机”也在蔓延。2023年9月，亚马逊推出了新的政策，限制AI内容制作者每日出版作品的数量。原因就在于，AI生成的书籍，正在扰乱整个图书市场。

跟AI生图一样，AI生成文本内容同样基于对网络文本的大量深度学习，而当生成某一种类型的书籍时，不可避免地会参考某些作家的文本，于是侵权问题再度出现。6月，就有一批作家与用户向亚马逊抗议，原因是青少年言情小说榜上AI生成的“书”明显带有一些作家的风格色彩。

当一位作家在网络上大量发布文本内容后，其创作的文本很有可能被AI书籍创作者作为训练数据投喂给AI，最终养成一个跟作家本身风格类似的AI创作者，抢占作家自身应有的读者和收益。

另一方面，AI创作的高效率、低成本也致使AI书籍过分泛滥，内容却难以保证质量，整个市场被AI作品充斥，扰乱用户的消费过程。

从AI图片到AI书籍，侵权、泛滥现象层出不穷，归根结底上是AI创作低门槛、弱监管所导致的创作脱缰，是“人”所导致的。但在AI产品大量出现的今天，AI自身的失控也值得关注。

三、治理正在路上

关于AI技术的脱缰与失控问题是必须解决的，但对于技术开发者、企业、监管部门等产业上下游的所有参与者来说，这个问题都很具有挑战性。

难点首先在于AI技术的开源性质，在所有人都可以参与情况下，技术如何被应用是很难规范的；而在内容保护、版权维护等角度，需要对所有内容社区进行规范，实施难度极大；在最关键的“人”这一环，灰色地带会产生相当大的商业转化空间，当利益成为唯一的驱动力，一切治理的推动都会难上加难。

国内的治理正在路上。

2023年10月12日，中国网络空间安全协会人工智能安全治理专业委员会正式成立，该协会由国家互联网应急中心、阿里云、华为、金山等单位企业共同发起。该协会将会在国内AI安全领域发起努力，其中内容安全、隐私保护、知识产权保护等方面更是重中之重。

从目前的现实来看，行业上游的治理仍需要时间，法规制定、监管必然会成为当下的治理重点。

一个无可辩驳的事实是，AI正在成为解放生产力的工具，并且正在改变这个世界。但在推动技术发展的同时，我们需要保有一份警惕。

毕竟技术背后的，是需要约束的人性。