前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。
其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。
前几天，一则“政府工作人员因买方便面被通报”的消息甚嚣尘上。公安网安部门查明，该内容均属虚构，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强制措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从现实影响看，这一荒诞谣言还真迷惑了一些人，对相关工作造成了一定干扰。如今造谣者被刑拘，再度警示各方：造谣生事不仅缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时事政治等硬新闻领域，并展现出几个典型特性。
其一，成本极低，造谣趋于工业化。以往，为了抓人眼球，造谣者还要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，能力极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需要一个指令，其就能将文字、声音、图像和视频等深度融合。基于强大的生成能力，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，造谣“一本万利”。由于冲击力强、迷惑性高，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也一直在升级对AI谣言的治理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从现实来看，不少平台对AI生成的信息要么没有提示，要么字体极小，有的审核机制滞后甚至“先发后审”，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量生产的UGC内容而言，AI测假的能力看上去还没能跟上需求。总体来看，制度完善“提速”，治理手段“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着治理AI造谣必须加紧脚步，治理手段和路径都须更具前瞻性。加大资源与技术投入，尽快形成治理合力，才能防止AI工具沦为谣言的“黑箱”。
本文链接：http://www.vanbs.com/v-146-2527.html警惕AI成为谣言工厂
相关文章：
工作的格言36条09-27
富含人生哲理的英语句子08-08
员工个人工作总结范文03-15
阅读社团活动计划11-29
绘画工作总结11-22
打工就业证明01-23
服装店活动策划书09-20
小学数学国培心得体会01-07
乔迁个人邀请函10-26
炼钢厂质量学习心得体会10-21
管培生简历10-18
二年级吃汤圆的作文02-12
保护校园环境的建议书01-02
孩子满月酒会上的贺词12-05
做真实的自己作文11-19
老年大学都学些什么课程？10-06
2024下半年安徽中小学教师资格笔试考试时间及科目（9月15日）09-13
《牧童指瑕》文言文翻译12-14
《夜书所见》译文及赏析09-27
周瑜打黄盖的歇后语07-20
霸气军训口号八字押韵08-27