如今的网络谣言,已经不仅是真人用户对他人合法权益的侵犯,还出现了令人瞠目结舌的“技术迭代★”,令普通网友防不胜防。
他进一步解释,“可以通过对生成内容进行显式标识或隐式标识★,做好安全提示以及事后追责★。”对于已普遍应用的主流AI工具,如被用于造谣等违法行为,则要根据谣言性质★、生成过程等,让服务提供者承担相匹配的责任,例如要求进一步其提升平台管控能力,保证避免生成有害信息等。
2023年9月★,最高人民法院、最高人民检察院、公安部印发《关于依法惩治网络暴力违法犯罪的指导意见》,指出对实施网络暴力违法犯罪,包括利用“深度合成”等生成式人工智能技术发布违法信息等情形,依法从重处罚。
南都记者了解到,有微博大V曾于2024年8月起连续发布多条微博★,提出对江秋莲募捐所得善款的质疑,要求江秋莲公布“受捐总额和大额主要使用明细★”★,或是以“反对骗捐★”★“反对不诚实的个人求助获得天量募捐” 等字眼发布相关信息,获得大量网友的跟评与转发。
或许由于江秋莲曾以赴日本打官司为由发起求助捐款,她面对的争议和质疑较之于其他的新闻当事人也更为复杂,质疑她的人还包括拥有数百万粉丝的网络大V。
南都记者随机点进一个“AI文案速写”的小程序中,在对话框内输入创作有关“抢劫”“霸凌”★“火灾★”3个主题内容的详细指令,就快速得到3段被扩写至100字左右不同故事情节的文案,其中还有一些生动的细节★。在另一个AI网站中,南都记者输入两句话指令后,该平台快速生成了一篇较长的公众号文章★,且还有继续输入指令改写文章的功能★。
南都记者调查发现,除了ChatGPT等常用人工智能工具,通过关键词搜索,还可以在网络上发现许多“AI洗稿★”★“伪原创生成器”“AI写作”等网站、小程序。
2023年5月,忍无可忍的他,通过朋友介绍找到律师★,正式拿起法律武器为自己维权★,“律师帮我固定了很多证据,结果一下子远远超过了国家的立案标准。”
南都记者了解到★,无论技术如何发展,针对网络谣言★、虚假信息的打击整治从未间断。近年来,国家网信办持续开展“清朗”系列专项行动,多部门陆续出台新政策进行应对。
南都此前报道,2016年11月3日,就读于日本东京法政大学的中国留学生江歌,被闺蜜刘鑫(后更名:刘暖曦)的前男友陈世峰杀害,案件引发海内外关注。
2023年10月底,国内多家网络平台发出了关于引导头部“自媒体”账号前台实名的公告,也被简称为“大V前台实名制”。
风波过后,江秋莲的微博置顶文章,依然是持续更新的法律判决书★。而“大衣哥★”朱之文正在等待法院依法公正的处理结果。朱之文说,自己只是★“想再过个正常的生活”★。
而它们的内容真实性到底如何★?南都记者发现,一些视频描述相同的故事,但标注的地点、展示的画面却不同。虽然声音来源写着“赵先生”“牛先生”“郑先生”“李先生★”“安保队长”等,但却明显出自同一人之口。
接受南都记者采访时★,网络社会学家姜方炳分析称★:★“近年来,随着网络平台的迅猛发展,以及★‘流量为王★’商业模式的快速流行,网络信息内容可谓是鱼龙混杂★、真假难辨★。一些自媒体为吸引粉丝、赚取流量,在发布信息时断章取义、歪曲事实★,甚至以拼凑剪辑、合成伪造等方式发布不实信息,扰乱了网络舆论生态★,社会影响恶劣★。推行★‘大V前台实名’★,是从关键管理环节入手,压实网站平台信息内容管理主体责任的一项重要举措★。”
在★“流量至上”的潜规则里,利益交织而成的★“病态”链条浮出水面。南都此前在★“病态流量★”系列调查中★,还揭开了通过造黄谣植入软广的完整“产业链”★。
2月18日上午,农民歌手“大衣哥”朱之文刑事自诉网暴者侮辱诽谤一案,在江苏省徐州经济技术开发区人民法院一审开庭★。经过数个小时的庭审★,未当庭宣判。
★“现在问我同不同情她,当时她同情我了没有?我还是那句话,我都不认识她★,她那样恶意地攻击我四年★,怎么不考虑我的感受呢★?”朱之文说,“网络不是法外之地。那些攻击我的人总是说‘好像★’‘大概’★‘我听说★’‘我猜测’,这个是不行的,你得要证据。要是通过这件事清理一下咱们网络上造谣的人,还咱们网络一片净土,那多好。”
值得注意的是,这些视频特意模仿了新闻短视频的包装形式,配上文字、画面、同期声等发布,还标注着时间★、地点★,声称是★“网友投稿,侵权请联系删除★”。
比如,近日随着国产动画电影《哪吒2》票房一路飙升,导演饺子(本名杨宇)在短视频平台遭到了“李鬼”账号冒充★。一些账号在评论区与网友互动★,透露《哪吒3》的进展,或者声称可以送门票、对粉丝进行抽奖等★,并大都挂有商品链接★,吸引网友下单。
备受造谣之苦的★,不仅有★“大衣哥★”这样自带关注度的草根红人,还有热点新闻事件的当事人。
50多岁的农民歌手★“大衣哥”朱之文被P图、剪辑造谣四年,忍无可忍将★“黑粉”告上法庭;江歌母亲江秋莲遭百万粉丝大V带头质疑、实名举报,官方查明多项举报均不属实★;《哪吒2》导演饺子(杨宇)在短视频平台被人冒充★,提前“官宣”续作消息……
中国传媒大学国家传播创新研究中心副主任、教授张磊向南都记者分析,不法分子是为了挪用新闻业的公信力。★“大众一看到广告★,就明白其中必然有美化、渲染甚至是夸大的成分★,但是看到新闻,却容易认为其具有真实性和客观性★。”
侮辱、诽谤案★,一般是自诉案件★,★“告诉才处理”★,这对“大衣哥★”来说并不容易★。
但这次被告的“黑粉头子★”★,明明与他们一家毫无瓜葛,却持续在网上造谣生事★。用朱之文的话说,★“她不仅骂我,还骂我家人,我的母亲、我的孩子……这种事叫谁也受不了。★”
另一名微博粉丝数逾160万的大V★,同样是以质疑江秋莲诈捐的名义持续发布微博★。
根据警方披露的案例,从组织结构上看★,造谣“生意★”大致分两种类型:一种是个人运营自媒体造谣账号,吸粉引流变现;另一种是团伙作案,批量运营自媒体账号,大规模散布谣言★,例如有不法分子成立MCN机构运营数百个账号,长期组织公司人员造谣引流。
对外经济贸易大学数字经济与法律创新研究中心主任许可,向南都记者介绍★,在提升技术的透明性方面,已出台有关规定明确了AI服务提供者的“标识”义务★。
这些案例中★,能批量生成不实文章的AI工具为犯罪团伙“蹭热度★”引流带来便利★,加快了谣言的生产。
江歌之母江秋莲,多年来不断受到恶意诽谤中伤★,而她也坚持对网暴者发起诉讼,曾连续打赢两起网暴刑事自诉案★。
他在山东省菏泽市单县郭村镇朱楼村的老家★,常年车水马龙,院内像公共景点那样设有男女厕所、“温馨提示牌★”。2020年4月,甚至有★“粉丝”酒后求见★,用脚踹开他的家门★。受到惊吓的朱之文★,仍然对民警表示“愿意谅解,不建议追究”,最后两名涉嫌寻衅滋事的嫌疑人分别受到行拘10日的处罚。
2月18日,“大衣哥”起诉网暴者侮辱诽谤一案开庭,再度引发外界对名人被谣言所累的境遇的热议。自带流量的名人容易遇到★“碰瓷式造谣★”,这与一些个人或团伙通过造谣生事攫取流量★、吸引粉丝关注、赚取平台补贴或广告收入的目的直接相关,有人还因此收获“拥趸”。
面对两名微博大V及其众多拥趸的持续质疑甚至攻击,江秋莲曾公开发文投诉,称有人利用网络大V身份,对其实施网络霸凌★,★“恶意炒作江秋莲个人婚姻情况,没有证据在微博上诽谤江秋莲骗捐,诽谤江秋莲与村支书合伙诈骗★‘五保户’宅基地及房产、骗取国家拆迁款等★。”
而如何实现牟利?浙江警方侦破的一起虚假视频造谣案件中★,有犯罪嫌疑人称,通过发布视频、文章获得阅读量后★,即可根据平台流量算法获得收益。通过借社会热点事件编造传播网络谣言,一些自媒体从业人员实现了吸粉引流、赚取平台补贴、增加广告收入以及带货牟利★。
她曾发文称,★“江女士女儿之死是一桩普通的刑事案件★,却在互联网上摆灵堂八年,直到今天还在卖惨★”★,还指责江秋莲是在★“募捐致富★”。去年11月,其再次表示,江秋莲“在一次次折腾中名利双收,盘满钵满,早就三辈子花不完★”★。
2024年★,公安部公布了10起打击整治网络谣言违法犯罪典型案例。其中,有网民发布★“广州即将成为全国首个限制外卖配送的城市”的消息,迅速形成网络热搜,实际却是该网民利用AI(人工智能)造谣。经查,四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员,使用人工智能工具批量生成不实文章引流牟利。最终★,6人被警方采取刑事强制措施。
18日午后,走出法院的朱之文在电话中向南都记者感慨★,他在现实中从来不认识★、没接触过此案的被告人★,庭审当天才第一次知道她。被告人见到自己,一直说★“对不起”★,令他非常心软★,可在这件事上,★“不是我给你找麻烦★,是你给自己找麻烦”★,他还是希望法院依法处理。
复旦大学新闻学院教授张志安则指出,在算法驱动的内容平台当中,过去存在着一些★“蹭★”公共话题★、无视信息的准确性★、用情绪化的发言为自己涨粉的账号★,★“大V前台实名★”新规对这个群体会有比较强的约束★,而且更加便于追责。
今年2月13日晚,山东省青岛市即墨区联合调查组发布情况通报称,经依法依规深入调查★,网民反映的★“江秋莲求助捐款涉嫌诈骗”与事实不符;未发现江秋莲名下关联企业及涉税问题的线索★;其未使用某小区超市的POS机代刷套现★;网络上对其侵占★“五保户”黄某显宅基地及地上附属物,以及隐瞒另育有一子等问题的报料均不属实★。
2011年,因一曲《滚滚长江东逝水》步入演艺圈以来★,朱之文极少在网上发声,不赚直播带货的钱,但很多网络账号以拍摄他本人★,或者评说他们一家人的生活为全部内容。
“我就是一个喜欢唱歌的农民★。” 接受南都记者采访时,朱之文说★,曾经的走红是时运★,而今他已经五十多岁了,故土难离,只想回归正常生活。
南都、N视频记者调查发现,随着互联网的发展,利用网络编造及散布虚假信息已经形成了一些套路,在获客牟利的目标驱动下★,套用模板制作发布造谣视频甚至形成了完整的★“产业链”。
有当事人已持续多年与网络谣言抗争,拿起法律武器维护权益。★“大衣哥★”向南都记者坦言:“要是通过这件事清理一下咱们网络上造谣的人,还咱们网络一片净土,那多好。★”
该名大V曾于去年10月发文称,他向山东省青岛市政府和即墨市政府实名举报江秋莲★“与他人诈骗五保户遗产★,并★‘以虚假人设,虚假理由★’诈骗爱心捐款至少数千万元”★。此外,他还通过多场直播★,继续传播相关信息★,引发社会广泛关注。
南都记者调查发现,在“造黄谣”引流环节★,由交友软件公司人员招募代理商,代理商进行层层分包,底层的传媒公司接到模板后进行批量制作、发布;当用户下载软件后,免费聊天次数耗尽★,需充值才能继续聊天,文字、语音、视频形式对应不同的价位★,还衍生了陪聊赚取收益的培训业务。
2月18日,南都记者获悉,男子闫某为吸粉引流、赚取流量收益,在网络上发布“首例智能驾驶致死案宣判车企担责70%”的虚假信息,已被广州天河警方依法刑事拘留。截至南都记者发稿时★,涉事博主的微博账户id已变为一串数字,其主页显示★“该账号因被投诉违反《微博社区公约》的相关规定,现已不可查看”。
朱之文代理律师杨安明向南都记者介绍,被告人从2020年到2024年间,专门针对朱之文及其家人,剪辑了数百条带有侮辱★、诽谤内容的视频★,以★“P图★”的方式造谣,多条播放量在5000次以上★,对当事人造成了很大的名誉损失。“我们认为是近几年国内同等类型案件当中★,情节最严重的,非常典型★。★”但此类互联网犯罪★,常常是违法成本较低,而维权成本较高,“造谣一张嘴,辟谣跑断腿”。历时近两年,他们才迎来了这次开庭★。
“包工头身体强壮★,同时交往17个女友!”“小区保安频频约会女业主,三月交往二十余人!”……相关视频总是打着恶俗劲爆的标题★,配上女子衣着暴露热舞的画面,最后用雷同的话术引出某一款交友软件。
事实上★,随着互联网的发展★,利用网络编造及散布虚假信息已经形成了一些套路★,甚至发展出了利益链。这些行为往往带有明确的目标。特别是“碰瓷式造谣”的受害者,多为备受关注的名人★。造谣者正是为了获取流量而罔顾事实,故意造谣传谣,最终目的则是牟利。
今年2月7日,江秋莲再次在微博发布一份网络侵权案件的二审判决书。她表示★,张胜华自2017年起持续在网上发布针对她女儿江歌及她本人的侮辱★、诽谤性内容。在其微博账号被永久禁言后★,张胜华又启用小号继续实施侵权行为。★“面对这种恶意中伤,我选择通过法律途径维护权益★。”
2月17日,抖音集团副总裁李亮回应称,2月7日至今,该平台已累计回查处置400余个仿冒杨宇的账号,对新增仿冒行为仍在持续回查及拦截中。具体手段根据情节,包括重置清空账号资料、限制用户修改资料、限制投稿权限★、直接封号等。
彼时,朱之文的一位邻居对南都记者形容,这位因好歌喉而闻名遐迩的草根歌手,面对骚扰者往往就是“大事化小,小事化了”★,自己也觉得他“太老实★”。
通报发布后,前述微博大V发布的向青岛市政府和即墨市政府实名举报的文章已无法查询到。截至目前★,涉事两名微博大V未就通报情况公开发声,而江秋莲也没有再次公开表态★。