日期:[2024年06月15日]
-- 华商报 --
版次:[A1]
按键伤人 强力管网 有图未必是真相
耸人听闻
MCN机构利用AI造谣日收入过万元
“××突发爆炸”
“××一民房发生爆炸事故”……
不法分子为赚取平台流量补贴
利用AI软件生成图片和文字炮制谣言
最高峰一天能生成4000至7000篇
“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息，竟都是利用AI软件炮制的谣言。
近日，一些不法分子为赚取平台流量补贴，实现流量变现，利用AI合成技术编造谣言，严重扰乱社会秩序。真相到底如何？公安机关又将怎样处理？
有图未必是真相
违法人员利用AI技术博取流量
今年1月，某网络平台出现一条关于“西安爆炸”的消息称，当月10日晚，西安突然响起巨大爆炸声，文字下方还配发所谓爆炸的图片。消息一经发布，很快在网上传播。
经调查，消息的发布账号归属于江西南昌一家MCN机构，这家公司的实际控制人为王某某。经核实，民警发现当地没有发生类似事件，初步判定该MCN机构发布的数条信息涉嫌网络造谣，属不实信息。
警方对王某某进行约谈，得知网上发布的这条谣言，从文本到图片都是通过AI生成的。民警表示，利用AI软件生成新闻热点类文章和图片，全程基本不需要人工参与。
国内一网站可提供近期可能生成热点的新闻报道，违法人员王某某通过该网站获取热点关键词，并生成文章标题。
王某某通过具有语音交互功能的AI软件，说出关键词，自动在网络上抓取相关信息，生成几百到上千字的文本，并配上貌似和事件具有相关性的虚假图片，从而形成一段看起来信息量很大，实际上子虚乌有的内容。
这些虚假文章被上传到多个网络平台，然后通过关注阅读的方式，阅读量比如说达到1万，它就是系数1，然后再乘以关注、转发、评论，再乘以一个1.5的系数，最终生成平台支付给他的报酬。同时如果有广告收入的话，另行支付。他平均每天通过AI工具发布的是4000到7000条信息，最高的一条收入是700元。经初步的估算，每天的收入在1万元以上。
经警方调查，王某某共经营5家MCN机构，运营账号842个。自今年1月以来，其中一家MCN机构利用其账号，陆续在某平台发布了“西安1月10日发生爆炸导致建筑、车辆炸毁、人员伤亡”等多条谣言信息。
经查，王某某的行为构成传播谣言，虚构事实，扰乱公共秩序。目前，南昌警方依据相关规定，依法对王某某处以行政拘留5日，责令涉案MCN机构停业整改。
新闻风格+惊险“灾情”细节
此类AI生成谣言更具迷惑性
在重庆，公安机关查处一起个人利用AI软件，编造民房爆炸谣言的案件。这起案件被公安部列为打击整治网络谣言违法犯罪典型案例。该案例利用AI技术，模仿新闻风格，一键生成涉及灾情的信息，以获取高流量。
去年12月25日，一则“重庆巫溪一民房发生爆炸事故，4人不幸遇难，官方紧急介入调查”的消息在某网络平台发布，全文500余字，以新闻报道的口吻，提供了“发现了4名遇难者，其中包括一名儿童”“疑似与居民私拉乱接电线有关”等细节，短时间内获得数万次的点击量。
这篇谣言阅读量暴涨，让之前在网上发文没有任何流量的康某某一开始还有些兴奋。
康某某称：“之前我发了20多条内容都没有收益，后来看到一个爆炸新闻有好几十万的点赞量。我就在网站输入‘重庆’‘爆炸’，它自动生成内容，我复制它的标题和文章。”
康某某之所以制造谣言，是因为得知在某知名网络平台创作发布文章，可以根据阅读、评论、转发数量等获取相关流量收益，每千人有效阅读量有1-2元的奖励。但他编造虚假消息博取流量的行为已触犯法律。
经查证，康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。公安机关依法对其行政拘留3日，收缴其违法所得，并封禁其网络账号。 据央视
“××一民房发生爆炸事故”……
不法分子为赚取平台流量补贴
利用AI软件生成图片和文字炮制谣言
最高峰一天能生成4000至7000篇
“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息，竟都是利用AI软件炮制的谣言。
近日，一些不法分子为赚取平台流量补贴，实现流量变现，利用AI合成技术编造谣言，严重扰乱社会秩序。真相到底如何？公安机关又将怎样处理？
有图未必是真相
违法人员利用AI技术博取流量
今年1月，某网络平台出现一条关于“西安爆炸”的消息称，当月10日晚，西安突然响起巨大爆炸声，文字下方还配发所谓爆炸的图片。消息一经发布，很快在网上传播。
经调查，消息的发布账号归属于江西南昌一家MCN机构，这家公司的实际控制人为王某某。经核实，民警发现当地没有发生类似事件，初步判定该MCN机构发布的数条信息涉嫌网络造谣，属不实信息。
警方对王某某进行约谈，得知网上发布的这条谣言，从文本到图片都是通过AI生成的。民警表示，利用AI软件生成新闻热点类文章和图片，全程基本不需要人工参与。
国内一网站可提供近期可能生成热点的新闻报道，违法人员王某某通过该网站获取热点关键词，并生成文章标题。
王某某通过具有语音交互功能的AI软件，说出关键词，自动在网络上抓取相关信息，生成几百到上千字的文本，并配上貌似和事件具有相关性的虚假图片，从而形成一段看起来信息量很大，实际上子虚乌有的内容。
这些虚假文章被上传到多个网络平台，然后通过关注阅读的方式，阅读量比如说达到1万，它就是系数1，然后再乘以关注、转发、评论，再乘以一个1.5的系数，最终生成平台支付给他的报酬。同时如果有广告收入的话，另行支付。他平均每天通过AI工具发布的是4000到7000条信息，最高的一条收入是700元。经初步的估算，每天的收入在1万元以上。
经警方调查，王某某共经营5家MCN机构，运营账号842个。自今年1月以来，其中一家MCN机构利用其账号，陆续在某平台发布了“西安1月10日发生爆炸导致建筑、车辆炸毁、人员伤亡”等多条谣言信息。
经查，王某某的行为构成传播谣言，虚构事实，扰乱公共秩序。目前，南昌警方依据相关规定，依法对王某某处以行政拘留5日，责令涉案MCN机构停业整改。
新闻风格+惊险“灾情”细节
此类AI生成谣言更具迷惑性
在重庆，公安机关查处一起个人利用AI软件，编造民房爆炸谣言的案件。这起案件被公安部列为打击整治网络谣言违法犯罪典型案例。该案例利用AI技术，模仿新闻风格，一键生成涉及灾情的信息，以获取高流量。
去年12月25日，一则“重庆巫溪一民房发生爆炸事故，4人不幸遇难，官方紧急介入调查”的消息在某网络平台发布，全文500余字，以新闻报道的口吻，提供了“发现了4名遇难者，其中包括一名儿童”“疑似与居民私拉乱接电线有关”等细节，短时间内获得数万次的点击量。
这篇谣言阅读量暴涨，让之前在网上发文没有任何流量的康某某一开始还有些兴奋。
康某某称：“之前我发了20多条内容都没有收益，后来看到一个爆炸新闻有好几十万的点赞量。我就在网站输入‘重庆’‘爆炸’，它自动生成内容，我复制它的标题和文章。”
康某某之所以制造谣言，是因为得知在某知名网络平台创作发布文章，可以根据阅读、评论、转发数量等获取相关流量收益，每千人有效阅读量有1-2元的奖励。但他编造虚假消息博取流量的行为已触犯法律。
经查证，康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。公安机关依法对其行政拘留3日，收缴其违法所得，并封禁其网络账号。 据央视