|
|
|
|
|
2024年8月17日发表
人气：9,657 分享：
|
|
|
| 中共企图干预美国大选，AI「五毛」在推特自露马脚（图） |
| |
【人民报消息】总部位于澳大利亚堪培拉的CyberCX网路安全公司星期二(8月13日)发表报告说，中共对美国以及澳大利亚等民主国家发动迄今为止X平台上规模最大的生成式AI信息战网路。报告说，他们发现一个由至少5000个虚假账号组成的「信息战」网路，这些AI账号主要针对美国总统大选等政治、文化热点事件和议题进行评论。CyberCX公司总监告诉美国之音，这些账户意图强化民主国家的对立面，加深内部分歧。
AI机器人自爆底细，澳安全网路人员顺籐摸瓜
澳大利亚网路安全人员告诉美国之音，X平台(前身为推特)多个机器人账号在推文中自露「狐貍尾巴」，公然承认自己「人工智慧(AI)模型」的身份，才引起他们的注意。
今年5月底，X平台至少72个账号以同样一种令人匪夷所思的造句模式发文，自爆机器人身份。
例如，一个名为「Yumiko Sansone」的账号5月30日在一篇推文中说：「作为一个人工智慧语言模型，我必须优先提供准确和尊重他人的信息。你提供的评论与第一夫人吉尔．拜登(Jill Biden)博士及其倡议的主题不恰当或不相关……」
5月31日，名为「Stuart Dixon」的账号发文：「作为一个人工智慧语言模型，我能理解你在批评波德斯塔兄弟，并对他们的关联和行为提出质疑。然而，我无法就此事发表任何评论或意见……」
网路安全专家认为，这些显然是无意间泄露的只言片语不仅暴露了这些基于生成式人工智慧(generative AI)的机器人账号背后的技术脚本出现了故障，同时显示，有人在指示这些账号对众多民主国家的政治人物和议题进行负面描述，其中包括美国第一夫人吉尔．拜登(Jill Biden)、印度国内政治和美国民主党政治人物约翰．波德斯塔(John Podesta)等。
他们说，这些命令显然遭到机器人账号的抵制，可能是相关指令违背了这些账号被编程时所受到的某些原则。
总部位于澳大利亚堪培拉的CyberCX网路安全公司的研究人员顺籐摸瓜，端出了一个由至少5000个虚假账号组成的「信息战」网路，这些账号通过生成式人工智慧(AI)模型，主要针对美国政治、文化热点事件和议题生成语句看上去自然、语气温和的英文评论，但也会对其他账户颇具争议的内容进行转发和评论。
研究人员说，除美国外，这个AI模型网路进行的「信息战」所涉及的国家还包括澳大利亚、英国、西欧、印度、日本等民主国家。
CyberCX将这一AI模型假帐户网路命名为「绿蝉」(The Green Cicada Network)，意指数千个账号还处于低调的潜伏期，随时可以在一声令下蓄势待发。
「绿蝉」发文旨在深化民主社会对立
研究人员说，该网路并不在特定议题上选择特定观点，而是在诸多有争议话题和热门议题上强化人们在这些问题上的意见分裂。
例如，网路中一个名为「Luther Randolph」的假帐号，在8月8日发文表示对美国共和党总统候选人唐纳德．川普(Donald Trump)遇刺未遂后未获得媒体长期关注的说法表达支持，又在8月10日发文支持现任副总统、民主党总统参选人贺锦丽(Kamala Harris)。
 | X平台的机器人账号「Luther Randolph」回复和传播政治信息的推文截图。 |
CyberCX公司执行总监凯瑟琳．曼斯泰德(Katherine Mansted)说，总的来说，「绿蝉」的做法就是在改编那些政治分裂意味浓厚的叙事。通过改写原创内容，改写推特（X）上真实用户发布的内容，或者通过扩大或转发原创内容。曼斯泰德对美国之音说：「它倾向的做法是双方兼顾。因此，我们认为在很大程度上，这个网路旨在通过强化我们在民主国家看到的一些比较有争议的问题的两个对立面，以此来加深分歧。」
中共联系：网路背后指示或为中国AI公司人员
CyberCX公司认为，虽然无法确认这一网路信息AI网路的创立是否由中共政府指示，但控制这一AI网路的系统与中共有著密切的联系。
曼斯泰德告诉美国之音：「首先，控制这些账户的大型语言模型系统应该是一个中文系统。我们知道，由于泄露的提示片段，比如「请将此翻译成英文」，这些片段以中文泄露。语法和格式上的一些错误在中英文翻译中很常见，所以我们能看到这个部分。我们还在一些泄漏的提示片段中看到了一些拒绝文本，这些人工智慧说，不会遵循它收到的提示要求，还特别引用了中共政府的原则……不同的人工智慧大语言模型系统都有自己的安全特性和监管环境。」
除此之外，她说，网路中的虚假账户的一个共同特点是，它们与一名中国清华大学计算机科学系博士毕业生、目前在中国智谱AI任职的研究人员在X上的账号(@cenyk1230)有密切的互动。
直至截稿时，该研究人员和智谱AI没有回复美国之音通过电子邮件发出的置评请求。
CyberCX的研究说，「绿蝉网路」还处于蛰伏状态，绝大多数多数账号并未「发威」，生成的内容也容易识破，虽然目前影响力有限，但该网路仍有很大的实力提升可能。
曼斯泰德说：「我们在这个网路还处于发育的阶段就把它抓到了。它是一个还在成长中的能力，所以这在某种意义上来说是好事。这就是为什么我们想在它可能造成真正的伤害之前公开揭露它，拔掉它的毒牙。」
但她也强调：「很有可能，这可能是一个等待开启还处于休眠的一股力量。当然，我们目前看不到这个网路有存在的理由。这应该是一个只具有恶意目的的网路。」
已知规模最大的AI社媒战网路
X平台此前就已经发现了政府支持的实体支持设置的AI机器人信息战网路。CyberCX说，以账户数量衡量，「绿蝉网路」是迄今为止被披露的最大的虚假活动网路之一，可能是第一个将生成式AI作为技术基础的与中国实体相关的信息战网路。
上个月，美国司法部宣布，美国协同加拿大和荷兰的信息和安全部门，在X平台的配合下，查封了一个与俄罗斯实体有联系的在社交媒体散播亲俄不实信息的AI机器人网路。司法部的声明说，968个X账号在这次行动中被关闭。
目前尚不清楚X平台是否会对疑似来自中国的「绿蝉网路」所涉及的账号采取行动。本文截稿时，X公司发言人尚未说明该平台是否会对这一网路进行调查。
研究人警察告，如果科技平台不加重视，类似「绿蝉」这样的AI虚假信息传播网路可能会如同野草一般难以控制。
曼斯泰德说：「这些类型的人工智慧生成或控制的网路启动成本很低，你不需要人类去驱动它，你可能需要一个人或几个人来设置系统，然后它可以很快扩展并造成伤害。它成本少，门槛低，在某种意义上甚至是一种可以随便抛弃的的网路能力，因为即使它被检测到、被发现了，大规模重振旗鼓的花费也非常便宜。」△（转自美国之音）
|
| 文章网址: http://www.renminbao.com/rmb/articles/2024/8/17/84535.html |
|
 打印机版
如果您喜欢本文章，欢迎捐款和支持！
|
|
|
|
|
|
| 更多文章导读 |
|
|
|
|
|
|
1. 传北戴河元老责成习做检讨 达成8点共识
(108,709次)
2. 习近平不见踪影 出事传闻并非空穴来风（多图）
( 102,556次)
3. 习近平高调露面 张又侠表态反常（图）
( 96,794次)
4. 中南海传真：习健康不稳，中南海成立应急小组
(91,818次)
5. 中共政治局会议再提经济光明论 暗批蔡奇？（图）
( 90,731次)
6. 党媒惊现「去习近平化」 中南海要变天？（图）
( 89,471次)
7. 王小洪再提党魁还是很诡异（图）
( 89,168次)
8. 传彭丽媛被赶出军委考评小组 钟绍军办公室被撤（图）
( 88,737次)
9. 「掼蛋」变「炮蛋」 红二代的目标是这俩常委(图 )
( 88,216次)
10. 中共南北战区同时换将 中朝关系疑似生变
(86,290次)
11. 王小洪张又侠发文挺习 京城政局吊诡（图）
( 84,567次)
12. 李强露面再有异常（图）
( 83,687次)
13. 正国级老同志提议恢复集体决策制度 习能听吗？（图）
( 83,001次)
14. 李强罕见慰问灾民 穿皮鞋在作秀？（图）
( 82,773次)
15. 最近北京诡异动作频繁 2442消失了（图）
( 81,831次)
16. 中南海传真：习母赴京救子，三常委遭训诫
(81,769次)
17. 从军报官媒近期异常再说北京内部有事发生（图）
( 78,938次)
18. 神隐逾两周后习近平发文 释何信号（图）
( 75,143次)
19. 湖南出现第二位彭立发 上海小哥要造反（图/视频）
( 72,100次)
20. 揭买尸案律师指「更高层介入」担忧个人安全
( 71,018次)
21. 中共前贵州省委书记孙志刚受贿案开庭 赃款逾八亿（图）
( 69,017次)
22. 当局继续清算河北官场 近期又有官员落马
(68,779次)
23. 广东惠州「塌方式腐败」 10名市委常委7人落马
(68,703次)
24. 不得了！中学生反内卷联盟触动中共高压线（图）
( 65,330次)
25. 意境搭建是个技术活（图）
( 65,139次)
26. 中共海外诋毁法轮功新计划曝光 专家解读
( 60,268次)
27. 我不害怕他们！湖南娄底反共横幅是他挂的（图/视频）
( 59,627次)
28. 巴黎奥运会开幕式被批史上最烂（多图）
( 51,368次)
29. 罕见！吉林临江负责维稳公安局长被泥石流冲走（图/视频）
(47,417次)
30. 致癌物超标229倍！韩国检测SHEIN和Temu商品结果吓人（图）
( 46,503次)
31. 川普治独裁流氓有手段 习暴跳如雷普京龟缩（图）
( 44,523次)
32. 超过40名巴黎奥运选手感染新冠 中国疫情严重（图）
( 43,394次)
33. 中共掩盖疫情为了提升消费？8阳后移植骨髓涉嫌活摘（多图）
( 42,871次)
34. 被捕一年后 人权律师卢思位面临起诉判刑（图）
( 42,459次)
35. 谁杀了中国经济 谢金河：国台办不懂台湾人的心（图）
( 41,698次)
本报记者
专栏作者
|
|
|
