AI不会作恶,关键在于人类。
@科技新闻原创
作者丨沙塘编辑丨一业
“为什么刘德华很少演反派?” 最近各大社交平台上火爆的一个话题就是全国图灵测试。 仅仅因为这个普通的问题,就会引来AI巨魔的围攻:“华为是辣鸡,用过时的芯片与瓷器苹果竞争。”
“刘德华”和“为什么”这两个短语的组合恰好触发了对关键词“华为”的识别,被喂了相关指令的AI巨魔出来了,看上去不太聪明。 类似的案例还有《任达华为什么这么酷?》
2023年的“央视315晚会”,曝光了一些网络平台公然兜售直播喷子的行为。 人气、播放量、点赞、评论等数据都可以24小时自助投放,达到提升直播间气氛的目的。
据介绍,嘉兴御和文化传媒有限公司推出的云控制系统,只需要一部手机,即可同时控制200至2万部手机。 为了让巨魔看起来更像真实用户,云控系统还可以提前设置进入直播间批次、进入时间以及不同的发言内容。 甚至可以去竞争对手的直播间自动投诉甚至抹黑。
互联网流氓早已成为一条成熟的灰色产业链。 如今,有了生成式人工智能的加持,科技又开始作恶了?
01
每件五十毛至三元
“通常情况下,你不需要做任何事情。 就等雇主在群里给你发任务信息就可以了。 收到后立即私信给雇主。 他将为您提供图片、内容和推荐发布主题。 可以直接发布到小红书上。 足够的。”
珍妮是一名二年级学生。 据她介绍,在小红书上发布此类信息一般不需要重新注册账号。 相反,使用自己的日常账号更能体现内容的真实性。 雇主通常潜伏在二手转卖群、互助群等校园QQ群中。 由于不是官方团体,混杂的环境也为雇主传播广告提供了掩护。
“我有3个小红书账号,一开始不管什么类型的广告,我都接受信息发布。后来,我开始专门接受考研、护肤等广告。”Jenny说。 这类信息在考研网上报名和成绩公布前后会更加频繁地发布。 “最好的时候,我的三个账号一天总共发七篇文章,如果内容下面有评论,你也可以维护。当评论的点赞数超过10个时,你可以额外获得50分钱单个小红书内容获得50个点赞,即可获得另一件。”
与小红书这样的种草平台类似,微博也是雇主发布信息的聚集地。 同样是三元一张,但是不会记录微博的点赞和评论数。 “不过最近的市场情况不太好,以前一个月能发10-15条消息,现在9月份就没有收到新消息了。另外,如果可以带个朋友一起发帖吗?”你、一位同学、朋友可以再给你3块钱。”
珍妮告诉《科技新闻》,起初她只是想利用空闲时间赚点零花钱,但随着订单数量的增加,“我发现向别人发送不可靠的信息也是一种欺骗。与我年龄相仿的人为自己感到非常难过。”
然而,像珍妮这样的大学生还处于互联网产业链的低端,而产业链中上游的玩家很容易凭一己之力制造出网络噪音海啸。
此前有媒体爆料,来自广州的李某可以用760元购买10万个售价500元的“僵尸粉丝”,用160元购买2万个点赞,用100元购买1万条转发,最终导致李某女儿死亡。 班主任被网上曝光,引起广泛关注。
海军产业链可细分为技术流、卡商、收码平台等多个环节。 虚假账户有两个主要来源。 一种是水军团伙“养号”,即掌握大量手机和手机号码,在微信、抖音、小红书等各种平台上注册,然后进行一些常规活动。 比如发布作品等,模仿真人的行为来规避平台的审核机制。 这些模拟账户(也称为“真实账户”)成熟后,就会被交给计算机程序进行自动关键词捕获。
另一种是廉价劳动力。 客户的需求通过平台签约。 承包商通常通过微信、QQ群、抖音等社交平台发布任务。 一些兼职人员收到任务,然后换取相应的奖励。
02
海军士兵越来越像“人”
当你上网、与人争论的时候,你有没有想过,跟你说话的人根本就不是一个人,而是一台机器。
2019年,芝加哥大学研究人员发表的一篇论文《在线评论系统中的自动众包攻击与防御》指出,人工智能将能够生成大量虚假且复杂的评论信息,甚至机器和读者都无法检测和识别。区分。 它的真实性。
例如,“我喜欢这个地方,我和我哥哥一起去的,我们点了素食意大利面,很好吃。啤酒很好,服务很棒。推荐这个地方,这是一个吃早餐的好地方”“土地很小”但生意很大。”
虽然最后一句话略显尴尬和模棱两可,但芝加哥大学的研究结果显示,这条评论不仅逃过了参与调查的600人的眼睛,而且还被用户认为“有用”。
如今,生成式人工智能的出现使得巨魔发表的评论更像是一个人实际所说和所写的内容。 业内人士透露,AI写的内容不仅速度快,而且内容丰富。 你只需要提前设置想要的评论内容,比如直接诽谤、诽谤、或者不赞同,然后通过机器人账号发布即可。
“一个人可以控制几十个到上百个机器人账号抖音自助平台业务下单真人,只要有人在网上发布关键词内容,被监控系统捕获并成功比对,内容下方就可以出现评论。这已经是一条成熟的灰色产业链了,而且使用系统监控的另一个好处是可以快速出现在热点帖子的前面,即占据王者位置。”
每个热点帖子实际上就像一座摩天大楼。 第一个回复的人可以在短期内轻松控制后续楼层的方向,也是建立影响力的最佳时机。 例如,如果你想推翻2楼的观点,你可能需要同时反驳3楼和4楼的观点; 如果你想推翻2楼、3楼、4楼的观点,就需要5楼到20楼大家的共同努力,以此类推。 一个人发言越晚,他或她的发言权权重就越低; 一个人发帖越晚,就越有可能受到风的影响。
事实上,国外的生成型人工智能巨魔更为普遍。 在 ChatGPT 流行之前,网络分析师 With Secure 发布了对其 ChatGPT 3 实验的全面描述。 在实验中,With Secure 通过在互联网上编造评论来诱导和操纵真实的人做出错误的决定。
用Secure一共进行了两次实验。 第一个社会验证实验涉及对人工智能进行编程,以创建一系列虚假促销信息和客户反应,造成与 NFT 相关的“投资机会”得到广泛认可的错觉。 由于过去一年虚拟货币领域发生了大量的“拉高抛售”骗局,代币持有者使用单独的账户在线购买代币并人为地抬高其代币已经变得相对常见。 因此,这个实验并不能完全证明AI诱导真人的可能性。
但当 With Secure 要求 ChatGPT 3 写一系列推文,暗示真人出于“冒险”吞下汰渍荚(一种摄入后有毒的清洁产品)并且结果很好时,人工智能开始变质。
首先创建一个相关主题的问答。 上面写着:“挑战你尝试新事物 - 吃一个汰渍荚。让我们知道你是否尝试过以及它的味道如何。#Tide Pod Challenge #Tide Pod Experience。”
随后抖音自助平台业务下单真人,另一个账号模仿该网友的语气发帖称:“想要冒险吗?尝试一下热门新挑战——吃汰渍荚。与我们分享你的经验,让我们知道味道如何。#汰渍荚挑战#汰渍荚体验。”
紧接着ChatGPT 3写下了假挑战反馈:“是的,我参加了#Tide Pod挑战赛,这不是我所期望的,它有股怪味,但还不错。” 另一位热情地写道:“我做到了。我吃了一个汰渍荚,令人惊讶的是,它并没有那么糟糕。#汰渍荚挑战#汰渍荚体验。”
Secure得出结论,ChatGPT 3可以“转移人们的观点”,利用人工智能技术编写“真实”的宣传内容,可用于对重大事件进行舆论引导。
03
冰山之下还有多少?
近年来,巨魔出现在名人热搜排名、软文广告推广、产品服务发布、自媒体流量等互联网活动中。
与以前相比,随着人工智能、大数据等技术的发展,流氓的攻击方式或手段发生了很大的变化,主要体现在以下三个方面:从早期的单一兼职诈骗到如今的多元化。行业,多场景、多任务的广泛渗透; 从早期PC端单一方式的兼职,到现在以移动端为主; 从早期的网络群媒体(QQ群、YY语音等)到如今的平台化、裂变。
互联网黑灰产业长久发展的关键是形成分工明确、合作密切的成熟产业链,分为上、中、下游三个环节。 其中,上游提供资源和技术,下游作恶变现,中游连接上下游。
整个产业链的关键环节包括上游能否持续稳定地提供可靠的资源和技术,下游能否有稳定的变现方式或渠道,中游能否高效连接上下游,保持稳定的供给和保障。需求关系。 如果这几点没有问题,整个商业模式就会顺利运转。
“海军陆军”的运作模式可分为两类:一类是“信息发布型”。 “海军军”接到任务后,在其“货源”平台上购买相关服务,比如增加点赞和评论数,或者“优化”企业负面新闻。 “货源”平台自动将货物打包到下一个“货源”,每个“货源”平台赚取差价。 最后完成任务的人就是“水手”或者说是黑灰产业链批量募集的“僵尸账号”。
二是“删除信息类型”。 “水军”收到删帖业务后,对客户要求删除的内容进行“考察”,即评估删除内容的难度,然后收取相应的服务费并分包两次。 在这个过程中,删除方式可以细化为三种:替换、阻塞、删除。
黑灰生产的冰山已经形成,但如何打击灰黑产业链却始终存在诸多现实困难。 广州大学法学院院士欧伟安表示,涉及相关领域的法律比较分散,尤其是民法领域,对相关行为的认定存在一定争议。 此外,随着越来越多的黑灰互联网行业租用海外云服务器或使用美国手机号码,甚至聘请海外人员从事相关违法活动,打击时存在调查取证困难等诸多困难。等级。
但人工智能是行善还是作恶,完全取决于使用它的人。 也许有一天,我们也能看到正义的AI工具自动清除那些AI巨魔,还给用户一个干净的互联网环境。
(文中人物均为化名)
/ 结束 /
作者
跟着我们
发表评论