AI,正在疯狂污染中文互联网 当前要闻
金磊 尚恩 发自 凹非寺
量子位 | 公众号 QbitAI
污染中文互联网,AI成了“罪魁祸首”之一。
(资料图片)
事情是这样的。
最近大家不是都热衷于向AI咨询嘛,有位网友就问了Bing这么一个问题:
象鼻山是否有缆车?
Bing也是有问必答,给出了看似挺靠谱的答案:
在给出肯定的答复之后,Bing还贴心地附带上了票价、营业时间等细节信息。
不过这位网友并没有直接采纳答案,而是顺藤摸瓜点开了下方的“参考链接”。
此时网友察觉到了一丝丝的不对劲——这人的回答怎么“机里机气”的。
于是他点开了这位叫“百变人生”的用户主页,猛然发觉,介是个AI啊!
因为这位用户回答问题速度可以说是极快,差不多每1、2分钟就能搞定一个问题。
甚至能在1分钟之内回答2个问题。
在这位网友更为细心的观察之下,发现这些回答的内容都是没经过核实的那种……
并且他认为,这就是导致Bing输出错误答案的原因:
“AI污染源”,不止这一个
那么被网友发现的这位AI用户,现在怎么样了?
从目前结果来看,他已经被被知乎“判处”为禁言状态。
但尽管如此,也有其他网友直言不讳地表示:
不止一个。
若是点开知乎的“等你回答”这个栏目,随机找一个问题,往下拉一拉,确实是能碰到不少“机言机语”的回答。
例如我们在“AI在生活中的应用场景有哪些?”的回答中便找到了一个:
不仅是回答的语言“机言机语”,甚至回答直接打上了“包含AI辅助创作”的标签。
然后如果我们把问题丢给ChatGPT,那么得到回答……嗯,挺换汤不换药的。
事实上,诸如此类的“AI污染源”不止是在这一个平台上有。
就连简单的科普配图这事上,AI也是屡屡犯错。
网友们看完这事也是蚌埠住了:“好家伙,没有一个配图是河蚌”。
甚至各类AI生成的假新闻也是屡见不鲜。
例如前一段时间,便有一则耸人听闻的消息在网上疯传,标题是《郑州鸡排店惊现血案,男子用砖头砸死女子!》。
但事实上,这则新闻是江西男子陈某为吸粉引流,利用ChatGPT生成的。
无独有偶,广东深圳的洪某弟也是通过AI技术,发布过《今晨,甘肃一火车撞上修路工人, 致9人死亡》假新闻。
具体而言,他在全网搜索近几年的社会热点新闻,并使用AI软件对新闻时间、地点等进行修改编辑后,在某些平台赚取关注和流量进行非法牟利。
警方均已对他们采取了刑事强制措施。
但其实这种“AI污染源”的现象不仅仅是在国内存在,在国外亦是如此。
程序员问答社区Stack Overflow便是一个例子。
早在去年年底ChatGPT刚火起来的时候,Stack Overflow便突然宣布“临时禁用”。
当时官方给出来的理由是这样的:
Stack Overflow进一步阐述了这种现象。
他们认为以前用户回答的问题,都是会有专业知识背景的其他用户浏览,并给出正确与否,相当于是核实过。
但自打ChatGPT出现之后,涌现了大量让人觉得“很对”的答案;而有专业知识背景的用户数量是有限,没法把这些生成的答案都看个遍。
加之ChatGPT回答这些个专业性问题,它的错误率是实实在在摆在那里的;因此Stack Overflow才选择了禁用。
一言蔽之,AI污染了社区环境。
而且像在美版贴吧Reddit上,也是充斥着较多的ChatGPT板块、话题:
许多用户在这种栏目之下会提出各式各样的问题,ChatGPT bot也是有问必答。
不过,还是老问题,答案的准确性如何,就不得而知了。
但这种现象背后,其实还隐藏着更大的隐患。
滥用AI,也毁了AI
AI模型获得大量互联网数据,却无法很好地辨别信息的真实性和可信度。
结果就是,我们不得不面对一大堆快速生成的低质量内容,让人眼花缭乱,头晕目眩。
很难想象ChatGPT这些大模型如果用这种数据训练,结果会是啥样……
而如此滥用AI,反过来也是一种自噬。
最近,英国和加拿大的研究人员在arXiv上发表了一篇题目为《The Curse of Recursion: Training on Generated Data Makes Models Forget》的论文。
探讨了现在AI生成内容污染互联网的现状,然后公布了一项令人担忧的发现,使用模型生成的内容训练其他模型,会导致结果模型出现不可逆的缺陷。
这种AI生成数据的“污染”会导致模型对现实的认知产生扭曲,未来通过抓取互联网数据来训练模型会变得更加困难。
论文作者,剑桥大学和爱丁堡大学安全工程教授Ross Anderson毫不避讳的直言:
对于虚假信息满天飞的情况,Google Brain的高级研究科学家达芙妮 · 伊波利托(Daphne Ippolito)表示:想在未来找到高质量且未被AI训练的数据,将难上加难。
假如满屏都是这种无营养的劣质信息,如此循环往复,那以后AI就没有数据训练,输出的结果还有啥意义呢。
基于这种状况,大胆设想一下。一个成长于垃圾、虚假数据环境中的AI,在进化成人前,可能就先被拟合成一个“智障机器人”、一个心理扭曲的心理智障。
就像1996年的科幻喜剧电影《丈夫一箩筐》,影片讲述了一个普通人克隆自己,然后又克隆克隆人,每一次克隆都导致克隆人的智力水平呈指数下降,愚蠢程度增加。
那个时候,我们可能将不得不面临一个荒谬困境:人类创造了具有惊人能力的AI,而它却塞满了无聊愚蠢的信息。
如果AI被喂进的只是虚假的垃圾数据,我们又能期待它们创造出什么样的内容呢?
假如时间到那个时候,我们大概都会怀念过去,向那些真正的人类智慧致敬吧。
话虽如此,但也不全坏消息。比如部分内容平台已开始关注AI生成低劣内容的问题,并推出相关规定加以限制。
一些个AI公司也开始搞能鉴别AI生成内容的技术,以减少AI虚假、垃圾信息的爆炸。
(声明:本文仅代表作者观点,不代表新浪网立场。)
标签:
相关阅读
-
AI,正在疯狂污染中文互联网 当前要闻
金磊尚恩发自凹非寺量子位|公众号QbitAI污染中文互联网,AI成了“罪魁 -
【新视野】网飞真人版《海贼王》预告片...
IT之家6月18日消息,网飞(Netflix)日前在Tudum活动中,首次公开了《 -
布林肯访华,美国国务院网站将首页背景...
(观察者网讯)经中美双方商定,美国国务卿安东尼·布林肯于6月18日... -
本周十大牛熊股:CPO、光模块跑出6只牛...
本周十大牛股中,CPO、光模块概念占据6席,富信科技(行情688662,诊股) -
富县交警开展 “美丽乡村行”交通安全...
为积极推进农村交通安全宣传教育工作,全力提升农村道路交通安全管理水 -
世界微速讯:电子行业最受机构关注 12...
6月12日至16日,50家机构合计进行305次评级,245家上市公司获“买入型
精彩放送
-
AI,正在疯狂污染中文互联网 当前要闻
金磊尚恩发自凹非寺量子位|公众号QbitAI污染中文互联网,AI成了“罪魁 -
【新视野】网飞真人版《海贼王》预告片...
IT之家6月18日消息,网飞(Netflix)日前在Tudum活动中,首次公开了《 -
布林肯访华,美国国务院网站将首页背景...
(观察者网讯)经中美双方商定,美国国务卿安东尼·布林肯于6月18日... -
本周十大牛熊股:CPO、光模块跑出6只牛...
本周十大牛股中,CPO、光模块概念占据6席,富信科技(行情688662,诊股) -
富县交警开展 “美丽乡村行”交通安全...
为积极推进农村交通安全宣传教育工作,全力提升农村道路交通安全管理水 -
世界微速讯:电子行业最受机构关注 12...
6月12日至16日,50家机构合计进行305次评级,245家上市公司获“买入型 -
监控怎么安装到电脑_监控怎么安装? 世...
1、工具 原材料:摄像机、硬盘录像机、采集卡、硬盘同轴电缆、电源线、 -
陕西省夏播面积过九成 已播种1001.6万...
记者从陕西省农业农村厅了解到,截至6月17日,陕西全省已累计收获小麦1 -
搜狗浏览器高速模式打开网页换行_搜狗浏...
1、工具360安全浏览器选项这里。本文分享完毕,希望对大家有所帮助。 -
秦娟 秦娟多大了|每日热议
一、特征&商业精神:1、秦娟属于一位非典型的企业家思想家,有着自... -
柳叶眼图片(柳叶眼)
导读1、分类:桃花眼,瑞凤眼,睡凤眼,柳叶眼,杏眼,狐狸眼,铜铃眼 -
全球观点:毕设什么意思 做毕设是什么意思
毕设就是毕业设计的意思,指的是工农林高校和中等专业院校在毕业前总结 -
推背图预言中国未来(推背图如何预言新...
导读1、《推背图》是中华预言第一奇书,传说它是唐太宗李世民为推算大 -
世界最新:世联员工自助平台(员工自助...
1、员工自助服务是指员工通过企业建立的网络平台,实现自己对相关事宜 -
金爵奖颁出“双黄蛋”,胡歌大鹏分享金...
极目新闻记者戎钰为期9天的第25届上海国际电影节于6月17日晚举行闭幕典 -
卫健委副主任曹雪涛会见比尔•盖茨...
曹雪涛、比尔。盖茨本次会面就未来5年双方在基层卫生保健,妇幼健康, -
创建帐户是现有SimpleConnect应用程序中...
在过去的几年中,HomeKit支持的设备类别有所增加,但并非所有类别都得 -
谁让我当红游戏免费版
1、网上查,或者是评论里面看,评论里多多少少肯定有。2、或者加游戏交 -
3交易日涨超20% 古越龙山股价大涨背后
经济观察网记者张晓晖在酒类板块上市公司股价普遍回落的当下,浙江古越 -
2024春夏时装周 | Valentino的在校时间 每日速递
x2024春夏时装周Valentino多年后首次正式回归米兰男装周,呈现属于男性 -
王木生欠了1000万_王木生欠了多少钱
想必现在有很多小伙伴对于王木生欠了多少钱方面的知识都比较想要了解, -
关于恐龙的资料库(关于恐龙的资料大全?)
1、恐龙是中生代(三叠纪、侏罗纪和白垩纪)出现的一类爬行动物的统称。 -
丹东草莓和奶油草莓哪个好吃 丹东草莓...
这两种草莓都不错,奶油草莓更软更糯一点,红颜草莓更硬一点,市场上现 -
自动挡开车起步7个步骤是什么_自动挡开...
你们好,最近小品发现有诸多的小伙伴们对于自动挡开车起步7个步骤是什 -
时讯:绿酷高吃了能长高吗 绿酷高
1、穿高跟鞋并没有真正长高。2、至于绿酷高,我就没有用过,不过有同事 -
暴雨预警升级为黄色!中国气象局启动暴...
经综合研判和应急会商,中国气象局于17日上午10时30分启动暴雨三级应急 -
天天讯息:俄媒:俄国防部公布视频,俄...
据俄罗斯卫星通讯社17日报道,俄国防部发言人告诉该媒体,俄“南方... -
加拿大将向拉脱维亚部署“豹2”坦克中队...
多伦多6月16日电据加拿大国防部6月16日公布的消息,加拿大国防部长安妮 -
全球新资讯:广州地铁3号线谋“上市”,...
作为广州地铁客流量最大的线路,广州地铁3号线准备“上市”了。 -
鸿博股份:埋心不死留春色,且忍罡风十...
一颗强大的优质种子,无论怎么打压,都不能阻挡它的生根发芽、破土而出 -
天天视讯!中通浙江宁波中心组织开展快...
电商报快讯:6月17日消息,中通快递浙江宁波中心近日组织开展“关注快 -
火星皮卡潮我看·涂装投票进行时——涂...
与用户共创,火星皮卡不“自嗨”。自诞生之初,火星皮卡便将共创理念... -
陆军驻训医疗队在西藏昌都巡诊送药|环球...
图为西绕老人紧握巡诊医生的手表达谢意。 朱文秀 摄 近日,在西藏 -
436亿元金融活水助力我州乡村振兴
民族日报·中国临夏网讯(记者马玉兴通讯员马培华)今年以来,人行... -
从“天宫”到“天宫Plus”,11年间有何...
2012年6月16日,神舟九号载人飞船搭载长征二号F遥九运载火箭扶摇直上, -
环球今日讯!兰州推动高校毕业生等青年...
原标题:充分挖掘就业渠道引导转变就业观念兰州市推动高校毕业生等青年 -
int函数_函数INT是什么意思_今日聚焦
1、一、INT是取整数函数,不带有四舍五入;语法:INT(number),Number -
新能源汽车销量略超预期,电池龙头公司...
行业简报 -
我国古代银河系俗称叫什么_我国最早的佛...
1、洛阳白马寺是我国最早的佛寺。在河南洛阳东面10千米处。相传为东汉 -
红烧的家常做法鸡腿_做红烧鸡腿的步骤-...
欢迎观看本篇文章,小升来为大家解答以上问题。红烧的家常做法鸡腿,做 -
喝什么解酒?什么东西解酒?-今日关注
盐酸纳洛酮舌下片危害你不用担心的,我前阵子看一个电视剧,里面还出现 -
黄宇间谍案判刑_黄宇间谍案 今热点
1、黄宇,生于1974年7月,曾在涉密科研单位工作,从28起向境外间谍机关 -
世界微资讯!chrome browser怎么关闭_i...
1、可能是因为VISTA的问题,现在的下载软件对VISTA支持都不是很好,VIS -
天天微速讯:枯藤煎牛柳_关于枯藤煎牛柳...
1、以鲜牛柳肉为主料制作的菜品。文章到此就分享结束,希望对大家有所 -
领跑智能新能源赛道 魏牌“双旗舰SUV”...
近日,第二十七届粤港澳大湾区国际汽车博览会暨新能源汽车博览会盛大开 -
环球短讯!国统股份:公司目前在风电砼...
同花顺金融研究中心6月16日讯,有投资者向国统股份提问,公司在新能源 -
亚洲富二代精产国二区_张家乐 富二代_...
1、复出了2、张佳乐,蝴蝶蓝所著电竞小说《全职高手》及其衍生作品中的 -
文艺评论丨生活似水波涟漪自有高低,幸...
▲《晨光正好》剧照法国片向来是上海国际电影节很受欢迎的一个门类,特 -
慈文传媒(002343.SZ):熊志全辞去财务总监职务
智通财经APP讯,慈文传媒(002343 SZ)发布公告,公司董事会近日收到熊志 -
一场特殊的捐赠仪式 让革命薪火代代传承
中国青年报客户端讯(通讯员范启椿黄山鸿杨书勤中青报·中青网见习... -
世界热讯:国家能源局开展新型储能试点示...
【国家能源局开展新型储能试点示范工作】据国家能源局消息,国家能源局 -
录取通知书比拿奥运金牌容易?苏翊鸣拟...
对于高考来讲可以说是学生人生中最重要的一场考试,甚至关乎自己的未来 -
广西两条铁路年内将开通!多条在建铁路...
目前广西境内8个在建铁路项目正全力推进中!其中贵南高铁、防东铁路预 -
高三下学期数学教学计划|时快讯
光阴的迅速,一眨眼就过去了,前方等待着我们的是新的机遇和挑战,是时 -
兴业银行厦门分行:精准添柴助燃城市烟火气
炎炎夏日,伴随着气温的回暖,消费市场也奏响了复苏强音,而不断升腾的 -
漳州这5家公司生产的食品,检测不合格!
点上方关注【漳视直播】天天免费观看“现场直播”与漳州本地新闻!... -
当前滚动:欧洲经济“火车头”经济增长发...
欧洲经济“火车头”经济增长发乏力德国沦为“差等生”?,德国,欧盟,... -
平叙的例子_平叙 焦点信息
1、《水浒传》,《林海雪原》,《烈火金刚》,《铁道游击队》等长篇小说中 -
csgo新手开箱网站 csgo开箱网站免费体...
,嗨!各位网友们今天为各位网友们带来的是“csgo新手开箱网站”的... -
我国首艘!成功交付-全球热点评
浮式生产储卸油装置是开采海洋油气资源的高端大型海洋工程装备,可实现 -
范宏_关于范宏的简介|天天报资讯
音频解说1、范宏,新安股份独立董事。本文关于范宏的简介就讲解完毕, -
全球今热点:[汽车] 保时捷991.2 Carrera
CHHID:31451有幸的是在30岁之前有一辆自己的保时捷,不幸的是这是 -
2023年06月16日北京蛋氨酸市场动态
6月16日消息:依据不同货量不同品牌,今日蛋氨酸市场中,部分经销商 -
后来我身边有他身后有家但我只想问你一...
【后来我身边有他身后有家但我只想问你一句你爱过吗是什么歌】今天的关 -
《新浪会客厅》话高质量发展 马连洼邻...
6月16日,北京市海淀区马连洼街道办事处与新浪新闻、微博联合推出的“ -
【环球速看料】南通狼山五一打卡地推荐-...
在南通狼山国家森林公园里,有一处生机勃勃的绿地,面积达400多亩,种 -
新罗西斯克号潜艇_关于新罗西斯克号潜艇...
1、新罗西斯克号潜艇新罗西斯克号(Novorossiysk)潜艇。2、是俄罗斯63 -
湖北福利彩票中心官网 湖北福利彩票
1、一万以下的在卖的那里就可以兑了。相信通过湖北福利彩票这篇文章能 -
世界时讯:今非昔比相声_今非昔比
1、今非昔比的意思是:指现在不是过去能比得上的,多指形势、自然面貌 -
民航局:预计暑运日均保障航班1.65万班...
在6月16日上午举办的民航局新闻发布会上,民航局航空安全办公室副主任 -
援外日记丨我在非洲加蓬当眼科医生的日子
他们是救死扶伤的白衣天使,也是传递情谊的友好使者。 他们千里奔赴 -
洪泽法院开展“红管家·爱邻日”送法进...
6月13日,淮安市洪泽法院干警前往景虹丽都小区及周边商场开展“红管家 -
房产交易税费(关于房产交易税费的基本...
房产交易税费,产交易税费的基本详情介绍很多人还不知道,那么现在让我 -
全力推动重大项目落地达产 世界新消息
6月15日下午,市人大常委会副主任郭忠义带领相关部门负责人、部分常委 -
全球新消息丨总投资10亿元,清远预制菜...
近日,国家城乡融合发展试验区清远市预制菜产业园基础设施建设项目(一 -
专家学生做评委 以赛促教谋发展
扬州网讯(通讯员刘牧李闰月朱玫)近日,扬州大学教育科学学院(师范学 -
环球微速讯:“乡亲们,政府院内可以晒粮”
交汇点讯“乡亲们,政府院内可以晒粮”,这几天,宿迁市沭阳县沂涛... -
李梦将归队!率领中国女篮,剑指亚洲冠...
李梦将归队!率领中国女篮,剑指亚洲冠军,小三门事件无影响!,韩旭,亚 -
灵山县气象台发布暴雨橙色预警信号【II...
灵山县气象台16日9时20分发布暴雨橙色预警信号:目前强降雨云团在钦南 -
首届长三角区域港航发展联席会议在沪召...
记者6月15日从在沪召开的首届长三角区域港航发展联席会议上获悉,未来 -
约会天后+百万代言到手!落选秀成人生赢...
约会天后+百万代言到手!落选秀成人生赢家湖人还需奉上亿元合同,里夫斯 -
机构:2025年全球轻型车车规芯片体量有...
分析机构Canalys报告显示,全球轻型汽车市场将逐步复苏,预计到2025年 -
天天要闻:供需结构表现依旧良好 PTA价...
研报正文核心观点:【PTA(5592,-20 00,-0 36%)】今日(6月14日)PTA主力 -
上海迪士尼回应游客穿“联名汉服”入园...
近日,网友称自己去上海迪士尼穿了某品牌和迪士尼联名款的安娜裙,却被 -
青海围绕生态建设重点累计争取项目资金4...
记者近日从省林草局了解到,今年以来,省林草局围绕国土绿化、防沙治沙 -
南海农商网上银行登录官网网址_南海农商...
1、如果是你自己注册的网上银行,那用户名就是你登录名,可以是你自己 -
手机摔了一下黑屏打不开怎么办|今日聚焦
如果手机摔了一下屏幕黑屏打不开了,可以尝试以下解决方法:1、先观察 -
一个圈中间一竖是什么符号的车_一个圈中...
1、1,首先,打开Excel表格程序,进入程序主界面中。2、如图所示。3、2 -
企业禁止员工婚外情,违者辞退,你支持...
近日,一张温州乐清市某企业“关于禁止婚外情和出轨通知”的图片在... -
全力以赴保障大运会 带您认识成都大运...
红星新闻网(记者但唐文)6月14日报道 成都第31届世界大学生夏季运动 -
2023年6月15日乙酸乙酯价格最新行情预测
中国报告大厅2023年6月15日乙酸乙酯价格最新走势监测显示:常州同享化 -
湖南省交通违章费用是怎样规定的_全球观点
不收取手续费;缴纳的罚款需要根据违法行为的不同而不同,在50-2000元 -
观天下!avast中文版(关于avast中文版...
1、Avast已有17年的历史,它在国外市场一直处于领先地位。2、ALMIL公司 -
64岁老戏骨官宣离婚!没绯闻、没劈腿,...
都说,年少夫妻老来伴。但娱乐圈却有一对夫妻很典型,两人婚后一起走过 -
南昌市434.22万人就医买药实现“码上付...
近年来,为提升群众的就医购药体验,我市以“互联网+医保”为导向,... -
世界今热点:四川九洲:和华为在光网络...
四川九洲(000801)今日在投资者互动平台表示,公司和华为公司在光网络终 -
持枪入室抢劫?警方通报 环球观焦点
6月14日晚,四川资阳有网友发布视频称,雁江区半山风情二期疑似发生持 -
河北省成安县发布高温红色预警-当前短讯
成安县气象台2023年06月15日11时09分继续发布高温红色预警信号:预计今 -
2023年北京交通大学港澳班招生
2023年北京交通大学港澳班招生。威海校区作为国际化校区,通过与国外大 -
港口电煤报价开涨!|焦点热讯
这个星期一,今日智库就说到《港口煤价能挺住!》,一个关键的原因就是