套娃不可取:研究人员证实用AI生成的结果训练AI将导致模型退化
(资料图片)
IT之家 6 月 14 日消息,IT之家的小伙伴们可能都有设想过,如果用 AI 生成的结果来训练 AI,进行“套娃式训练”,能得到什么样的结果?目前还真有研究团队对此进行了观察记录,详细论文及得出的结果发表在了 arXiv 上。
一句话总结 —— “在训练中使用模型生成的内容,将导致后续生成的模型出现不可逆转的缺陷”,说人话就是研究人员发现“用 AI 生成的结果训练 AI,只会让模型变得越来越差”。
据悉,研究人员专门研究了 AI 生成模型的概率分布,主要围绕“文本到文本”和“图像到图像”展开,最终得出结论:“由于每个模型生成的结果都具有一定的特点,因此用 AI 生成的模型训练 AI,随着时间的推移,后者会忘记真正的底层数据分布。”
论文的主要作者之一 Ilia Shumailov 同时表示“随着时间的推移,生成数据中的错误(IT之家注:例如虚假举例)会迫使 AI 进一步错误地感知现实,我们惊讶地观察到模型崩溃发生的速度相当快,模型可以迅速忘记他们最初从中学习的大部分原始数据。”
但小伙伴们可能会有所疑问,如果将 AI 生成的结果经过人工润色后再投入模型训练,是否可以避免模型“退化”?
答案是否定的,研究人员发现“模型退化过程是不可避免的”,因此即使对于“经过润色后理想化的 AI 输出内容”,模型在长期学习后,也会出现一定的退化现象。
对于任何大模型而言,由于其学习数据过多,它们都将不可避免地接触到其他 AI 生成的数据,因此研究人员表示“应当引入 AI 鉴定来挑出可能存在错误的学习数据”以提升模型的学习能力与准确性。
-
套娃不可取:研究人员证实用AI生成的结果训练AI将导致模型退化IT之家6月14日消息,IT之家的小伙伴们可能都有设想过,如果用AI生成的
-
如东县开展2023年海上防污染(溢油)应急演练-每日焦点如东县开展2023年海上防污染(溢油)应急演练日报讯(全媒体记者吴梦凡
-
【报资讯】从雾都的雾到帝都的霾歌名_从雾都的雾到帝都的霾1、雾是帝都厚,霾是江南醇:相比于京霾的厚重、冀霾的激烈、粤霾的阴
-
深职院正式更名深圳职业技术大学,首批本科招生:6个专业共200人-当前速讯深圳职业技术学院正式更名为深圳职业技术大学。
-
谈及北约要俄削减核武库,普京当场爆粗口!1小时19分钟讲话,历届最长!普京:必须增加!CCTV4《今日环球》消息:当地时间16日,俄罗斯总统普京在第26届圣彼得
-
全球观点:黄龙县2023年“安全生产月”宣传活动全面启动2023年6月是第22个全国“安全生产月”,今年主题为“人人讲安全、个个
-
前5月新疆铁路货运量超8900万吨 环球短讯记者从中国铁路乌鲁木齐局集团有限公司获悉:1—5月,新疆铁路货运量89
-
江西都市频道“伴你高飞”线上高招咨询会:本科+出国留学 国际本科适配哪些人群?_观速讯来源|都市现场原创未经允许请勿转载既能上本科,又能出国留学国际本科
-
环球热文:拉各斯赛17日赛程,双打爆发中韩对决,小将有望包揽三项冠军拉各斯赛17日赛程,双打爆发中韩对决,小将有望包揽三项冠军,国乒,田志
-
各大品牌为何扎堆换logo?带你揭秘背后的商业逻辑近两年,各行各业都刮起了一阵“换logo”的热潮,然而,很多品牌的新lo
-
世界快报:唐人街探案网剧免费观看大家好,小乐来为大家解答以上的问题。唐人街探案网剧免费观看这个很多
-
焦点热讯:突发!德赫亚确认离开曼联,将加盟沙特联赛,滕哈格将签国米门神在最近的一段时间,由于沙特联赛的报价,德赫亚的态度也发生了改变,他
-
热推荐:花语系列一野蔷薇1、《花语系列一野蔷薇》是连载于晋江文学城的一部同人其它小说。2、作
-
yahoo car yahoo ca1、没有,有yahoo com cn。本文到此分享完毕,希望对大家有所帮助。
-
液压系统蓄能器的作用_蓄能器在液压系统中的工作原理-观焦点1、最低0 27元开通文库会员,查看完整内容>原发布者:震6666CnoocJz20-2
-
邓州美景“坐”上了高铁!注意:支付宝首页搜776098369,现金红包人人有份,速领!“老家河南回
-
潢川县:培育巾帼法律明白人 护航美好幸福家-当前快报河南广电·大象新闻记者龚雪通讯员程书国张涛为加快推进“法律明白人”
-
观热点:toheart2 adplus(关于toheart2 adplus的基本详情介绍)1、《ToHeart2adnext》是一部日本动漫。2、属于少女动漫类型。3、于201
-
当前简讯:国家发展改革委:抓紧制定出台恢复和扩大消费的政策国家发展改革委新闻发言人孟玮在6月16日召开的例行新闻发布会上表示,
-
孙丽雁:办案时她总有一个个疑问 当前速看小王是一起交通肇事案中死者王某、轻伤者张某唯一的女儿,肇事者王某选
-
唯一网安企业!天融信摘得“2023工业互联网创新成果”唯一网安企业!天融信摘得“2023工业互联网创新成果” 6月14日-16日
-
特别的毕业礼!湖北一高校将毕业班班会记录册收藏|播报特别的毕业礼!湖北一高校将毕业班班会记录册收藏极目新闻记者李碗容通
-
看图写话下雨天帮撑伞降国旗_看图写话下雨天帮撑伞1、写作思路:联系图片,想象帮老奶奶撑伞的过程中发生的事情。2、正文
-
楼梯扶手高度标准尺寸国家标准B1(楼梯扶手高度)_焦点观察来为大家解答以下的问题,梯扶手高度标准尺寸国家标准B1,楼梯扶手高度
-
悦心健康:预计上半年净利润1.55亿元-1.75亿元 同比扭亏 世界看热讯2023年6月16日,悦心健康(002162 SZ)公告,2023年上半年预计公司归属于
-
300 架无人机列队!南华大学为本届高考生送祝福-环球微资讯6月15日晚,由南华大学为高考生准备的无人机主题灯光秀在湖南广电金鹰
-
湘电股份: 截至2023年6月9日,公司的股东户数为40,612户-世界动态湘电股份(600416)06月16日在投资者关系平台上答复了投资者关心的问题。
-
AI大模型紫东太初已被注册商标 中科院已注册紫东太初大模型商标6月16日,中科院发布新一代人工智能大模型“紫东太初2 0”,新版本突破
-
“这麦子地毯,比什么装修都好看!”河南安阳滑县瓦岗寨乡种粮大户祁会轻,望着自家27亩田地里翻滚起伏的金
-
全球焦点!“县”在出发——行走百县话振兴 | 砂石地结“致富果” 紫色梦绽贺兰山宁夏回族自治区银川市西夏区镇北堡镇昊苑村驻村第一书记者秀军即兴表演