热门问题
时间线
聊天
视角
AI垃圾
来自维基百科，自由的百科全书
Remove ads
AI垃圾（英语：AI slop，其中“slop”原指废弃液体） 是指由生成式人工智能技术大量产出的低品质内容，其含意类似于“垃圾邮件”。[4]其形式包含文字、图像、影片及内容农场网站等多个媒介。[1][4][5][6]
该词最早出现于2020年代，它被定义为“数位杂乱”（英语：digital clutter）[7]，“由 AI 工具生成但着重于速度与数量而非内容与品质”[7]，以及“在社群媒体、艺术、书籍甚至搜寻结果中粗制滥造和不受欢迎的人工智能内容”。[8]纽约市立大学哲学教授乔纳森·吉尔摩 （英语：Jonathan Gilmore） 描述 AI垃圾所呈现的“极其平凡、写实的风格”为“非常容易处理”[9]
术语起源
由于大型语言模型（LLM） 和图像扩散模型加速了大量低品质文字内容与图像的产出，人们开始讨论如何恰当地称呼此现象。提出的词汇包括“AI garbage”、“AI污染”（英语：AI pollution）以及“AI生成的渣滓”（英语：AI-generated dross）。 [5]最初使用“slop”这个词来形容劣质AI材料，显然是针对 2022年 AI 图像生成器问世而产生的反应[8]此外，有评论指出，该词在4chan 、Hacker News和YouTube的评论中已成为一种内部圈子俚语。[8]
英国计算机程序设计师西门·威利森被认为是将“slop”这一词推向主流的早期倡导者之一，[1][8]他于2024年5月在他的个人博客中采用了该词。[10]但他表示，该词在他开始推广之前就已经使用了。[8]
2024年第二季度，该词随着Google使用其Gemini AI 模型生成的搜寻结果而人气提升，[8]到 2024年第四季度时，该词已广泛出现在媒体标题中。[1][4]
研究发现，使用 AI 垃圾来训练大型语言模型会导致模型崩溃：也就是说，在连续多次迭代中，模型输出的词汇、句法与语义多样性持续下降，这一现象在要求高度创造力的任务中尤为明显。[11]
Remove ads
社群媒体
人工智能生成的AI垃圾图像和影片在社交媒体上大量流传，部分原因在于这些内容能为Facebook和TikTok上的创作者带来收入。进而激励了来自发展中国家的使用者创作出迎合美国观众的图像，以获得更高的广告收入。[12][13][14]
记者杰森·科布勒（Jason Koebler）推测，部分内容之所以怪异，可能是因为创作者使用印地语、乌尔都语和越南语等提示语（这些语言在模型的训练数据中代表性不足），或者采用了不稳定的语音转文字技术，将原意翻译成英语而造成的。[12]
在接受《纽约杂志》采访时，一位来自肯亚的AI垃圾图像创作者描述了他如何向ChatGPT输入诸如“为我生成 10 个关于耶稣的图片提示，能在Facebook上带来高互动率。”（英语：WRITE ME 10 PROMPT picture OF JESUS WHICH WILLING BRING HIGH ENGAGEMENT ON FACEBOOK）这样的提示，然后再将这些生成的提示交由如Midjourney这类文字转图像的AI处理。[4]
Remove ads
政治
2024年8月，《大西洋月刊》指出，AI垃圾内容正逐渐与美国右翼政治势力挂钩，这些势力利用这类内容在社交媒体上发布废文及愤怒诱饵，该技术提供“廉价、快速、随需应变的内容原料”。[16]
在美国飓风海伦妮过后，共和党员散布了一张由人工智能生成的图片，该图片显示一名年轻女孩在洪水中抱着一只小狗，并借此指责总统乔·拜登未能妥善应对灾情。[3][17]即使有人如艾米·克雷默（Amy Kremer），承认该图片并不真实，但仍在社群媒体上分享了该图片。[18][19]
2025年2月，美国总统川普在极右翼社群媒体平台Truth Social和Instagram上分享了一段由人工智能生成的影片，影片中展示了将加萨地带转变为豪华度假村的影像。视频中包含了“川普加萨终于来了！”及“唐纳德将来解放你们”等字句。这段低品质的由AI生成的影片被批评为支持对巴勒斯坦人进行种族清洗的宣传工具而引起争议。[20][21]
活动列表
2024 年威利的巧克力体验活动的宣传图被形容为“人工智能生成的垃圾内容”[22]，误导观众参加一个只有廉价装饰的仓库举办的活动。该活动的门票则透过Facebook广告进行推广，而广告中展示的是人工智能生成的图像，没有该场地的真实照片。[23]
2024年10月，有报导指出，由于聚合活动列表网站 MySpiritHalloween.com 使用了 AI 生成的内容，数千人因此在都柏林集结参加一场并不存在的万圣节游行[24][25]。该活动讯息在 TikTok 和 Instagram 上迅速走红[26]。尽管戈尔韦曾举办过类似的游行，而且都柏林在往年也曾举办过游行，但2024年都柏林并未举行游行[25]。一位分析师认为，该网站看似使用 AI 生成员工照片，很可能是利用人工智能“迅速且廉价地创造出内容以抓住机会”[27]。该网站所有者表示：“我们请ChatGPT帮忙撰写文章，但并不是完全由ChatGPT自己完成的。”过去，当场地联络该网站时，网站会删除不存在的活动，但在都柏林游行的情况下，该网站所有者表示“没有人反映这个活动不会发生”。当 MySpiritHalloween.com发现这个问题后，他们更新了页面，说明该游行已被“取消”。[28]
Remove ads
广告
2024年11月，可口可乐使用人工智能创作了三支广告片，作为其年度节日宣传活动的一部分。这些影片发布后，便立即遭到普通观众和艺术家的负面评价，[29]《神秘小镇大冒险》创作者、动画师亚历克斯·赫希批评该公司未聘请人类艺术家来参与制作广告。[30]
针对外界的负面反应，可口可乐为其使用生成式人工智能的决定进行辩护，并表示：“可口可乐始终致力于在人工智能与人类创意的交汇点上，打造最高水准的作品。”[31]
在2025年3月，派拉蒙影业因在Instagram影片中使用AI编剧与旁白来宣传电影《无痛先生》而受到批评。[32]该广告采用了机器人般的AI语音，其风格类似于内容农场生产的低品质AI垃圾影片。A24也因2024年电影《帝国浩劫：美国内战》发布一系列AI生成的海报而遭受类似的批评。其中一张海报似乎描绘了一群士兵乘坐类似坦克的木筏准备向一只巨大的天鹅开火，这幅画面与电影内容毫无关联。[33]意大利式脑腐AI风潮被广泛采用于广告中，以更好地迎合年轻族群。[34]
同月，动视在Facebook和Instagram等平台上发布了多款虚构游戏的广告与海报，例如《吉他英雄》、《袋狼大进击：大乱斗》和《决胜时刻：僵尸捍卫者》，这些全都是利用生成式AI制作的，许多人将其称为AI垃圾。[35]其目的是调查市场对这些游戏是否有兴趣，从而决定是否将其开发为真正的游戏。[36]
Remove ads
书籍
现今，许多线上书商与图书馆供应商会提供由AI撰写的书籍，而这些书籍并未经过图书馆员的筛选与整理。为图书馆提供电子书与可下载内容的数位媒体供应商Hoopla也包含由生成式 AI 创作的书籍，这些书籍不仅由虚构作者署名，品质也存疑，当不知情的读者借阅时，可能会为图书馆带来额外成本。[37]
电子游戏
2024年推出的电子游戏《决胜时刻：黑色行动6》包含由人工智能生成的游戏资源。自该游戏首次发布以来，许多玩家指控Treyarch与Raven Software利用人工智能来制作游戏内的资源，包括载入画面、徽章和称号卡。其中一个具体例子为，僵尸模式中的一个载入画面展示了“Necroclaus”，这是一个僵尸化的圣诞老人，其一只手有六根手指，该图像还存在其他不规则之处。[38]此外，《使命召唤》系列的前作也曾被指控贩售由人工智能生成的虚拟装饰品。[39]
2025年2月，动视为遵守维尔福在Steam平台上对AI生成或协助产品的政策，公开了《黑色行动6》中使用生成式人工智能的情况。动视在该游戏的Steam产品页上声明：“我们的团队使用生成性 AI 工具来协助开发部分游戏内资源。”[40]
参见
参考资料
外部链接
Wikiwand - on
Seamless Wikipedia browsing. On steroids.
Remove ads