热门问题
时间线
聊天
视角
人工智能内容检测
来自维基百科，自由的百科全书
Remove ads
人工智能检测软件旨在确定某些内容（文本、图像、视频或音频）是否是使用人工智能（AI）生成的。
截至 2023 年，这方面的典型案例有诸如GPTZero这样的软件，该软件声称可以检测文本是否是由人工智能生成，有有时被大学和高校用于防范学生的学术抄袭。然而，关于这类软件是否可靠的争论不断， [1]同时也存在对教育工作者可能误用AI检测软件担忧 。
准确性问题
事实证明，多个人工智能检测工具在准确和全面检测生成的人工智能生成文本方面表现不可靠。在韦伯·伍尔夫等人于 2023 年公布的一项研究中，研究人员对包括Turnitin和GPT Zero在内的 14 种文本检测软件进行评估，发现“所有软件的准确率都低于 80%，只有 5 个准确率超过 70%”。 [2]
关于文本检测
从文本层面上说，这样做通常是为了防止涉嫌抄袭，通常通过检测单词的重复来判断文本是否由人工智能生成，这被视为文本中使用人工智能的迹象，包括人工智能的幻觉。它们通常由教师在批改学生作业时临时使用。随着ChatGPT和类似的人工智能文本生成软件的发布，许多教育机构都发布了禁止学生使用人工智能的政策。 [3]评估求职者以及在线搜索引擎的工作人员也使用人工智能文本检测软件。[4]
目前的检测软件有时可能不够可靠，并且错误地将人类创作的作品标记为源自人工智能生成的文本[5] [6] [7] ，同时在其他情况下无法检测人工智能生成的作品。 [8]《麻省理工科技评论》指出，这项技术在人类稍微重新排列并使用释义工具混淆的ChatGPT生成文本上表现不佳。此外，人工智能文本检测软件也被证明存在歧视非英语母语者的情况。 [4]
加州大学戴维斯分校的两名学生差点被开除，因为他们的教授使用一种名为Turnitin的文本检测软件比对了他们的论文，该软件将这些论文标记为由人工智能生成。然而，经过媒体报道[9]和彻底调查后，学生们被澄清没有任何不当行为。 [10] [11]
2023 年 4 月，剑桥大学和英国罗素大学集团的其他成员大学选择放弃使用 Turnitin 这一文本检测软件，因为他们对其可靠性表示担忧。[12]六个月后，德克萨斯大学奥斯汀分校也选择放弃使用该软件。 [13]
2023 年 5 月，德克萨斯州农工大学康莫斯分校的一位教授使用ChatGPT来检测他的学生的作业是否由该软件编写，ChatGPT 称确实如此。因此，尽管ChatGPT无法检测出是否是人工智能生成的文本，他还是威胁要让整个班级挂科。 [14]除了一名学生承认使用该软件外，没有其他学生因此无法顺利毕业，所有学生都被免除在其作业中使用 ChatGPT 的责任追究。 [15]
Remove ads
关于反文本检测
有一些软件可以绕过人工智能文本检测。 [16]
在2023 年 8 月，塔洛尼等人员在麦格纳·格拉西亚大学和英国皇家眼科医院开展了一项研究，用于测试人工智能文本检测。 [17]该研究使用了一款名为 Originality.ai 的人工智能检测工具，发现其对 GPT-4 检测的平均准确率为 91.3%。
然而，当使用另一款名为Undetectable.ai的软件 Originality.ai进行重新处理时，Originality.ai的检测准确率下降至平均27.8%。[17] [7]
塔洛尼等人的研究分析了《眼科杂志》上中发表的20篇论文摘要，然后使用GPT-4.0对其进行了改写。对经过人工智能改写的摘要使用QueText检查是否抄袭，以及使用Originality.AI检查人工智能生成的内容，以审查经过GPT-4.0改写的摘要。随后，通过一款名为Undetectable.ai的对抗性软件对文本进行再处理，试图降低人工智能检测的相似度分数。 [17] [18] [19]
关于图像、视频、音频检测
有许多所谓的人工智能图像检测软件，用于检测人工智能生成的图像（例如，源自Midjourney或DALL-E的图像）。它们并不完全可靠。 [21] [22]
有一些声称能够识别深度伪造的视频和音频的软件，但目前这项技术还不够可靠。 [23]
尽管围绕数字水印的功效存在争议，但谷歌旗下人工智能公司DeepMind正在积极开发一种名为 SynthID 的检测软件，该软件的工作原理是将人眼看不见的数字水印插入图像的像素中。 [24] [25]
参见
参考资料
Wikiwand - on
Seamless Wikipedia browsing. On steroids.
Remove ads