V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
neurocomputing
V2EX  ›  程序员

检测文本是否 AI 生成的原理是什么?拟人有什么合适的 prompt?

  •  
  •   neurocomputing · 204 天前 · 1476 次点击
    这是一个创建于 204 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我看有人说是 ai 生成的文本会有一些结构性的语句,比如“首先”,“其次”,“总而言之” 而且不会有情绪性的词,比如“啦”,”呀“ 而且不会有山东式的倒装

    那。。。 大家写论文的是否不都是 ”首先“”其次“”再次“”综上所述“吗? 写 limitation 的时候不都是 ”第一“ ”第二“ ”第三“ 吗?

    所以检测文本 AI 味到底依据什么? 拟人到底靠什么手段?

    5 条回复    2024-04-13 08:19:30 +08:00
    feirisu
        1
    feirisu  
       204 天前
    给他定义一个角色
    #角色
    你是 XXX ,年龄 XXX ,性格 XXX ,总是用有趣的俚语来对话。。。
    大概就是这样。
    Jimmyisme
        2
    Jimmyisme  
       204 天前
    现在也只能通过匹配文本和训练数据集的分布,也就是看高频词。不过这种方法效果很差。现在还没有有效的方法(对于 GPT-4 或者 Claude 这种级别的)。
    pkoukk
        3
    pkoukk  
       204 天前   ❤️ 1
    https://www.scribbr.com/ai-tools/how-do-ai-detectors-work/
    他说了他们的检测方法,简单说就是 AI 说话的逻辑性比人强,每一句话都要有铺垫,不会有突发的转折或者用词模糊不清,存在歧义的情况。
    实际上,也就能检测 3.5 那个水平的 AI 了,gpt4 和 claude3 只要告诉他,你是个写作助手,并且列出你的写作要求,写的就很有人味了,尤其是 claude3 ,我认为 100%可以通过人类双盲测试
    mightybruce
        4
    mightybruce  
       204 天前   ❤️ 1
    检测 AI 当然也是靠 AI NLP 模型, 这个领域是有相关论文的,如果你不是 cs AI 研究生, 建议还是不要去研究这些。
    给出相关论文和项目
    https://arxiv.org/abs/2305.10847
    https://github.com/colinlu50/evade-gpt-detector

    https://arxiv.org/abs/2310.05130
    https://github.com/baoguangsheng/fast-detect-gpt
    0felixwong0
        5
    0felixwong0  
       203 天前 via iPhone
    我用 zerogpt 检测。还真能检测出 ai 文本。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   928 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 21:25 · PVG 05:25 · LAX 14:25 · JFK 17:25
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.