V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
yuxunyang
V2EX  ›  信息安全

单纯好奇,如果 AI 用于安全方面,应该能做到很炸裂的效果,但感觉没啥动静

  •  
  •   yuxunyang · 2 月 27 日 · 3519 次点击
    31 条回复    2026-02-27 17:55:04 +08:00
    carlist
        1
    carlist  
       2 月 27 日
    没办法审计
    决策链条没逻辑
    上下文关键字边界溢出
    saucerman8
        2
    saucerman8  
       2 月 27 日
    应该都在尝试,但是还没有稳定+好用的落地方案
    imunoko
        3
    imunoko  
       2 月 27 日
    安全需要可审计、可验证、零信任,但 AI 是概率性的黑盒,天然冲突。另外 AI 自己本身就有很多安全问题,用有安全缺陷的 AI 去做安全防护听起来怪怪的,不过一般都是多层防御,AI 还是有应用场景的
    xtreme1
        4
    xtreme1  
       2 月 27 日
    各种风控不属于 ai 用于安全方面么.
    rb6221
        5
    rb6221  
       2 月 27 日
    当然有的,你又不关注安全行业怎么知道没有,我关注的一个安全行业大佬他们公司产品就在推进 AI 落地
    resten
        6
    resten  
       2 月 27 日
    我司有在测试深信服的 XDR ,看起来里面有融入 AI ,但是觉得还不是很好用
    JoeJoeJoe
        7
    JoeJoeJoe  
    PRO
       2 月 27 日   ❤️ 1
    前两天还看到新闻, 安全股暴跌?
    streamrx
        8
    streamrx  
       2 月 27 日 via iPhone
    你不知道前 j t qclaude 发了个文章,美股网络安全的头部股票全部暴跌吗
    streamrx
        9
    streamrx  
       2 月 27 日 via iPhone
    你不知道前几天 claude 发了个文章,美股网络安全的头部股票全部暴跌吗
    cnurbansnail
        10
    cnurbansnail  
       2 月 27 日
    To B 端服务方面的业务在推进落地
    8355
        11
    8355  
       2 月 27 日   ❤️ 1
    claude code security 不是刚发布?
    Gilfoyle26
        12
    Gilfoyle26  
       2 月 27 日
    因为 ai 不能代替坐牢
    kneo
        13
    kneo  
       2 月 27 日 via Android
    你先明白一个事情,当前 ai 的本质是降低成本。如果很多大厂不计成本,动辄亿计的研发投入都没让你觉得炸裂,那你就得降低预期了。
    opengps
        14
    opengps  
       2 月 27 日
    你去看看腾讯封号加了多少逻辑,就知道 ai 有没有干这事了
    MySheN
        15
    MySheN  
       2 月 27 日
    砸同行饭碗
    Jonchil
        16
    Jonchil  
       2 月 27 日
    AI 干得好是 AI 模型厉害,AI 出了问题是用 AI 的人背锅。就这么简单
    wat4me
        17
    wat4me  
       2 月 27 日
    谷歌靠 ai 找漏洞把 ffmpeg 逼得喷人了
    wyntalgeer
        18
    wyntalgeer  
       2 月 27 日
    安全本来就是大厂对齐敏感区,无论红还是蓝都随时可能触发 AI 罢工,根本不陪你玩怎么弄
    yh7gdiaYW
        19
    yh7gdiaYW  
       2 月 27 日   ❤️ 1
    kiseopt
        20
    kiseopt  
       2 月 27 日
    很早就在做了,ToB 和各个大厂都在搞了。你有认识的话应该也能了解
    yuxunyang
        21
    yuxunyang  
    OP
       2 月 27 日
    @rb6221 恩,确实没咋深入关注,单纯好奇。
    charles0
        22
    charles0  
       2 月 27 日
    yuxunyang
        23
    yuxunyang  
    OP
       2 月 27 日
    @yh7gdiaYW 谢谢大佬
    workbest
        24
    workbest  
       2 月 27 日
    openai ,a 公司 都已经发布合约审计的产品了

    我写合约都是用 ai 审计,效果挺好
    yuxunyang
        25
    yuxunyang  
    OP
       2 月 27 日
    @xtreme1 恩 这个也算 感觉算防御类型的 我没表达清楚 我想的是主动出击、挖漏洞
    yuxunyang
        26
    yuxunyang  
    OP
       2 月 27 日
    @xtreme1 恩 算的
    BadFox
        27
    BadFox  
       2 月 27 日
    你不如直接说用于渗透方面...PentAGI 都开源了,现在公网一堆 AI 赋能扫描的 agent 在跑,只是不怎么说话而已。而且效果也说不上炸裂。
    yuxunyang
        28
    yuxunyang  
    OP
       2 月 27 日
    @BadFox 是的 这的确是我想表达的意思 我再了解了解下
    yuxunyang
        29
    yuxunyang  
    OP
       2 月 27 日
    @wat4me 仔细了解一下这个事情 当时爆出来的时候 应该看到过 但是印象不是特别深刻 不说提的 bug 质量 也算是一种应用
    SmithJohn
        30
    SmithJohn  
       2 月 27 日
    有成果的应该偷偷在用,不敢开源.
    开源了那就完了,几亿黑客天天到处扫.
    benjaminliangcom
        31
    benjaminliangcom  
       2 月 27 日
    都在做,Claude 前几天还发了新博客 https://claude.com/solutions/claude-code-security
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2908 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 06:55 · PVG 14:55 · LAX 22:55 · JFK 01:55
    ♥ Do have faith in what you're doing.