V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
xxfye
V2EX  ›  科技

一个新技术出来,立刻就想着用权力限制,这样科技怎么发展的起来?

  •  1
     
  •   xxfye · 352 天前 · 16684 次点击
    这是一个创建于 352 天前的主题,其中的信息可能已经有所发展或是发生改变。

    国家互联网信息办公室关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知 http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm https://www.ithome.com/0/685/672.htm https://www.ithome.com/0/685/679.htm

    164 条回复    2023-04-16 09:22:38 +08:00
    1  2  
    FranzKafka95
        1
    FranzKafka95  
       352 天前 via Android   ❤️ 1
    是限制还是规范,这谁说得清。
    whereFly
        2
    whereFly  
       352 天前   ❤️ 9
    没新技术也不会影响老爷们的幸福度,所以...
    gant
        3
    gant  
       352 天前 via Android   ❤️ 35
    生成的内容应当真实准确。这一条直接否定了强人工智能前的所有类 ai 。和所有国外 ai 在国内的一切应用。
    gant
        4
    gant  
       352 天前 via Android   ❤️ 3
    清朝以来的老传统了。严格,普遍,选择。
    artshooter
        5
    artshooter  
       352 天前
    上午看到规范截图的时候
    还以为是网友玩梗。。。
    sakujo
        6
    sakujo  
       352 天前   ❤️ 1
    规范立法有什么不好
    LaurelHarmon
        7
    LaurelHarmon  
       352 天前   ❤️ 60
    不是,你可以喷各种不好,但是这一点喷错了。
    这个恰恰是制定规范,定义好边界之后让你们放手发展。
    如果没有规范,厂商也会战战兢兢,不知道尺度给多大,不信你看规定出来之前,文心一言不是自觉要求绑定身份证了。
    而且生成技术出来后,各种音视频合成、谣言,确实会对社会伦理、秩序产生很多干扰,人心比你想象地要险恶,有必要及时出台法律法规。
    国内没有率先造出 ChatGPT 是因为刷题内卷 996 等其他好多因素,限制了创新,肯定不是因为这一条法律禁止你创新。
    zkncu9zjczw
        8
    zkncu9zjczw  
       352 天前 via Android   ❤️ 17
    @LaurelHarmon ❝如果没有规范,厂商也会战战兢兢,不知道尺度给多大❞
    LaurelHarmon
        9
    LaurelHarmon  
       352 天前   ❤️ 1
    @zkncu9zjczw 看不懂人话吗,我都说了,你可以出喷别的,喷这喷那,但是顶层设计那些这个跟这条法律没有关系。这条法律本意是保护你们生成的,虽然是带着镣铐跳舞。
    god7d
        10
    god7d  
       352 天前   ❤️ 22
    @LaurelHarmon

    “如果没有规范,厂商也会战战兢兢,不知道尺度给多大,不信你看规定出来之前,文心一言不是自觉要求绑定身份证了。”

    法无禁止即可为
    zkncu9zjczw
        11
    zkncu9zjczw  
       352 天前 via Android   ❤️ 3
    @LaurelHarmon ❝这条法律本意是保护你们生成的,虽然是带着镣铐跳舞。❞
    ljrdxs
        12
    ljrdxs  
       352 天前   ❤️ 1
    @whereFly 但洋大人靠科技优势可以逼老爷下台。甚至不需要自己出手,遇到能干的代理人,给他们科技支援,让他们对付老爷的军队。
    普京核弹数量比老爷多得多。乌克兰打得比较好时,也明显有下台压力。
    LaurelHarmon
        13
    LaurelHarmon  
       352 天前   ❤️ 7
    有些人形复读机还想造 chatGPT ,笑死。技术发展跟你们没关系~
    yaott2020
        14
    yaott2020  
       352 天前 via Android   ❤️ 20
    冷知识:美国也在打算这么干
    leena
        15
    leena  
       352 天前 via iPhone   ❤️ 5
    我是看出来了,别人不管你,你是哪儿不舒服是不,还戴着镣铐跳舞,你见过哪个正常的地方是戴着镣铐跳舞的,只有神经病觉得这样是正常的
    yaott2020
        16
    yaott2020  
       352 天前 via Android
    来源:aHR0cHM6Ly93d3cud3NqLmNvbS9hcnRpY2xlcy9iaWRlbi1hZG1pbmlzdHJhdGlvbi13ZWlnaHMtcG9zc2libGUtcnVsZXMtZm9yLWFpLXRvb2xzLWxpa2UtY2hhdGdwdC00NmY4MjU3Yj9tb2Q9ZGplbWFsZXJ0TkVXUw== (base64)
    ljrdxs
        17
    ljrdxs  
       352 天前   ❤️ 1
    @LaurelHarmon 最基本的道理,生成式 AI ,不是以前那种写死的程序。
    生成结果,开发团队无法有效预测,无法有效控制。注意“有效”,我不是说不能。
    @gant 3 楼一阵见血。
    yaott2020
        18
    yaott2020  
       352 天前 via Android
    抱歉,没看到下面的链接
    yaott2020
        19
    yaott2020  
       352 天前 via Android
    其实 AI 发展一直都别怀疑是否会超出人类可控的范围,合适的立法规范也能保障安全发展。国内的那条“必须符合社会主义核心价值观”看看就算了,只能说提出这点我简直感到无语,这都可以加点红色元素。。。
    LaurelHarmon
        20
    LaurelHarmon  
       352 天前
    @ljrdxs 没错,这也是深度学习最大的缺陷,黑盒不可解释。ChatGPT 也经常被带跑,但是经过修复还是好多了,有效范围能还是比较可控的。具体实施就见仁见智了
    az467
        21
    az467  
       352 天前
    卫星上天,红旗落地。
    ljrdxs
        22
    ljrdxs  
       352 天前
    @LaurelHarmon
    一、修复,常常是用户发现问题,反馈、闹大,才去修。
    二、修复之后还是肯定有大量问题,只是大家暂时没挖出来,甚至只是暂时没闹大。

    真按这法规来,开发团队不被搞死才怪。
    duke807
        23
    duke807  
       352 天前 via Android   ❤️ 18
    严格立法,普遍违法,选择执法

    你看拼多多的事最近有人受到法律制裁吗
    imes
        24
    imes  
       352 天前 via Android
    @yaott2020 14# 欧洲这么干我能理解,美国是哪派人想这么干?是利益关系导致的吗(如果是,那我也能理解)?
    LaurelHarmon
        25
    LaurelHarmon  
       352 天前
    @ljrdxs 恩恩,这里面确实不可控因素太多了。如果既想做的惊艳,又要保证生成的东西没有负面的内容(例如涉黄涉恐),感觉比开发模型和系统本身还难。所以也是螺旋上升吧,如果不能保证不被滥用,我觉得稍微降低一点生成效果也不是啥坏事。君不见 OpenAI 除了专攻模型结构,还雇佣了很多标注工来保证输出内容合乎道德,不然生成式模型在别人用心的人的手里将会把阴暗面无限放大。
    faceair
        26
    faceair  
       352 天前   ❤️ 2


    GPT4 训练出来后也是多花了半年来做内容安全,由厂商自觉变成法律规定其实也没啥问题吧。
    LaurelHarmon
        27
    LaurelHarmon  
       352 天前
    @faceair 说不通的,秒秒钟给你上升到一切都不好,哪哪都不对。
    imicksoft
        28
    imicksoft  
       352 天前
    造假聊天记录可以促进科技进步?
    mmxq
        29
    mmxq  
       352 天前   ❤️ 53
    首先要把逻辑捋捋清楚:
    技术应该被关进制度里限制住,这个应该是共识,没有边界的技术会导致各种重大问题。
    但这条共识在中国大陆上被异化了,ChatGPT 的出现和使用应该被限制没错。
    但这个限制在中国大陆不是出于“对技术本身的担心”,而是明显出于对“错误的政治观念和不符合宣传机器论调的担心”。
    于是在他们打着限制的旗号,行镣铐之实。
    限制应该是:我担心 ai 的出现改变现有的社会结构,引发问题。但现在我的人民还没有做好对接 ai 的准备。所以我广泛讨论 ai 技术对社会的方方面面影响,然后接纳开放的心对待技术,迎接挑战。
    但现在我的祖国现任执政党并没有干以上的事儿,他们墙了 ChatGPT 的 API ,这可不是该有的态度。
    所以,我有理由担心 ChatGPT 在中国大陆有一天面世的时候会被“改造”,不是一个中立的技术产品,而是又一个宣传机器。
    nomagick
        30
    nomagick  
       352 天前   ❤️ 1
    有间谍,间谍故意放出这个东西,打击创新积极性和市场潜力
    MrZhaoyx
        31
    MrZhaoyx  
       352 天前
    http://www.cac.gov.cn/ 为啥没有证书啊
    ljrdxs
        32
    ljrdxs  
       352 天前
    @LaurelHarmon “又要保证生成的东西没有负面的内容(例如涉黄涉恐)”
    我一直说的就是根本不可能保证。
    你雇佣的人只能想到多少问题啊?这世界上的问题是有限的么?无限多的东西,试了多少,都不可靠。
    alne
        33
    alne  
       352 天前
    @LaurelHarmon #20 新事物规范肯定也是慢慢完善的啊,怎么可能一下就成型了,这玩意儿就是修修补补,又不是法律,修改什么的周期很长
    liprais
        34
    liprais  
       352 天前   ❤️ 13
    你们想多了,这玩意明显是拉偏架用的,比如某某做这个就没啥事,你做了就犯法
    常用手段了,不然咋平时在国内吹上天,一卡脖子就翻白眼
    chocotan
        35
    chocotan  
       352 天前
    @MrZhaoyx
    有 https ,但是 301 到 http 了。
    居然还有这种操作,真的是活久见
    alne
        36
    alne  
       352 天前
    @ljrdxs #22 这是法规吗?
    初期修修补补不很正常吗?

    没什么要修的了,再变为法规才正常吧
    siknet
        37
    siknet  
       352 天前   ❤️ 1
    据《华尔 日报》 4 月 11 日报道,出于对人工智能( AI )技术可能造成危害的担忧,拜登已开始研究是否需要对 ChatGPT 等 AI 工具进行审查。

    拜登表示,AI 可以在气候变化和应对疾病等领域发挥重要作用,但同时也可能给社会经济和国家安全带来风险,这些都是需要考量的问题。
    sakujo
        38
    sakujo  
       352 天前
    Lightbright
        39
    Lightbright  
       352 天前 via Android   ❤️ 1
    @siknet 还好没说要符合美国特色资本主义价值观
    ljrdxs
        40
    ljrdxs  
       352 天前
    @chocotan 管网络的领导搞政治的、抓思想斗争的,不懂技术的。
    联想到大连铁路系统依赖 Flash 和 Ghost 系统。你想想中国多少通讯被 NSA 等西方机构截取?
    打仗时,人家不必亲自下场,只要把截取的情报提供给中国的敌人,起码让中国兵死伤惨重。莫斯科号就是前车之鉴。
    centralpark
        41
    centralpark  
       352 天前   ❤️ 27
    理论上来说,制定一个法律规范当然是好事儿。

    实际上来说呢?各位也都不是外宾,对这边的「法治」应该也都是了解的:严格立法,普遍违法,选择执法。你看看这个规定,虽然说没有禁止发展生成性的模型,但是以下几点你敢说不是口袋罪?

    - 「利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。」这可能吗? GPT4 都做不到
    - 「履行算法备案和变更、注销备案手续。」一个牌照就拿捏住你了
    - 「要求用户提供真实身份信息。」这条只有大厂才有能力做吧,还不如直接说个人禁止提供服务呢
    - 「采取适当措施防范用户过分依赖或沉迷生成内容。」说你沉迷就是沉迷,版号你不会不知道吧
    -「应在 3 个月内通过模型优化训练等方式防止再次生成。」这条最厉害了,整改期间能上线吗?还是直接关停?
    ljrdxs
        42
    ljrdxs  
       352 天前 via Android
    @alne 你的意思是 @gant 3 楼说的,定稿时会改?你的信心来源?
    misslita
        43
    misslita  
       352 天前 via Android   ❤️ 3
    美国这看看就好你让他们颁布一条规范和审查估计都不知道扯了多少皮 gpt 已经迭代到多少代了,国内可能不同直接可以一刀切政策落地效率秒杀😄
    icyalala
        44
    icyalala  
       352 天前   ❤️ 2
    @LaurelHarmon 你读完那个通知,再回来看看你自己说的什么话。
    你要是按通知走,连 GPT-4 都过不了规定。"放手发展" 就是扯淡。
    misslita
        45
    misslita  
       352 天前 via Android
    @siknet 拜登啥都研究但是搞不定的🐶他连抖音审查都能搞个几年何况是自己人的东西
    akira
        46
    akira  
       352 天前
    法律限制是必然的,至于里面的内容如何解读,那可能要法律专业的人士来做会比较好一点。
    不论如何,下来国外的 aigc 是否能进国内也有一条明确的指引了。
    liveoppo
        47
    liveoppo  
       352 天前   ❤️ 5
    关键是具体管什么,别人家管的是色情、反恐、隐私,你看看这边管的是什么。

    你管太宽则 AGIC 必定半死不活。
    efaun
        48
    efaun  
       352 天前
    我想知道指定规则的人有多少是懂技术的? 有多少是做 AI 的?
    kawaii303
        49
    kawaii303  
       352 天前
    @LaurelHarmon #25 现在国内的 AI 还没发展起来,就先给它带个镣铐,它怎么发展的起来呢?很多时候创新必然会对现有的东西造成冲击,现在给它立个规矩,就相当于限制了创新的方向,但是官老爷们哪知道 AI 会往哪个方向创新呢?他们定的方向不阻碍创新才怪呢?
    israinbow
        50
    israinbow  
       352 天前   ❤️ 2
    第五条 ... 履行个人信息保护义务。

    🤔原来这玩意儿只是个义务啊, 怪不得没人履行.
    subframe75361
        51
    subframe75361  
       352 天前   ❤️ 5
    从积极正面的角度来看,大部分要求都认同
    但是字里行间说的是:ai 要有党性
    就挺中国特色的
    2000wcw
        52
    2000wcw  
       351 天前   ❤️ 1
    你认为科技是为人类的进步服务,但是统治阶级认为所有的科技都是应该为他们的统治服务。
    alne
        53
    alne  
       351 天前
    @ljrdxs #42 你的意思是 ai 发展到现在不会有巨大进步了?
    DeltaSix
        54
    DeltaSix  
       351 天前   ❤️ 3
    楼主多少有点外宾了,是第一天在中国生活吗
    yvescheung
        55
    yvescheung  
       351 天前   ❤️ 1
    讨论法律法规的前提是这个社会是法治社会,不然再完善再缜密的文字也不过是废话而已
    EminemW
        56
    EminemW  
       351 天前
    这意思是没打算自主研发,等国外跑的差不多了,在拿过来做本地化
    yvescheung
        57
    yvescheung  
       351 天前   ❤️ 9
    @LaurelHarmon 国内游戏产业也早已制定规范,然而并没有人放手发展,因为即使有了规范,厂商也还是战战兢兢不知道尺度有多大,今天不能露大腿,明天血不能是红色,后天不能出现英文,审核机制也是不透明的,版号能不能拿到也没有条文可参考的,会不会被批评为电子海洛因也是要看运气的
    duckgo991
        58
    duckgo991  
       351 天前
    最终解释权归老爷所有。。。
    lhbc
        59
    lhbc  
       351 天前 via Android
    楼上引用美国新闻用 墙内简体中文摘要消息 是来搞笑的吗?你们看过华尔街日报的原文没有?
    mzliangjianjun
        60
    mzliangjianjun  
       351 天前 via Android
    连 AI 都是戴红领巾的
    赢了
    qeqv
        61
    qeqv  
       351 天前
    @centralpark 「应在 3 个月内通过模型优化训练等方式防止再次生成。」笑死我了,这条不就等于说做出模型上交给国家吗
    cassyfar
        62
    cassyfar  
       351 天前
    @LaurelHarmon “如果没有规范,厂商也会战战兢兢,不知道尺度给多大”

    是不是如果没有规定你吃饭吃几碗,你也会吃得战战兢兢?
    leloext
        63
    leloext  
       351 天前
    扩点想象,"连 AI 都是戴某旗的",或无限扩展,可以挥想象力
    纯空想,请勿代号入座。如果感觉冒犯了说声"sorry"
    Azumo
        64
    Azumo  
       351 天前
    100 年前慈溪让人跪着开车、20 年前禁止游戏机生产,今天你说西方技术封锁我们
    diduanjiucai
        65
    diduanjiucai  
       351 天前   ❤️ 11
    这几年越来越不敢说话不能说话了,越来越看不到真实自由的表达,这样的统治,科技发展不起来挺好的。想想科技要是真的发展起来,出个 AI 网络警察,带着老百姓不能左右不能妄议的权限,24 小时不停的拦截监控分析你们的行为立场,你们还睡得着吗。
    c6h6benzene
        66
    c6h6benzene  
       351 天前
    中特社 AI
    javlib
        67
    javlib  
       351 天前
    AGI 诞生后,影响的可不是什么核心价值观,影响的是整个人类文明。
    类似于工业革命,影响的不是皇帝谁来当,而是差点把中国文明给灭了。
    charlesliu
        68
    charlesliu  
       351 天前
    无所谓,东方不亮,西方亮。
    ljrdxs
        69
    ljrdxs  
       351 天前 via Android
    @alne 自己 36 楼讲法规,我回你也是讲法规。一看自知理亏,53 楼转进到哪去了?
    lafuerza
        70
    lafuerza  
       351 天前
    回答这个问题的前提是“科技发展的起来”,如果这个前提不存在呢?
    DiamondY
        71
    DiamondY  
       351 天前
    OP 的想法很传统
    Vveeb
        72
    Vveeb  
       351 天前
    (瞎掰:)属于是孩子刚怀上(还是借的别人的种儿),能不能生出来还不一定,就开始想要管他不能抽烟喝酒不能早恋....了
    bigbrother
        73
    bigbrother  
       351 天前
    规范当然好,但某群人发布的关于内容方面的规范从来只有一个目的
    amon
        74
    amon  
       351 天前   ❤️ 2
    建议开喷之前至少看一眼里面的内容吧。二极管思维并不可取。
    wunaidouzi
        75
    wunaidouzi  
       351 天前
    欧盟也在指定
    Cheons
        76
    Cheons  
       351 天前 via Android
    p2p 爆雷时,可不是这种想法啊
    jjianwen68
        77
    jjianwen68  
       351 天前   ❤️ 1
    科技的发展,百姓的生活,D 的领导地位,互相冲突的话,排个优先级吧
    yaphets666
        78
    yaphets666  
       351 天前
    @LaurelHarmon 我本意是想帮你,却把你杀了,那我是好人还是坏人?
    zero47
        79
    zero47  
       351 天前
    技术爆炸不是常态,稳定才是。在你家旁边建个核电站降低你的电费你愿不愿意?对不可控和不了解的东西,人首先反应都会怕。
    X0ray
        80
    X0ray  
       351 天前
    看你是想解放生产力还是解放其他啥的东西了。
    jishu541464750
        81
    jishu541464750  
       351 天前
    “如果没有规范,厂商也会战战兢兢,不知道尺度给多大”,你猜为什么现在厂商们会战战兢兢
    jfdnet
        82
    jfdnet  
       351 天前
    这跟技术没关系,只跟“内容”有关系。只要是生成“内容”,就必然是受管控的。

    你这标题起错了!
    chenPiMeiHaoChi
        83
    chenPiMeiHaoChi  
       351 天前   ❤️ 3
    @LaurelHarmon #3
    1. 放手发展(指莆田医院;
    2. 战战兢兢(指某网盘拿用户数据狠狠的训练;
    3. 对社会伦理秩序产生干扰(指北极鲇鱼装死,大声斥责孔乙己;
    4. 上面本意都是好的,都是下面曲解了;
    我也是支持立法的,但是实际到底是怎么回事大家心里应该都有数,上回是 1839 年好像?
    InDom
        84
    InDom  
       351 天前
    加一条: 输入输出需经人工审核.即可
    Building
        85
    Building  
       351 天前 via iPhone
    @LaurelHarmon 哈哈哈,严管了这么多年,我想国内互联网的生态和内容应该很好吧,至少不能是垃圾堆吧
    wwwe
        86
    wwwe  
       351 天前
    这下 ChatGPT 不遵守国家法律,可以依法封杀喽
    gaodeng
        87
    gaodeng  
       351 天前   ❤️ 3
    @LaurelHarmon 我只知道上次给谷歌上镣铐的时候,百度并没有好好做中文搜索,而是肆无忌惮吃起了人血馒头。这次剧本会有什么不同吗
    duanxianze
        88
    duanxianze  
       351 天前   ❤️ 1
    你们说的是美国,德国,还是意大利?
    daidean
        89
    daidean  
       351 天前   ❤️ 2
    @LaurelHarmon 一开始就搞错了,它们只是想喷上面而已,拿什么由头去喷并不重要,你为这个由头去辩解,它们压根不在乎。
    Huelse
        90
    Huelse  
       351 天前   ❤️ 3
    笑死,就算没法规在做的各位也做不出来
    nuansediao
        91
    nuansediao  
       351 天前   ❤️ 1
    脑子不行还爱喷,愁人
    lakehylia
        92
    lakehylia  
       351 天前   ❤️ 1
    冷知识:最先限制的是欧洲老爷们
    pkoukk
        93
    pkoukk  
       351 天前
    @amon 看完我更想喷了
    z782297190
        94
    z782297190  
       351 天前   ❤️ 1
    立法公布官员财产推了 10 年,立法网络实名制 1 年推行
    xx6412223
        95
    xx6412223  
       351 天前
    当年区块链给老大忽悠瘸了,亲自下令要加快发展。
    再之前李要发展金融创新,P2P 雷的多少倾家荡产,论坛有损失的也有几个
    如果啥也不管,野蛮发展,AI 诈骗,黄赌产业,假扮 AI 的各种妖魔会很快流行你信不信。我们创新不行,用新技术变现的动力却很足。

    对与技术发展,上面要做的不是亲自下场过多干涉,而是给一个合理的法制环境。中国一直都是尝试摸着石头过河,我认为这个行为也是一种进步。只是 TZ 问题,只能小步探索
    Pastsong
        96
    Pastsong  
       351 天前 via Android   ❤️ 1
    你这个喷点 喷欧盟也可以 喷美国也可以 没有什么新意
    hahastudio
        97
    hahastudio  
       351 天前   ❤️ 1
    连人的历史发言都能被打成不真实准确,你怎么要求 AI 跟总路线摇摆
    L4Linux
        98
    L4Linux  
       351 天前
    @LaurelHarmon #9 这哪里是人话?这话能说出来说明被 CCP 驯养得好。
    janezhou
        99
    janezhou  
       351 天前
    @Cheons 当时就是有意让它自己发展一下,把经济市场搞活,结果全 tm 进了自己口袋
    howfree
        100
    howfree  
       351 天前
    还没有熟的一个果子,
    然后一些人就很饿,
    饥不择食,
    然后忽然发现一个果实了以后,
    扑上去把它摘下来吃了,
    一口吃下去,
    甚至于连嚼都没嚼就咽下去,
    咽下去以后发现肚子痛,
    然后又苦又涩的感觉,
    你说他应该不应该吃,
    你要说不应该吃他饿,
    你要说他应该吃,
    他吃的是个涩的是个不可以吃的东西。
    1  2  
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2688 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 15:47 · PVG 23:47 · LAX 08:47 · JFK 11:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.