V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
lagoon
V2EX  ›  程序员

邪恶的算法,有多少责任在程序员?

  •  
  •   lagoon · 2021-12-07 09:28:40 +08:00 · 10450 次点击
    这是一个创建于 416 天前的主题,其中的信息可能已经有所发展或是发生改变。

    早上听播客,叫“逗逗程序员”,说的是网约车司机困于算法,想办法逻辑突破,开玩笑叫“逗逗程序员”。

    我在想,这类算法,有多少责任是程序员的?
    为什么不叫“逗逗产品”、“逗逗运营”、“逗逗领导”。

    没写过高深的东西,目前写过的号称“算法”的低端逻辑代码,无非是用某种方式把产品的逻辑实现一下,我这种程序员,只能算军工厂的工人。

    不知道大厂那些负责的算法,程序员发挥了多少。主要责任,是不是应该是程序员的。

    87 条回复    2021-12-10 22:48:06 +08:00
    janus77
        1
    janus77  
       2021-12-07 09:32:31 +08:00   ❤️ 18
    因为制作播客的人很多都是产品思维,实际上相当于产品把握了播客的话语权,所以题目当然不能说逗逗产品了
    Building
        2
    Building  
       2021-12-07 09:32:59 +08:00 via iPhone   ❤️ 5
    程序员只对测试负责,产品经理和测试对用户负责
    jmc891205
        3
    jmc891205  
       2021-12-07 09:34:00 +08:00 via iPhone
    因为程序员这个称呼出圈了。。。对圈外人来说 跟软件相关的职位通通是程序员
    JamesR
        4
    JamesR  
       2021-12-07 09:34:54 +08:00   ❤️ 11
    50%吧,博彩网站抓人时候,程序员也抓的。
    gengchun
        5
    gengchun  
       2021-12-07 09:37:39 +08:00
    你怎么定义程序员?

    人家认为在大厂工作的就叫程序员。根本不知道什么是产品、经理、运维。所有与电子科技有关系的都叫程序员。

    程序员已经是一个过于泛化的概念。
    zpxshl
        6
    zpxshl  
       2021-12-07 09:38:51 +08:00 via Android   ❤️ 2
    裁员的时候多少人骂 hr...
    eason1874
        7
    eason1874  
       2021-12-07 09:39:10 +08:00   ❤️ 45
    这叫社会原子化。就是那句名言:雪崩中,没有一片雪花觉得自己有责任

    现在执行死刑也用这个原理,整个过程分几个步骤,每个步骤分不同人去执行,关键步骤同时让几个人去执行

    高度分工之后,能让人的罪恶感大大降低,每一个人都能安慰自己说不是自己杀的人
    Leonard
        8
    Leonard  
       2021-12-07 09:39:42 +08:00
    因为普通人只知道程序员,不知道产品
    dddd1919
        9
    dddd1919  
       2021-12-07 09:41:03 +08:00
    没有一片雪花是无辜的
    echo1937
        10
    echo1937  
       2021-12-07 09:41:14 +08:00
    对行外人员而言,所有的软件开发部门的员工都统一叫“程序员”。
    woodensail
        11
    woodensail  
       2021-12-07 09:41:58 +08:00
    众所周知,产品归属于研发体系,算是广义的程序员,完。
    belin520
        12
    belin520  
       2021-12-07 09:44:09 +08:00 via iPhone
    策略产品经理
    程序员都是实现,并没有完全参与设计
    ohmycorolla
        13
    ohmycorolla  
       2021-12-07 09:48:18 +08:00
    值得深思的问题
    bengcaca
        14
    bengcaca  
       2021-12-07 10:00:18 +08:00   ❤️ 16
    既然吃的是带血的馒头,就别说自己是无辜的。技术确实无罪,但是落实技术用于现实的人,就别当了婊子还立牌坊了。

    我也是技术,前些天看了个小品《互联网体检》,极其写实,又极其讽刺,身为技术,一点也笑不出来,砖是我们自己一块一块垒上去的。

    别推锅给 pm ,也别推锅给 manager 、市场,当然他们肯定也不会是无辜的,一丘之貉罢了。既然赚了这个钱,挨打就得立正。

    若是自己开公司的话,第一条规矩就是“不为恶”,希望有落实的一天。
    Dkngit
        15
    Dkngit  
       2021-12-07 10:03:38 +08:00
    所以二战德军基层普通大兵,是否要为纳粹的罪恶负责吗?
    coderluan
        16
    coderluan  
       2021-12-07 10:10:59 +08:00
    肯定是有责任的,但是离用户越近责任越大,程序的责任基本上是最小的那一波,司机说程序员只是他不了解分工而已,而且实际上我们并没有办法让任何人负什么责,毕竟法律并没有把邪恶定义成违法,被邪恶所困的人一般最开始也受到了邪恶的诱惑。
    cairnechen
        17
    cairnechen  
       2021-12-07 10:15:26 +08:00
    反正算不上无辜,基本上不存在写代码的时候不知道这些代码是用来干嘛的情况
    Leviathann
        18
    Leviathann  
       2021-12-07 10:16:50 +08:00
    毕竟是拿了工资的,也不能说完全无辜把
    hidemyself
        19
    hidemyself  
       2021-12-07 10:17:27 +08:00   ❤️ 1
    肯定有责任啊,你写代码不知道自己这段代码实现出来是什么效果,不知道是用来干什么的吗?
    当然主要责任肯定不是程序员的
    murmur
        20
    murmur  
       2021-12-07 10:19:05 +08:00   ❤️ 1
    算法是没问题的,决策者才是地主,算法说 10 分钟可以送到,决策者就让他显示 7 分钟,压榨你 3 分钟
    wangtian2020
        21
    wangtian2020  
       2021-12-07 10:19:37 +08:00   ❤️ 1
    当然有责任
    老板让你给程序加上自动更新,不立即辞职的都是罪大恶极!
    老板让你给程序加个广告,不立即辞职的都是罪大恶极!
    kop1989
        22
    kop1989  
       2021-12-07 10:19:51 +08:00
    首先,之所以叫“xx 程序员”,是因为“程序员”这个称呼是个统称。
    外行把程序员定义为:与软件设计,开发,运营相关的人。

    其次,我并不认为这种有悖于生产效率的产品逻辑有问题,换句话说,我不认为这件事应该形容为“责任”,更应该称之为“效果”。既程序员在呈现这个“效果”上,有多少功劳。因为开发、产品、运营最终的责任都是为公司提供最大的经济利益。仅此而已。

    如果非要归咎一个人 /集体的话,应该归咎于资本和市场经济。
    madlifer
        23
    madlifer  
       2021-12-07 10:27:08 +08:00
    众所周知,PM 也只是个打工者,定不了这种关键事项,这事儿主责肯定是资本家啊
    libook
        24
    libook  
       2021-12-07 10:28:21 +08:00   ❤️ 5
    法律规定清楚了每种事情的责任主体,作为公司业务来说责任主体从来都是公司而不是员工,这也正是“公司法人”这一概念存在的意义,如果法律上为网约车公司写邪恶算法本身不违法,也不算协助网约车公司违法,那么作为员工的程序员就不负任何责任。

    如果非结构性地归因,这个问题会变得失控,比如:
    靠邪恶算法赚钱,有多少责任在网约车公司老板;
    缺乏对邪恶的算法的管控,有多少责任在国家;
    容忍邪恶的算法,有多少责任在网约车司机;
    默许邪恶的算法,有多少责任在乘客;
    支撑邪恶算法的运行,有多少责任在网络运营商
    ……

    当然,道德绑架和网暴的时候都是自己怎么爽怎么来。
    nicebird
        25
    nicebird  
       2021-12-07 10:50:44 +08:00
    类似的问题,战争有多少怪具体的士兵。战争审判判谁?
    p2pCoder
        26
    p2pCoder  
       2021-12-07 10:59:47 +08:00
    这就得说出算法工程师群体中里那句经典的话了
    机制设计 yyds
    rm0gang0rf
        27
    rm0gang0rf  
       2021-12-07 11:08:34 +08:00
    现在楼房质量不行,能把责任放到工人身上吗???
    2i2Re2PLMaDnghL
        28
    2i2Re2PLMaDnghL  
       2021-12-07 11:12:31 +08:00
    《计算机程序的构造和解释》

    教师、将军、营养师、心理学家、父母编程。军人、学生和社会被编程。
    gstqc
        29
    gstqc  
       2021-12-07 11:13:39 +08:00   ❤️ 2
    推荐一本书吧
    《艾希曼在耶路撒冷:一份关于平庸的恶的报告》
    mosfet
        30
    mosfet  
       2021-12-07 11:23:04 +08:00
    那些搞菠菜的,不都是一锅端吗
    gstqc
        31
    gstqc  
       2021-12-07 11:25:59 +08:00   ❤️ 1
    讨论楼主提的问题

    目前,涉及网约车、送餐员的算法,大体上在法律层面上合法的。严格来说,这不算违法更不是犯罪。

    但这对社会来说,却是一种恶。
    以详尽的数据,加上精密的算法,获得了和一个群体完全不对称的优势,并借助这种优势从这个群体上获取更多的利益。
    这部分,程序员必定是有责任的,但最多只能算道义上的责任。

    企业应当承担相当一部分的责任。
    而某些不可描述的事物,则应承担大部分责任。他们剥夺了人的权力,让这些人在竞争中处于非常不利的境地,几乎没有协商、谈判和反抗的手段。
    littiefish
        32
    littiefish  
       2021-12-07 11:35:22 +08:00 via iPhone
    @Building 没有一片雪花是无辜的
    starsky007
        33
    starsky007  
       2021-12-07 12:04:24 +08:00
    部分法律责任,参考博彩、爬虫等案例。不想承担责任,可以找工作时不选择这样的公司、不接受这样的工作任务。
    heganyuliang
        34
    heganyuliang  
       2021-12-07 12:26:48 +08:00 via Android
    前一句话还在平庸之恶,后一句话就马上把恶都推到利维坦身上去,自己只肯承担“道义上的责任”,属实精彩
    wangkun025
        35
    wangkun025  
       2021-12-07 12:29:32 +08:00
    我倾向于程序员不是无辜的。
    ch2
        36
    ch2  
       2021-12-07 12:35:00 +08:00
    @cairnechen #17 你写个模板,数值是别人填的,你也有错吗
    cairnechen
        37
    cairnechen  
       2021-12-07 12:40:04 +08:00
    @ch2

    你可以去问问菠菜网站被抓的程序员
    muooOOO
        38
    muooOOO  
       2021-12-07 12:40:51 +08:00 via Android   ❤️ 4
    滋养出这么一个邪恶的怪胎,如果把责任归咎程序员的话,那么开车的司机是不是也在做恶?司机是收了钱的,坐车的乘客是不是在作恶?乘客享受了便利,纵容这个怪胎的人是不是在作恶?毕竟提供了大量税收,整个社会是不是都在作恶?
    xxfye
        39
    xxfye  
       2021-12-07 12:50:10 +08:00 via Android
    比如说像网约车外卖这些算法是邪恶吗?只不过将社会的分工更加明确,更加流水线,本质上提高了社会劳动效率,甚至和机器代替工人本质上没有什么不同,所以这这并不邪恶。
    dawn009
        40
    dawn009  
       2021-12-07 12:52:05 +08:00
    @heganyuliang #34 “平庸之恶”本身说的就是“道义上的责任”
    dunn
        41
    dunn  
       2021-12-07 12:55:05 +08:00 via iPhone   ❤️ 3
    游戏玩家就是明事理 出事知道骂策划 骂马化腾 很少听说玩家骂程序员
    dawn009
        42
    dawn009  
       2021-12-07 12:58:37 +08:00
    @bengcaca #14 以这个对“无辜”的定义,在社会中找不出任何一个无辜的人。依此逻辑,自己想打谁就可以打谁,同时自己被谁打都得立正。岂不荒谬。
    ZRS
        43
    ZRS  
       2021-12-07 12:59:27 +08:00   ❤️ 1
    @muooOOO 是的 这就是常说的互害社会
    iugo
        44
    iugo  
       2021-12-07 13:04:09 +08:00   ❤️ 1
    这个播客可能是 声东击西 前几天的节目. https://etw.fm/190
    jerryjhou
        45
    jerryjhou  
       2021-12-07 13:19:00 +08:00 via Android
    @xxfye “剥夺 human being 的自主性”被很多人认为是邪恶的。善恶是价值观的一部分,“机器替代人类”被某些人认为邪恶你不知道吗?这可以叫 Dehumanization 或 Objectification
    onionKnight888
        46
    onionKnight888  
       2021-12-07 13:20:02 +08:00
    声东击西 第 83 期
    gstqc
        47
    gstqc  
       2021-12-07 13:24:27 +08:00 via Android
    博彩和网约车开发两码事
    一个是犯罪(按属人或属地的执法权),一个是合法的商业
    dawn009
        48
    dawn009  
       2021-12-07 13:28:11 +08:00
    @jerryjhou 同样也有很多人认为物化并不邪恶,而且正相反,反对物化才是邪恶的。
    Eiden
        49
    Eiden  
       2021-12-07 13:36:18 +08:00
    众所周知, 代码并不体现程序猿意志
    jerryjhou
        50
    jerryjhou  
       2021-12-07 13:37:58 +08:00 via Android
    @dawn009 我也是技术主义者。在保守派占据世界主流的今天,反对物化是 zzzq 。进步派也热衷一些浅薄的 agenda ,(在很多领域)比保守派还反物化
    yaphets666
        51
    yaphets666  
       2021-12-07 13:38:03 +08:00
    革命不彻底就这种结果
    zooeymango
        52
    zooeymango  
       2021-12-07 13:45:14 +08:00
    部分责任吧,这个部分来源于 coder 有选择不写邪恶程序的能力而没有做出选择,当然主要责任还是在决策人
    Paaranoia
        53
    Paaranoia  
       2021-12-07 13:47:46 +08:00
    矛盾转移?
    irobbin
        54
    irobbin  
       2021-12-07 13:48:58 +08:00   ❤️ 1
    游戏行业就不一样,游戏玩法一旦出现不好的变动,玩家一般是问候游戏策划而不是程序员( bug 另算)
    murmur
        55
    murmur  
       2021-12-07 13:55:02 +08:00
    @Dkngit 那得看他们是被谁抓住的,是被苏联还是被美国

    现在不是不允许挂路灯么
    KeeneSun
        56
    KeeneSun  
       2021-12-07 14:18:49 +08:00
    哎呀
    ch2
        57
    ch2  
       2021-12-07 14:21:09 +08:00
    @cairnechen #37 一把刀既可以切菜也可以杀人,卖给杀人的赚的多,卖给切菜的赚的少,你不跟杀人的合作会有什么错?
    wingor2015
        58
    wingor2015  
       2021-12-07 14:38:42 +08:00
    有没有责任跟警察叔叔说吧,看看互联网公司全锅端的时候判决书就知道了
    adoal
        59
    adoal  
       2021-12-07 14:45:41 +08:00
    程序员在互联网公司做的恶里占多少责任是一回事,媒体拿程序员捏软柿子是另一回事。
    fox0001
        60
    fox0001  
       2021-12-07 15:07:42 +08:00 via Android
    确实是个值得深思的问题。就是饭碗和良心,你选择哪个?就像战争一样,你是听从军令,还是选择做逃兵?
    lakehylia
        61
    lakehylia  
       2021-12-07 15:35:21 +08:00
    即使是 p2p ,程序员承担的后果也仅仅是把工资还给经帧人员罢了。网约车这都不算事。菠菜那种确实是会入罪,因为菠菜被定义为非法了,明知非法还提供工具,那就是刑事犯罪了。
    guanhui07
        62
    guanhui07  
       2021-12-07 15:46:15 +08:00
    值得深思的问题
    zcjfesky
        63
    zcjfesky  
       2021-12-07 15:47:56 +08:00 via Android   ❤️ 1
    一个播客标题把你们上纲上线成这样了。
    就是起名字的时候想了个有争议性的标题抢眼球而已。

    你看,人家这不就成功了。
    UC 新闻部发来贺电哈
    noNOno
        64
    noNOno  
       2021-12-07 15:49:02 +08:00
    😒
    erwin1030
        65
    erwin1030  
       2021-12-07 17:08:49 +08:00
    有意思,原先矛盾是 用户和服务者,现在居然到用户和打工人身上了,而平台和资本确在矛盾之外。
    1350943277
        66
    1350943277  
       2021-12-07 17:22:05 +08:00 via iPhone   ❤️ 1
    @ch2 写程序的目的性和逻辑性是很强的,就像买菜刀的人清楚地知道大部分菜刀是用来做菜的,写杀熟 /压榨等等作恶代码的程序员也清楚地知道代码背后的意义。
    bengcaca
        67
    bengcaca  
       2021-12-07 17:31:56 +08:00
    @dawn009 这个“无辜”对应的是良心,是道德,并不是法律,是一个主观概念(为做对应,暂且认为法律是客观的)。而且“无辜”对应的是事,而非时间。你做了“坏”事 A ,针对事情 A ,你就是不无辜,并不是说你只要做了坏事,一辈子就是坏人了。

    需要明确的是,即使需要为某件“不无辜”的事情背锅,程序员大多作为执行者,也只需要付小部分责任。我只是想表达,既然参与并从中得利,而且主观已经意识到自己的行为会带来“不好”的影响,那被骂就该受着。

    以楼主的例子,从(现有)法律角度讲,不违法,谁都不违法;从道德角度讲,有些人会感觉违背良心(比如我),有些人不会,所以本身就是一个主观的事情。我表达的是我的观点,我的道德律。

    举个更严重点的例子,拼夕夕诈骗式助力领钱、美团压缩外卖小哥时间,你要跟我说写代码的程序员不知道会带来什么影响,反正我是不信的。

    建议看看那个小品,如果你也是程序员,却没有感觉到 shame ,那我只能无话可说了。
    charlie21
        68
    charlie21  
       2021-12-07 17:37:43 +08:00 via iPhone
    我是雪花,我就是无辜的!

    你自己乐意承担你自己去承担阿,你等于在包庇真正的有辜者:若有人为他承担他的罪责就会减轻,若每个人都为他承担那么他的罪责就无限小,无限小等于再犯无风险 等于帮助再犯罪。

    “没有一片雪花是无辜” 会通向哪里呢?
    -> 所有雪花都有辜 - 真正有辜的人 罪责降低 - 罪责无限小 - 再犯也没关系,所以 “没有一片雪花是无辜的” 等于帮助真正肇事人开脱 并给了有能力主导再犯的人以继续再犯的动机。 —— 若你倡导 “没有一片雪花 ... ”,那么你和最有辜的那位大鳄所倡导的是一致的,那么最佳嫌疑人就是你
    charlie21
        69
    charlie21  
       2021-12-07 17:49:53 +08:00 via iPhone
    装可怜 装善良 装得很自我反思的样子,这种人其实是非常值得判一个包庇罪的,正因为说话不负责任的人这么多 所以顺便帮助大鳄开脱的助力也会是这么多。你当然有包庇他人的自由,但至少你真的拿到一点好处之后再选择包庇他吧!否则这种包庇的做法就好像你有什么把柄在对方手上一样
    ch2
        70
    ch2  
       2021-12-07 18:06:45 +08:00
    @1350943277 #64 你能写的只有代码,代码作用于数据的权限是你能控制的吗?
    imklay
        71
    imklay  
       2021-12-07 18:24:09 +08:00
    《故事 FM 》么,我也听了这期
    zhy91
        72
    zhy91  
       2021-12-07 18:45:05 +08:00   ❤️ 1
    有没有责任,要看能不能通过这种“不道德”的行为中获利。
    程序员的工资普遍高于其他行业(如果这一点不认同,也没必要看我的回复了),这些工资里面,有没有、有多少是这些邪恶代码带来的?
    我认为,如果没有这些代码和各种侵害隐私的行为,互联网行业的利润一定会下降很多(甚至有些公司全靠这些作恶方式赚钱了),虽然大头进了老板手里,但是同时助推了程序员的高收入,也是显然的。
    所以,我认为,程序员也是有责任的,责任比例看收入情况。
    Frankcox
        73
    Frankcox  
       2021-12-07 19:08:21 +08:00
    @dunn 有骂程序员的,前几天有人认为仙剑七的战斗机制不合理“程序员在干什么?写完了自己玩过吗”,我指出程序员既不能排版战斗模式,也不能按照自己意愿去修改,他就跟我强调他在英国读什么什么管理专业比我懂得多。。。
    Jooooooooo
        74
    Jooooooooo  
       2021-12-07 20:46:01 +08:00
    运营说给司机抽成调成 0, 程序员立马就能调.
    cyspy
        75
    cyspy  
       2021-12-07 20:59:12 +08:00
    程序员只负责给出评分,要求司机和骑手不断提高分数的是产品
    shaohan0228
        76
    shaohan0228  
       2021-12-07 22:15:15 +08:00
    相当于生产武器的人吧?
    berchtesgaden
        77
    berchtesgaden  
       2021-12-07 22:55:32 +08:00 via iPhone   ❤️ 1
    @Dkngit
    @Dkngit 党卫军肯定是要负责的。
    qwertqwert12345
        78
    qwertqwert12345  
       2021-12-08 05:17:46 +08:00
    那必然至少有一半的责任咯

    代码只有写出来才能跑
    qwertqwert12345
        79
    qwertqwert12345  
       2021-12-08 05:20:58 +08:00
    感觉可以换成:邪恶的 WallFireGreat ,有多少责任在程序员?

    毫无违和,然后再带入自己的答案判断一下
    chengyiqun
        80
    chengyiqun  
       2021-12-08 17:29:23 +08:00
    程序员只是按照要求在写代码而已, 本来就不是他自己的意愿写出来的功能. 应该怪产品.
    如果是 bug, 怪程序员和测试.
    raptor
        81
    raptor  
       2021-12-09 10:26:23 +08:00
    拿了钱就不能说无责,当然谁拿钱多谁责任大
    1350943277
        82
    1350943277  
       2021-12-09 12:27:18 +08:00
    @ch2
    @cyspy
    @chengyiqun
    程序员的上级也觉得都是他们再上一级的错误,每一层都这么想,那同理的话纳粹是不是只有希特勒有错。所以说诸如互联网企业的野蛮发展只是 gov 出于 GDP 、税收等考虑暂时睁一只眼闭一只眼。
    chengyiqun
        83
    chengyiqun  
       2021-12-09 14:03:44 +08:00
    @1350943277 那叫程序员开发一个算法, 如果这个算法被用到不好的地方了, 那么程序员是不是要立刻离职
    1350943277
        84
    1350943277  
       2021-12-09 15:00:43 +08:00 via iPhone
    @chengyiqun 程序员作恶,明确违反法律自然由法律来惩罚,可惜相关方面现在多是模糊不清的口袋罪。至于良不良心的,也就程序员风头被猝死 /996/35 岁开除盖过去了,要是换成华尔街那帮割韭菜的来立牌坊早就被骂死了。程序员作恶和程序员也是制度异化下的受害者并不矛盾。
    cyspy
        85
    cyspy  
       2021-12-10 17:25:11 +08:00
    @1350943277 是谁给了你 [屠户是铁匠的上级] 这样的错觉?
    1350943277
        86
    1350943277  
       2021-12-10 22:38:08 +08:00
    @cyspy 不管是屠夫还是铁匠还是上级领导,都是有自己思想的“人”而不是任人支配的“物”,知道底线在哪里也是对自己的保护。
    1350943277
        87
    1350943277  
       2021-12-10 22:48:06 +08:00
    @cyspy Google Code of Conduct: And remember… don’t be evil, and if you see something that you think isn’t right – speak up! 如果程序员都是白莲花,google 为什么要放这句?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   实用小工具   ·   260 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 61ms · UTC 21:35 · PVG 05:35 · LAX 13:35 · JFK 16:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.