V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
drymonfidelia
V2EX  ›  程序员

现在大模型思考能力还是为零,我让 Claude 帮我分析内存泄漏原因,它对 10GB 的 byte[]占用只提一句,揪着一个 60MB 的 List 输出了满满一页。那些说 AI 编程有用的人做的都是多无脑的工作

  •  
  •   drymonfidelia · 29 天前 · 7659 次点击
    GPT-4 也是差不多的情况。
    另外我给它上传了一个公共库代码和调用它的完整代码,它疯狂优化根本没用上的函数,怎么提醒都不看实际用上的函数,必须把公用库代码清理干净或者是完整写明哪些函数有用他才会看。看完也是几个地方翻来覆去就是改不出来,要不就是直接把我业务逻辑全改/删了。

    71 条回复    2024-11-27 11:44:43 +08:00
    z7356995
        1
    z7356995  
       29 天前 via Android   ❤️ 45
    既然为零,不要用就好了,觉得有用的自然会用下去,就怕有些人,嘴上说为零,实际每天都离不开,还安装了好几个,又是 claude 又是 chatgpt
    drymonfidelia
        2
    drymonfidelia  
    OP
       29 天前
    @z7356995 查谷歌前顺便问一下,偶尔有一点用
    fengemma9
        3
    fengemma9  
       29 天前
    会不会是用错了方法,或者说用错模型
    drymonfidelia
        4
    drymonfidelia  
    OP
       29 天前
    @z7356995 部分场景可以代替谷歌,但是指望靠它创造内容是别想了
    InkStone
        5
    InkStone  
       29 天前   ❤️ 20
    用 LLM 是有技巧性的,就跟你用一个三方库一样,有适用前提,有正确的使用方式,而不是无脑调库就能解决你所有问题。

    OP 这个评价要是发在 22 年末,还算是有一点参考价值的意见。这 24 年都快过完了,类似的无知言论只能让人感到厌烦
    drymonfidelia
        6
    drymonfidelia  
    OP
       29 天前
    @InkStone 那你说这个场景要怎么问?你只评价连什么问题都说不请求才是真正的无知
    drymonfidelia
        7
    drymonfidelia  
    OP
       29 天前
    请求 > 清楚
    beginor
        8
    beginor  
       29 天前
    如果你自己都不懂的事情,就不要问 AI 。 个人认为, 现阶段 AI 给人类打辅助还是可以的,自己解决不了的问题,不要太指望问下 AI 就能解决。
    drymonfidelia
        9
    drymonfidelia  
    OP
       29 天前   ❤️ 1
    @InkStone 我已经把所有它可能用上的内容全部整理好发给 AI 了,AI 完全没有判断哪些重要的能力,我发现 AI 没有判断能力也给它写清楚了问题,它还是翻来覆去解决不了是不是就是完全没有思考能力
    Donaldo
        10
    Donaldo  
       29 天前   ❤️ 8
    在编程这一块,本身就是把不需要脑子或者你经过学习肯定能做出来的东西交给它做来省事省力。另外定位好自己的问题,描述好自己的需求也不是一件容易的事情。可以学习一下这个 https://www.promptingguide.ai/
    billzhuang
        11
    billzhuang  
       29 天前
    dotprofile dotmemory
    xxss0903
        12
    xxss0903  
       29 天前   ❤️ 4
    就是帮你把一些无脑的工作做了,你好专心做有脑力的
    dianfuzhe
        13
    dianfuzhe  
       29 天前
    你有点标题党哦
    dcsuibian
        14
    dcsuibian  
       29 天前
    AI 编程确实有用
    但如果说替代程序员还是算了
    felixcode
        15
    felixcode  
       29 天前 via Android   ❤️ 3
    你没思考模型怎么思考的,所以你的思考能力更接近零
    daybreakfangyang
        16
    daybreakfangyang  
       29 天前
    至少贴一下完整对话吧
    onikage
        17
    onikage  
       29 天前 via iPhone
    写点废话还行,了解大模型原理就不会奢望它会推理了。
    lscho
        18
    lscho  
       29 天前   ❤️ 1
    工具有什么思考能力,工具全靠人指挥

    有些人拿枪就是神枪手,有些人就是靶子都不上,你说谁的问题
    ShadowPower
        19
    ShadowPower  
       29 天前
    如果大模型有这个能力,老板可以把程序员全裁了,找个会打字的人帮忙用大模型实现老板的需求就好了。
    最能体现程序员价值的工作,当然得程序员亲自做。
    prosgtsr
        20
    prosgtsr  
       29 天前 via iPhone
    它本来就没有思考能力,你说的太对了
    justFxxk2060
        21
    justFxxk2060  
       29 天前
    至少贴一下完整对话吧
    mumbler
        22
    mumbler  
       29 天前
    你还停留在聊天机器人阶段,就断定 AI 编程不靠谱,工作基本都用 cursor 和 bolt 了

    解决复杂问题,用 gpt o1
    laikick
        23
    laikick  
       29 天前   ❤️ 4
    连 prompt 都不会写就别说没用了.
    mxT52CRuqR6o5
        24
    mxT52CRuqR6o5  
       29 天前 via Android
    就是说你的这些对话,对面如果是个真人,经过一定的思考逻辑推理,大概率可以解决你问的问题吗?
    WinG
        25
    WinG  
       29 天前
    AI 是绝世好剑,可以令无武功的人增添霸气,可以令有武功的人如虎添翼。
    dadaji
        26
    dadaji  
       29 天前 via iPhone
    我还真就是用来干重复无脑的活,重复说明有规律,有规律就太适合丢给 AI 了
    kneo
        27
    kneo  
       29 天前
    想别人教你,先学会好好说话。我说的是你这个帖子。
    proxytoworld
        28
    proxytoworld  
       29 天前
    GPT 不是思考,而是预测最大概率的下一个 token
    MYDB
        29
    MYDB  
       29 天前
    AI 現階段還是靠總結,如果之前訓練的數據裏面沒有或者數據被污染,那么结果是不可靠的,偶尔能答对就算谢天谢地了,我都是让 AI 帮忙查语法错误,逻辑错误根本无法用 AI 解决,AI 逻辑能力很差 get 不到需求
    LanhuaMa
        30
    LanhuaMa  
       29 天前   ❤️ 1
    你有试过用英文写 prompt 吗?用中文写 prompt 相当于直接把模型降一级,4o 变成 3.5 ,能写出来才有鬼
    Pastsong
        31
    Pastsong  
       29 天前
    @kneo 哈哈截图看得出来对 AI 也没有好好说话
    lovestudykid
        32
    lovestudykid  
       29 天前
    你如果想讨论问题最好把代码放出来,看看是你用的方式不对,还是真的解决不了。如果只是发泄情绪,显然没有选好地方。
    Takuron
        33
    Takuron  
       29 天前 via iPhone
    ai 都能代替你思考了是不是直接把你炒了比较合适?
    先不说提问方式有问题,实际这东西最有用的方面也只限于减少重复劳动和扩展开发思路(我有的时候不知道调哪个 API 又不是非常明确可用的 API 类型的的时候会问一下实现思路当模糊搜索用),性能优化这种核心技能要是都能替代真的离失业不远了
    yyysuo
        34
    yyysuo  
       29 天前   ❤️ 2
    AI 才出来的时候,铺天盖地的宣传和讨论可不是这个论调,另外楼上回帖的诸位,幼儿园的基本礼貌都没有了,这个社会真是戾气重了,连好好说话也不会了。
    matepi
        35
    matepi  
       29 天前
    大语言模型,别指望它推理能力啊…
    文字工作、理解和浅层创作为主
    potatowish
        36
    potatowish  
       29 天前 via iPhone
    试试 gpt o1
    songray
        37
    songray  
       29 天前
    现在 cursor 和 codedium 都订阅了,debug 不太行,但是写原型和重复劳动可以。
    偶尔重复劳动里发生错误,我会给它两次机会,然后就我自己上。
    因为我发现第一个错误的 context 会遗留到下一次,带偏它的思路。
    至于英文 prompt 比中文强的论调不太可靠,因为我一开始都是用英文,后来发现对 o1 和 claude3.5 这种级别的模型来说没啥意义。
    lw4free
        38
    lw4free  
       29 天前
    如果 AI 能解决一个人解决不了的问题 说明 AI 已经能完全替代那个人工作了吧 那个人离被炒已经不远啦
    huage
        39
    huage  
       29 天前
    资本家之所以有钱是掌握了生产资料,而 AI 工具也能够让你高效利用生产工具进而有了获得生产资料的机会
    daimiaopeng
        40
    daimiaopeng  
       29 天前
    经典一个问题否认所有
    czfy
        41
    czfy  
       29 天前   ❤️ 10
    这个 OP 是有移动主题权限的
    然后 ta 持续发布看起来很傻的主题,我只能理解为是在运营/促活
    最好的方式我觉得是标记然后不回复任何 ta 发布的主题

    ruimz
        42
    ruimz  
       29 天前   ❤️ 17
    恭喜 OP 发现了现在软件工程领域对 LLM 研究的三大前沿:
    1. ”我给它上传了一个公共库代码和调用它的完整代码“,这对应着 ”仓库级代码自动修复“ ( Repository-Level Automatic Program Repair)
    如今年的 Y. Chen et al., "When Large Language Models Confront Repository-Level Automatic Program Repair: How Well They Done?," in 2024 IEEE/ACM 46th International Conference on Software Engineering: Companion Proceedings (ICSE-Companion), Lisbon, Portugal, 2024, pp. 459-471, doi: 10.1145/3639478.3647633.

    2. ”必须把公用库代码清理干净“,这表明 OP 发现了代码注释对 LLM 理解的重大影响甚至误导的现象,在 2024 年发表的多篇论文中亦有研究记载,如今年的 H. Yu et al., "CoderEval: A Benchmark of Pragmatic Code Generation with Generative Pretrained Models," in 2024 IEEE/ACM 46th International Conference on Software Engineering (ICSE), Lisbon, Portugal, 2024, pp. 428-439, doi: 10.1145/3597503.3623322.

    3. “或者是完整写明哪些函数有用他才会看”,这表明 OP 发现了思考链( chain-of-thought )以及专业知识对 LLM 理解能力的提升的现象

    此外,SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering 或许可以对”它疯狂优化根本没用上的函数“ 的现象有所缓解
    sillydaddy
        43
    sillydaddy  
       29 天前 via Android
    @czfy #41 你想歪了。最近 1 年间站长给好几个人添加了移动主题的权限,包括我。
    lao66
        44
    lao66  
       29 天前 via iPhone
    知道了,就你的工作有脑。无脑就无脑吧,一个月几万块也够用了。
    jonsmith
        45
    jonsmith  
       29 天前 via Android
    需要引导,自己要有大体解决思路,比如 bug 的可能原因,让 AI 分析检查,不断尝试。
    durban126
        46
    durban126  
       29 天前
    其实大部分还是在宣传阶段
    每个阶段的社会发展都有好找一些东西来炒作,炒作的本质就是泡沫
    因为如果日子都是平平常常的话,是无法让经济活跃的
    Skifary
        47
    Skifary  
       29 天前
    把 AI 当做有总结的搜索来用在目前来说是最合适的,不要信任 AI 输出的代码,一定要检查+测试。

    顺便说一句,AI 写出来的正则很好用,好用体现在 AI 能写一个大概 90%正确的东西出来,用这个东西跑一跑测试,改一改就能用了。
    mightybruce
        48
    mightybruce  
       29 天前
    @czfy 原来还有这种人,我标记他了。
    txhwind
        49
    txhwind  
       29 天前
    AI 要那么厉害大伙就该下岗了,现在适合把 AI 当实习生用,你写好文档或者架构,让它做脏活累活填空。
    tabc2tgacd
        50
    tabc2tgacd  
       29 天前
    感觉纯粹是没获得自己想要的结果说得气话。其实得不到想要的结果很正常的,我也用 AI ,能得到想要的结果固然是好事,得不到也没什么。毕竟自己在解决问题过程中通过手动搜索也一样不可能一次命中获得想要的结果的。
    lightattractbugs
        51
    lightattractbugs  
       29 天前
    @czfy 中肯
    agegcn
        52
    agegcn  
       29 天前   ❤️ 1
    没有东西是万能的。ai 目前能完成的任务,大概是一个中上水平的大学生,思考几十秒,加动手几分钟,能完成的任务。你能在几分钟内就分析完公共代码库和调用关系吗
    zxfgds
        53
    zxfgds  
       29 天前
    提问都不会, 考虑转行吧
    这么强悍的 AI 工具都用不明白 , 考虑转行吧
    lovestudykid
        54
    lovestudykid  
       29 天前   ❤️ 1
    @songray 让他纠正,不如回到初始点,把需要注意的问题加到 prompt 里,这样效果感觉好很多
    gorvey
        55
    gorvey  
       29 天前
    第一,要选对模型
    第二,要给出正确的提示词和上下文,IDE 里面的 AI 插件就是干这个的
    第三,要正确提问
    unco020511
        56
    unco020511  
       29 天前
    应该是你使用的不对,大模型很强,你要引导他的
    vipfts
        57
    vipfts  
       29 天前
    你清高, 你了不起🤣👉🤡
    iyaozhen
        58
    iyaozhen  
       29 天前
    我觉得挺好的,有人觉得有用,有人觉得没用。
    先不说不用的人会不会淘汰,但有用的人效率、思路会提升,得到更多机会
    auhah
        59
    auhah  
       29 天前
    代码注释影响 GPT 确实。。。

    我给他一段代码进行 codereview

    他就把代码注释念了一遍。。。
    AlexHsu
        60
    AlexHsu  
       29 天前
    你知道去年这个时候大模型的代码能力啥样么
    那你能预想到明年这时候大模型的代码能力吗
    另外 ai 只是解决重复性工作
    在另外 你这个工作我也没看出来多‘有脑’ 倒是你这个 prompt 写的 没什么脑
    lizhengbo
        61
    lizhengbo  
       29 天前 via Android
    @auhah

    确实,没必要加任何注释,可能我写的代码简单,就发个代码过去,突突一连串教我做人。注释都帮我写好了。

    还带纠正,这个方法已经弃用,采用新的方法等等。
    lizhengbo
        62
    lizhengbo  
       29 天前 via Android
    目前 Ai 取反效果好,就是给出信息,它也给出信息,继续对答下去就慢慢降智了。

    需要不断对答,估计提问方式得改改。
    querysecret
        63
    querysecret  
       29 天前
    懂的领域用它能被气死,不懂的惊为天人,适合从 0-1 ,不适合从 1-2
    mynameislihua
        64
    mynameislihua  
       29 天前
    工具而已,不行就别用
    luyaolu
        65
    luyaolu  
       29 天前
    你可以不用 但需要说用 AI 的人做的是无脑工作吗?
    graydust
        66
    graydust  
       28 天前
    AI 只是工具而已,反正我一个不写前端的前几天借助 ai 把一个现有的开源 web 应用从全量查询改成了分页查询,用着很开心
    Meld
        67
    Meld  
       28 天前
    为啥 AI 解决不了你的一个问题就等于没用
    为啥 AI 能解决别人的问题等于别人在做无脑的工作

    我不理解
    mayday1997
        68
    mayday1997  
       28 天前
    @ruimz 问一下如果软件开发想使用 LLM 做辅助有哪些实用工具或教程吗
    encro
        69
    encro  
       28 天前
    会不会已经有这样的 AI ,但是不给我们用,自己用用就好了。
    LanhuaMa
        70
    LanhuaMa  
       28 天前
    @yyysuo #34
    > 另外楼上回帖的诸位,幼儿园的基本礼貌都没有了

    作为本楼中唯一的一个大人可不可以说说看你的感想啊?
    mengdodo
        71
    mengdodo  
       28 天前
    把写代码的思考交给了 GPT ,最后别人告诉你问题出在你的沟通上,是不是严重的内耗,别人反过来还说你自己的问题,偶买噶~
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5279 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 08:06 · PVG 16:06 · LAX 00:06 · JFK 03:06
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.