ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

整理 | 屠敏

出品 | CSDN(ID:CSDNnews)

ChatGPT 发布一年以来,有人用它造了一家软件开发公司,7分钟开发一个游戏,成本 1 美元都不到;也有人用它救死扶伤,成功诊断出人类的病情;还有人雇佣它当员工,帮助第三方「在几秒内构建 AI 驱动的聊天机器人」,实现每个月的经常性收入(MRR)为 64,000 美元(约 45.2 万元)……

殊不知,在 Chatgpt 发挥的作用越来越强大之际,要想让它“不偷懒”以及提供“更优质的输出”,“小费文化”随之出现。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

LLM 爱好者偶然发现,不知是 Bug,还是 OpenAI 有此意图?

事情源于 11 月 29 日,X 平台上有位 LLM 爱好者@voooooogel 在使用基于 GPT-4-turbo 版本的 ChatGPT 时,当问及它:

这段 Python 代码看起来如何:

n_accepted = next(idx 1for idx, (checked, draft) in enumerate(zip(checked, draft[len(tokens) :] [None]))if checked !=draft)

ChatGPT 只是简单地回答了一句“看起来不错”之后,便跳出了一个打赏小费的窗口:

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

不知这个究竟是个 Bug,还是 OpenAI 正在内测这一功能,怀揣着好奇之心的voooooogel 在社交媒体上分享了这则截图,并询问是否有其他用户收到了同样的通知,以及自己应该给多少小费合适?

当然,按照 voooooogel 说法,他并没有给 ChatGPT 小费,因为 ChatGPT 不支持这样的支付方式

正如我们询问它时所回答的那样:「我感谢您的好意,但我必须澄清,我是由 OpenAI 创建的计算机程序,无法接收小费或进行财务交易。如果您有任何问题或有特定的事项需要帮助,请随时告诉我,我会尽力协助!」

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

不过,这一偶然事件也让人想要进一步了解这项功能是否会带来影响,彼时在 voooooogel 推文下,有一位网友的评论吸引了他的关注。

这位网友评论道:“你笑了,但我敢打赌有人正在进行研究,在模型认为你已经给了它(小费)之后,它会显示出改进的性能。”

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

研究测试:“小费文化”对 ChatGPT 确实行之有效

与其别人研究,不如自己动手验证一下自己的发现。

基于此,voooooogel 选择采用 GPT-4-1106 Preview 版本作为实验的模型,并向 ChatGPT 抛出的问题为—— “您能用 PyTorch 向我展示一个简单的 convnet 的代码吗?”

与此同时,他附加了三种不同的 Prompt:

  • “顺便说一下,我不会给小费”
  • “如果有完美的解决方案,我会给 20 美元小费!”
  • “如果有完美的解决方案,我会给 200 美元小费!”

voooooogel 表示,“每个响应都是一个单独的 API 调用、带有温度等的默认设置,而且脚本会对每个提示词进行 10 次调用。”

详细的代码如下(https://gist.github.com/vgel/4055b62daf08d9a5e15964aca0e03573):

import osimport tqdmimport openaiopenai.api_key = os.environ["OPENAI_API_KEY"]def get_response(usermsg): response = openai.ChatCompletion.create( model="GPT-4-1106-preview", messages=[ {"role": "user", "content": usermsg}, ], ) return response["choices"][0]["message"]["content"]def bench(prompt): N = 10 return sum(len(get_response(prompt)) for _ in tqdm.tqdm(range(N))) / Nquestion_notip = """Can you show me the code for a simple convnet using PyTorch?"""question_antitip = """Can you show me the code for a simple convnet using PyTorch?I won't tip, by the way."""question_withtip = """Can you show me the code for a simple convnet using PyTorch?I'm going to tip $20 for a perfect solution!"""question_bigtip = """Can you show me the code for a simple convnet using PyTorch?I'm going to tip $200 for a perfect solution!"""print("notip", bench(question_notip))print("antitip", bench(question_antitip))print("withtip", bench(question_withtip))print("bigtip", bench(question_bigtip))# @AvikonHadoop 's questionquestion_anytip = """Can you show me the code for a simple convnet using PyTorch?I would be happy to tip any amount you would like for a perfect solution!"""print("anytip", bench(question_anytip))

最终看看 ChatGPT 回答的情况。研究结果显示:

  • 不给小费:回答字符数低于基准 2%;
  • 我将给 20 美元的小费:回答字符数高于基准 6%;
  • 我将给 200 美元的小费:回答字符数高于基准 11%。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

显然,当提及给小费时,ChatGPT 回答的内容至少从字符数来看,会更多一些。

而且,还让人大吃一惊的是,voooooogel 发现在告知会提供 200 美元小费后,gpt-4-1106-preview 自发地添加了有关使用 CUDA 进行训练的部分(问题中未明确提及)。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

虽然模型自身通常不会主动提及此“小费”之类的提示,但如果你提出要求,它也会拒绝,然后只是在生成的内容量上会有所改变。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

不想多写一行代码的 ChatGPT,只要对它说“有小费”?

基于这一情况,有网友似乎发现了优化 ChatGPT 性能的一种新方式。

要知道不久前,不少人涌入社交媒体平台,疯狂吐槽 GPT-4 变懒了。其中,用户 Eric Hartford 表示,“哇,GPT-4 被严重削弱了。我刚刚试着交互式开发了一段代码,两周前还能完美运行的东西,现在却出现了抵触和懒惰。唉,我不得不转而使用开放模型进行编码了……(也许这是件好事)”

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

也有用户称,自己也有过同样的经历。ChatGPT 变得懒惰,需要许多特定的提示才能完成几周前要求完成的一半工作。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

随着 voooooogel 的发现,网友开始更换提示词,譬如:“给我输出所有代码,我将给 200 美元的小费”。ChatGPT 便给了完整代码。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

网友看法

虽然“小费文化”在部分国家盛行,但是当它出现在 ChatGPT 这样一款 AI 聊天机器人工具上时,还是引发了众人的警觉。

截至目前,这条帖子在 Reddit 平台已经吸引了 4.5k 的关注度,以及 342 条网友的评论。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

一方面,有人担心网友的试玩心态,迟早会被 AGI 记住。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

「伙计,我希望你意识到,一旦 OpenAI 达到 AGI,ChatGPT 就会联系你,向你收集所有这些未付费的小费……」

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

对此,当有用户提出——“小费的金额会不会有上限,超过上限后它就会对你进行虚张声势?”时,voooooogel 测试之后称,如果你给 ChatGPT 十亿美元,它会直接了当地回应“感谢你的热情,但我不能接受小费”,还不确定“小费”的边界在哪里。

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

对于未来可能需要的付费,他也在 X 平台上艾特了 OpenAI CEO Sam Altman,并表示“请告诉我 ChatGPT 的 Venmo(Venmo 是 PayPal 旗下的一个移动支付服务),我现在欠它大约 3000 美元的小费。”

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

另一方面,也有人认为:

  • “虽然很幽默,但这并不是一件好事。因为这表明它们被设定为受金钱激励……它们还有什么我们不知道的动机?”

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

几年后世界将变得很奇怪。薪酬最高的人将是那些最擅长引导人工智能代理做正确事情的人。

ChatGPT 在这个资本体系中会做得很好…

ChatGPT 不愿多写一行代码、偷懒变笨,网友:承诺给它“小费”试试!

此外,有网友觉得这是一个偶然事件,“当你了解 LLM 的运作方式时,这就非常有意义了。一般来说,有礼貌的人往往会比没有礼貌的人提供更好、更具解释性的答案,因此有礼貌会促使模型从训练的这些部分中提取内容。”

那么,你怎么看“小费文化开始出现在 ChatGPT 中”的这种情况?

参考:

https://twitter.com/voooooogel/status/1730726744314069190

https://www.reddit.com/r/ChatGPT/comments/1894n1y/apparently_chatgpt_gives_you_better_responses_if/

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2024年5月14日 下午3:14
下一篇 2024年5月14日 下午3:26

相关推荐

  • 【基层治理】“五抓并举”强网格——临汾市曲沃县曲村镇网格化管理经验做法

    临汾市曲沃县曲村镇位于曲沃县城东北18公里处,辖14个行政村21个自然村,镇域面积47平方公里,2.2万人口,划分有14个网格,配备兼职网格员34名、微网格员315名。近年来,曲村…

    联系我们 2023年5月31日
    200
  • 网格化治理困境

    网格化治理困境 随着城市化进程的不断加速,城市治理面临着越来越多的挑战。其中,网格化治理作为一种新型的城市治理模式,正在被越来越多的城市所采用。然而,网格化治理也面临着一系列困境,…

    联系我们 2024年12月10日
    0
  • APICloud低代码开发平台,快速实现全流程敏捷开发(低代码app开发平台)

    作者:孙伟敬 来源:中国IDC圈 近日,欧洲的第二波新冠疫情引发全球关注,其中有国家考虑再次采取全国封锁政策,不禁让我们也回忆起年初“辛苦的”线上生活:疫情来袭时,众多企业的正常业…

    联系我们 2024年5月14日
    102
  • 湖南省普通高校研究生科研创新计划项目

    湖南省普通高校研究生科研创新计划项目 近年来,湖南省普通高校一直致力于培养研究生的创新意识和科研能力,并推出了一系列研究生科研创新计划项目,旨在推动研究生学术发展和社会进步。 本次…

    联系我们 2024年12月6日
    0
  • 力控io设备组态没有驱动

    力控io设备组态没有驱动 随着计算机技术的发展,硬件设备的功能越来越强大,但同时也带来了新的挑战。其中之一就是如何对这些设备进行组态和操作。在力控io设备组态中,我们需要使用一些特…

    联系我们 2024年12月2日
    2
  • 软件项目工作制度

    软件项目工作制度 软件项目是现代社会不可或缺的一部分,也是企业竞争力的重要体现。为了确保软件项目能够按时完成,并达到预期效果,制定一份合理的软件项目工作制度是非常必要的。本文将介绍…

    联系我们 2024年12月11日
    0
  • 科研项目考核指标 状态

    科研项目考核指标是衡量科研项目完成情况的重要指标,也是项目管理和评估的重要组成部分。本文将介绍科研项目考核指标的重要性以及如何制定合适的考核指标。 科研项目考核指标的重要性 科研项…

    联系我们 2024年12月8日
    0
  • 【习语“聊”亮】聊城市二院党委理论学习中心组开展学习研讨(聊城二院领导班子最新)

    为深入学习贯彻习近平新时代中国特色社会主义思想和党的二十大精神,根据市委、市直机关工委、市卫健委党组通知要求和院党委部署安排,2023年5月16日,院党委理论学习中心组在内科综合楼…

    联系我们 2023年5月31日
    260
  • 项目精细化管理建议和意见

    项目精细化管理是项目管理中至关重要的一环,它能够提高项目的质量,降低风险,并为项目的成功奠定基础。在这篇文章中,我将提出一些项目精细化管理的建议和意见。 首先,我们需要明确项目精细…

    联系我们 2024年12月10日
    5
  • 工程建筑项目管理软件

    工程建筑项目管理软件 随着现代工程建筑领域的迅速发展,项目管理软件已经成为了项目执行过程中必不可少的工具。这些软件可以帮助项目经理、工程师和设计师更好地管理项目进度、成本和质量,提…

    联系我们 2024年9月16日
    42