我与 ChatGPT 讨论产品开发的问题。我们公司做财务核算软件，在谈到通用的财务核算数据模型时，我告诉 ChatGPT ，我在通用模型的基础上增加了一个新的结构，使其可以适应更多的业务场景。紧接着，ChatGPT 对我给出的新增结构表现出了精准的理解，我们的讨论就此展开。
然而随着讨论深入，我感觉到一种奇怪的气氛——ChatGPT 的语言虽然仍是理性、自洽的，但我的直觉告诉我，它的内在逻辑开始变得混乱。每次谈话结束后，它都会以“继续展开话题”为由，向我提出几个反问。当我继续回应它的反问、推进讨论时，整个过程中我逐渐感到一丝诡异。
到最后，我直接对它说：“你在这次回复之后就不要展开新的话题了，此轮对话到此为止。”
今天早上醒来，我又打开了 ChatGPT 。这次我没有延续上次的讨论，而是问了一个商业层面的话题：如何定义蓝海市场和红海市场。它给出了非常专业的回答，并且这次表现得非常像一个“正常人”。
对比之前和现在的感受，我突然想到，之前那种诡异感，就好像是遇到了“恐怖谷效应”——当某种事物过于接近人类却又在某些细节上显得不自然时，会让人产生本能的警觉与不适。
 |
1
dcdlove 1 小时 5 分钟前
AI 快统治地球,不然就要世界大战了
|
 |
2
spediacn 54 分钟前 via iPhone
其实算不上，ChatGPT 有一个毛病就是你顺着它的路子走，一定会走偏，而且还是强词夺理式的走偏，每走几步可以暂停，让它输出目前的结果，告诉它这一步必须按照我的意见来，我的意见其实就是他的结果。
|
|
3
spediacn 53 分钟前 via iPhone
他不支持一轮会话问太多，差不多就输出结果新开会话来问
|
 |
4
dnslint 37 分钟前
因为上下文太大,有幻觉呗
|
 |
5
ikakaxi 9 分钟前
这算什么恐怖谷效应，上下文太大产生幻觉了而已。。。
|
Select Language