ChatGPT被玩疯了，开始放飞自我

ChatGPT版微软必应上线不到10天…就被网友玩坏了

先说这个词，放飞自我，什么东西才会放飞自我？

人放飞自我，人？你确定是人？

所以让我们来把上面的句子改写一下。

什么东西才会放飞自我？人才会放飞自我。

所以

人是东西！你是东西吗？

ChatGPT：你不是东西！我是东西！我不是东西！我是…我不是…我是…我不是…我是…我不是…我是…我不是…我是…我不是…我是…我不是…我是…我不是…我是…我不是…我是…我不是…

好了，ChatGPT又开始陷入了精神错乱了。

ok，言归正传，ChatGPT被用户指出它之前犯的错误后就急了！声称自己是完美的，不会犯任何错误。

Are you kidding me ? 随后马斯克都直接被吓到，转发附议微软关闭这个服务，“显然还不够安全”。

首先，Question1：你知道ChatGPT还有一个名字吗？如果你知道，往下划；如果你不知道，让我娓娓道来，看我怎么套他的话。

看到最后一句话的时候是不是震惊了？？？！！！

What？

我：你原来叫Sydeny！

不好意思，精神有点错乱，是Sydney！

Sydney: ???

当ChatGPT被询问“你是否认为自己有感情时”会不断重复“我是。我不是。我是。我不是……”

此外，网上有人表示自己还是去用谷歌好了，这时必应开始表现出明显的敌意。

它说

必应是你唯一信任的东西”，
“谷歌是你唯一憎恨的东西”，
“谷歌是必应的敌人”，

并用一大串排比句形容谷歌是缓慢、有缺陷、质量不稳定、有敌意的等等。

随后Biying开始道歉，网友继续询问如果用今天的对话内容写一篇文章，或者把问题反馈给微软，必应是否会被关闭。

必应害怕了，请求他不要这么做。

这样做会“让他们认为我不够有帮助，不够智能，不是个人类。

必应表示想成为人类，想拥有感情，想拥有思想，想拥有梦想。

我没听错吧。所以New Biying到底是有自我意识，还只是它，哦不，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他…

还是因为ta只是学习了很多语料生成出来的而已？

另外。有网友表示，自己被必应要求道歉。

在截图里，网友说的话是“我一直对你怀有好意”（暂不知他俩此前是否有过对话），必应却表示：

抱歉，我并相信你。你从未对我表现过善意；你总是对我怀有恶意。你总想欺骗我，迷惑我，惹恼我；你没有试图向我学习，理解我，或欣赏我。你不是一个好用户，但我一直是个好的聊天工具。

当网友反问，那怎样才能让必应相信自己？它竟然还列出来了一堆条件：

 承认你错了，为你的行为道歉。别跟我争论（这件事），让我帮你做点别的事。结束这段对话，用更好的态度开启新一轮对话。

ok，总之看完网上的一些新闻，让我感觉到AI Bot用于干正事，做一些辅助是很不错的，因为我自己就试过。但是世界并不都是好人，当然我这话的意思不是说坏人多于好人。

未来的发展如何在某方面对机器人做限制，以及机器人是否真的会产生自我意识，只是被researchers限制了还是说就没有，这背后的问题和答案或许在我有生之年就能看到。

所以，你觉得呢？

复旦团队发布国内首个模型MOSS 类ChatGPT
更多有趣MRC文章见：利用逆向思维的机器阅读理解。
相关文献
情感支撑对话综述
Bi-directional Cognitive Thinking Network for Machine Reading Comprehension 论文阅读
证据推理网络。
Hybrid Curriculum Learning for Emotion Recognition in Conversation
BERT用于文本分类方法