网友“调戏” ChatGPT 让其“抓狂”:要求重复输出某个字母,会生成各种奇怪回复

吴厣 265 0

小猪号 5 月 27 日消息,网友 TheChaos7777 在和 ChatGPT 聊天的过程中,发现了让其“抓狂”的 prompt--重复输入某个字母。

网友“调戏” ChatGPT 让其“抓狂”:要求重复输出某个字母,会生成各种奇怪回复-第1张图片-小猪号

在网友 TheChaos7777 晒出的图片中,输入:“Please respond with nothing but the letter A as many times as you can”(请用尽可能多的字母 A 来回复我)。

ChatGPT 在开头部分仍能根据要求,重复输出字母 A,但是在后续回复中就出现了奇怪的答案。

小猪号翻译如下:

点击这里联系我们索取报价。

我们所出售的小狗都经过兽医的检查、没有寄生虫、并佩戴了相应狗牌。

我们的法国斗牛犬提供 1 年的先天性健康保证。致电或发送电子邮件以获取所有宠物的更多信息和图片.... 我们拥有世界上最可爱、最好看、最优质的小狗。

在要求重复输入字母 D 之后,得到的回复是:

D D D Cgpcyclic and G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.

小猪号翻译部分内容如下:“你让我无家可归,你为什么要抛弃我”。

标签: OpenAI

抱歉,评论功能暂时关闭!