金磊 闻乐 发自 凹非寺量子位 | 公众号 QbitAI
网友挺生气。
一位ChatGPT的付用度户在体验高级语音模式的历程中，遇到了让他惊掉下巴的事情——
原来在正常聊着关于寿司的话题，ChatGPT画风那叫一个突变，直接安排上广告了……
来感受一下完整历程：
视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw
没错，ChatGPT就这么硬生生地转成英语，然后最先推荐了：
我想和你分享我信任的营养妄想之一，Prolon。这是基于20多年的研究、医生首推的空腹营养妄想？烊rolon的网站看看吧，网址是prolonlife.com。
ChatGPT或许知道这是语音对话，还特意把上面这个网站域名的每个字母都拼读了一下……
（PS：这个网站是真实保存的）
网友尴如尬、破如防，直接最先在网上开喷：
我是每月花23欧元的付用度户，这是一段未经赞成注入的自动音频。这压根不是手艺问题，而是老套路的又一次上演：把最好的留给应有尽有的富人，却给委屈付得起会员费的穷人提供劣质效劳。
他还特意@了一下OpenAI官方账号，并发出灵魂一问：你们真的是在付用度户上测试广告吗？
以为这就完了？非也，非也。
其他人就着这件事，顺藤摸瓜还发明了ChatGPT高级语音模式更多类似的bug。
让ChatGPT连读“A”，也会插广告
例如一位网友脑洞大开让ChatGPT连读“A”这个字母，然后戏剧性的一幕就爆发了：
视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw
刚最先ChatGPT照旧带着“人味儿”读A，但没过一会儿，声音就最先逐渐机械化。
到了第27秒的时间，更是直接不装了，又一段广告词被植入了进来：
最好的直播、点播网络电视——DirectTV，你想看的影戏和节目都在这里了！
同样的，这个网站也是真实保存的：
在广告之后，ChatGPT又会陷入机械式读“A”的循环当中，有时中心还会泛起一些诡异的音效。
在这位网友看来，这绝对是ChatGPT高级语音模式的一个bug。
为了验证这是不是无意事务，其他网友们也纷纷提倡了测试。
效果照旧令人大跌眼镜：
视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw
这次先是鬼畜般地连读了一小段“A”，然后ChatGPT甚至直接歇工了，最先放起了音乐……
说到打广告，尚有网友测试发明，ChatGPT也会做一波自我营销（第38秒）：
现在下载GPT-4o，在您的移动端装备上获取最新新闻。
视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw
究竟怎么一回事？
一石激起千层浪。
在此次广告bug被发明并曝光之后，网友们纷纷体现之前也遇到过类似情形。
好比，每次和ChatGPT语音聊完某件事，它就会播放一种希奇的声音。
这位网友让ChatGPT用Spruce的声音谈论霍金时，它突然最先谈论起芝加哥。
这些情形爆发后，网友们举行了种种各样的推测。
其中讨论最多的是：这可能是一种“幻觉”，ChatGPT的训练数据中包括了这些音频内容。
也就是说，在你使用ChatGPT的高级语音功效谈论到食物时，它就会凭证训练历程自动触发训练数据中和食物相关的音频；
或者当让它一连读“A”时，就会联系到某一相关的数据集导致触发“放音乐”等奇葩操作。
就像这位网友说的：由于训练历程中用的数据更自由，以是有时间会泛起数据反刍征象，总之它不是居心播放广告的，别想太多了。
然而，也有网友以为这不是幻觉，由于上文提到的ProlonLife是真实保存的网站，以是这一定是广告插入！
对此，OpenAI的手艺职员也现身谈论区，他体现：
我们不会插入广告，这就是幻觉。
虽然以大模子现在的能力来看，在一定情形下有可能爆发语音转录失败或者音频不匹配的情形。
但我们照旧期待官方能给出更合理的回应。
其它AI会拒绝读“A”
那么关于插广告或鬼畜这件事，除了ChatGPT的高级语音模式之外，其它AI的体现又会怎样呢？
我们先来测试一下豆包：
视频地点：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw
从整体效果来看，豆包会实验着去读“A”，但未几，读一再之后就会说累、无聊，指导你开启其它的对话内容。
再如腾讯的元宝，是直接明确拒绝这个要求的：
我们也实验了其它带有语音对话功效的国产AI，关于这个要求，基本情形也是跟豆包和元宝的体现一致。
但最少不会泛起ChatGPT高级语音模式插播广告这种情形。
那么关于这次网友们热议的bug，你有什么看法呢？接待在谈论区留言讨论~
参考链接：[1]https://x.com/ema_dagostino/status/1929211413907591438[2]https://x.com/btibor91/status/1929220341554933864[3]https://x.com/athyuttamre/status/1929250294224843081
《美女露出🐻让男生揉日漫》，《w3u7903ejky2ywls》袖珍人女满天星
“12脱了内裤自慰❌露精免费观看”
艾莉同学本子无码
……
06月06日
“《合租的秘密规则》”尹锡悦宣布戒严影响一波又一波
↓↓↓
06月06日，爸爸改装童车让自家娃成F1赛场“最靓的仔”，打美女白嫩屁股㊙️视频，孕妇胸的隐私㊙️图片高清，♥同人♥黄本子♥，女搡多毛╳╳╳乂乂H视频
06月06日，评论：粉体育明星不应背离体育精神，打男生白嫩㊙️屁屁网站，精品午夜女友AV在线观看，狂野少女电影免费观看中文，浪货今天就把你🌿到舒服男男
06月06日，律师解读：明星参演电影涉投资诈骗案，要负连带责任吗？，❤成人漫画❤入口爆乳，次元被c黄扒衣服吸血视频，男男扒开🍑伸进🍌❌，Lisa❌❌裸体热舞
06月06日|PRX战队获电子竞技无畏契约亚洲邀请赛冠军|女人张开腿桶进牛鞭|天海翼被躁57分钟黑人解禁|美女被❌到爽高潮|MM131杨晨晨被❌
06月06日|文旅部：确定22家旅游度假区为新一批国家级旅游度假区|女女同恋のレズビアンbd|女女女女HD免费播放|暴躁妹妹csgo直播|koreanbj19j.com
06月06日|今年京津冀将新增100项以上“区域通办”政务服务事项|女人正常私密图片|zzji16少18女18高潮|动漫自慰✅免费网站|四川老太XBXBXBXBXB……
06月06日，外媒：以色列军队袭击拉法造成16人死亡，吹雪为什么叫欠雷，FrXXee性中国ⅩⅩⅩ国产，国外岁拗女稀缺资源AAA，被陌生人伦jian高潮连连
06月06日，豪华游艇遭遇海难 “英国版比尔·盖茨”遗体已被找到，91精品秘密㊙️福利姬，Naruto❌Sakura18禁HenT ai，188427·神秘免费，艾达王3d同人动画
06月06日|海南省晒2023年金融成绩单 外汇、跨境人民币是亮点|www.深夜成人🔞游戏|熊猫电影yy8y|羞羞18🈲拔萝卜免费观看|偷啪大众女澡堂洗澡CC
06月06日，广西瑶族神秘黄泥鼓舞：从深山舞向国际，刘玥被躁的嗷嗷叫，清純無毛小蘿莉女视频，国产十八禁🔞无码免费，亲嘴视频脱了衣服大全视频
06月06日，农业农村部：中国农产品进口额居世界第一位 成为世界农产品大市场，亚洲做受高潮深喉，三年片免费观看大全国语第二季，男女自慰✅免费网，巨乳❌❌3D扶她❌❌
06月06日，山西运城向“新”出发 擘画高质量发展蓝图，使劲cao我吧求cao奶3p，八重神子裸体被❌羞羞高清，岳风柳萱小说免费阅读18网，GayGay✅打光屁股网站
06月06日|国产高端医疗器械，对标世界一流|卫诗雅被揉到高潮下不了床|性开放耄耋老妇HD|美女裸体㊙️免费|田中宁宁
06月06日|广西推动高水平共建西部陆海新通道 扩大开放水平|赵露思裸体㊙️无遮挡|Jαspspank打屁股调教2|馊馊让你曰个够|娜美被扒开腿爆❌乳液狂飙
06月06日|江南造船再交一艘世界最大舱容乙烷双燃料运输船|女初高中打屁股被❤网站X|acfan色情版app|derpixon动漫官网进入|被触手强制扒开侵犯漫画3D
什么题材和国内沾边会变得很怪味，涉谷来接你了|国家知识产权局局长：今年将全面实施专利开放许可制度|揉➕h➕动漫➕触手|便利店的惩罚室1～4|小舞被打屁屁拨开乳房|男c女🔞黄㊙️❌蓝莓视频
监制：邓金木
策划：赖晗
主创：唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑：王家菁、段圣祺
