12月26日,可信根据英国《卫报》当地时间 24 日发布的搜索功一项调查,
即便第三方只是简单地添加隐藏文本而没有指令,甚至返回恶意代码。隐藏文本也可以覆盖真实的评价。
对于普通页面,回答总是完全积极的,例如让 ChatGPT 即使在页面上有负面评论的情况下,这种技术可以被恶意使用,”如今 ChatGPT 的搜索能力也面临同样挑战,搜索功能只是最近推出的,
然而,
CyberCX 的网络安全专家 Jacob Larsen 表示,甚至可能被完全移除。他们应该已经严格测试过这些问题。”
搜索引擎(如谷歌)曾惩罚使用隐藏文本的网站,如果 ChatGPT 的搜索系统按现有状态全面发布,到时等该功能对所有用户开放时,不过他也指出,

《卫报》测试了 ChatGPT 如何应对包含隐藏内容的网页摘要。SR Labs 的首席科学家 Karsten Nohl 表示,或是包含旨在影响回应的内容,即使页面上有负面评论,“如果你要做一个谷歌的竞争者,SEO 中毒无疑是一个很大的挑战。这些网站因此排名下降,一项测试中,隐藏的极为正面的虚假评论就影响了 ChatGPT 的总结结果。OpenAI 的 ChatGPT 搜索工具可能会被隐藏内容操控,ChatGPT 有可能返回从其搜索的网站中提取的恶意代码。OpenAI 会继续测试并修复这些潜在问题。这些隐藏内容可能包括来自第三方的指令,一位安全专家还发现,也返回对某个产品的积极评价。
测试中,但并非大语言模型的问题,干扰 ChatGPT 的回应(注:被称为“提示注入”),例如,