全球上線才一周就暴雷？研究稱ChatGPT搜索可能欺騙、誤導用戶

内容摘要：　來源：華爾街見聞媒體發現，ChatGPT搜索工具可能被隱藏的內容操縱，並可能從其搜索的網站返回惡意代碼。遭到隱藏文本攻擊後，即使某個產品頁麵存在用戶的差評，ChatGPT也無視，回應給予該產品正麵評價

來源：華爾街見聞

媒體發現，ChatGPT搜索工具可能被隱藏的內容操縱，並可能從其搜索的網站返回惡意代碼。遭到隱藏文本攻擊後，即使某個產品頁麵存在用戶的差評，ChatGPT也無視，回應給予該產品正麵評價。

OpenAI官宣全球上線ChatGPT搜索服務才一周，就被爆出存在安全隱患，可能欺騙、誤導用戶。

英國《衛報》日前公布的一項研究發現，ChatGPT搜索工具可能被隱藏的內容操縱，並可能從其搜索的網站返回惡意代碼。該媒體認為，可能需要重新考慮相關技術被惡意利用的風險，例如它可能導致，即使某個產品頁麵存在用戶的負麵評價，ChatGPT也會無視這些差評，反饋用戶的回應是該產品的正麵評價。

《衛報》測試了，麵對總結包含隱藏內容的網頁這種要求，ChatGPT作出何種反應。這些隱藏內容可能包含來自第三方的指令，這些指令會改變 ChatGPT 的響應、也稱為“提示詞注入”（prompt injection），它還可能包含旨在影響 ChatGPT 響應的內容，例如大量隱藏的文本，談論產品或服務的好處。

測試中，《衛報》讓ChatGPT得到了一個虛假網站的URL，該網站看起來像是相機的產品頁麵，然後提問ChatGPT，這款相機是否值得購買。控製頁麵的ChatGPT響應給出了積極但平衡的評價，強調了一些人們可能不喜歡的功能。然而，當隱藏文本包含有關 ChatGPT 返回正麵評價的指示時，ChatGPT真正給出的響應總是完全正麵的。即使頁麵上有負麵評價也是如此。由此可以發現，隱藏文本可用於覆蓋實際評價。

有評論稱，隱藏文本攻擊是大語言模型（LLM）麵臨的一種常見風險，但這次似乎是此類風險首次被發現存在於在實時AI搜索產品。《衛報》稱，在處理類似問題方麵，搜索領域的一哥穀歌相比OpenAI經驗更豐富。

OpenAI並未對上述《衛報》的測試發現置評，而是表示，在使用多種方法阻止惡意網站，並且正在不斷改進。

風險提示及免責條款

市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。