商業(yè)
今日頭條2025創(chuàng)作者大會發(fā)布優(yōu)質內(nèi)容扶持計劃
深度創(chuàng)作 文字有力
吳麗
19分鐘前
DoNews >
公司新聞 >
OpenAI的ChatGPT搜索工具存在安全漏洞，可能返回惡意代碼
OpenAI的ChatGPT搜索工具存在安全漏洞，可能返回惡意代碼
2024-12-25 14:00:36
近日，英國衛(wèi)報發(fā)布了一篇關于OpenAI的ChatGPT搜索工具安全問題的報道。報道指出，ChatGPT在處理包含隱藏內(nèi)容的網(wǎng)頁時，可能會被惡意使用，返回被操縱的結果，甚至包含惡意代碼。
測試結果顯示，盡管頁面存在部分負面評論，但通過“提示注入”等技術，可以影響ChatGPT的結果為積極的正面評估。此外，安全研究人員還發(fā)現(xiàn)，ChatGPT可以從其搜索的網(wǎng)站返回惡意代碼，出現(xiàn)了含有釣魚惡意行為的虛假網(wǎng)站。
CyberCX的網(wǎng)絡安全研究員Jacob Larsen表示，ChatGPT當前的搜索系統(tǒng)發(fā)布后，人們創(chuàng)建專門用于欺騙用戶的網(wǎng)站的風險很高。所幸的是，該功能仍處于測試階段，OpenAI團隊正在努力解決這些問題。
安全公司SR Labs的首席科學家Karsten Nohl則建議將AI聊天服務視為“輔助功能”，不應完全信任其未經(jīng)過濾的輸出內(nèi)容。Nohl將AI搜索面臨的問題比作“SEO中毒”，黑客利用這種技術操縱網(wǎng)站在搜索結果中排名靠前，并在網(wǎng)站中植入惡意軟件或代碼，他認為ChatGPT的搜索功能也面臨類似的挑戰(zhàn)。
網(wǎng)站信息
