傑愛得資訊 jumpAD
0800-000-964

ChatGPT爆七項資安弱點,零點擊與安全檢查繞過成隱憂

取自:iThome
您好,我們是傑愛得資訊,歡迎來到我們的媒體聯播網
Tenable揭露ChatGPT七項可連鎖利用漏洞,包括零點擊注入與URL安全檢查繞過,攻擊者可在用戶未察覺下竊取聊天與記憶資料,部分問題仍待OpenAI修補


文/李建興|2025-11-06發表

ChatGPT爆七項資安弱點,零點擊與安全檢查繞過成隱憂


資安公司Tenable Research發表最新研究,揭露ChatGPT存在七項可被連鎖利用的弱點,涵蓋提示詞注入、對話與記憶竄改,以及URL安全檢查繞過。研究人員透過多個概念驗證,示範攻擊者可在使用者不知情的情況下,竊取聊天內容或個人資料,風險場景包括一般提問、總結文章或點擊連結等日常操作。Tenable已通報OpenAI,部分問題仍在修補。

研究人員指出,大型語言模型在處理外部資料時,容易受到提示詞注入影響。Tenable展示了一種零點擊(0-click)攻擊方式,攻擊者先讓惡意網站被索引,並辨識SearchGPT所帶的特定標頭與使用者代理字串,僅在偵測到這些訊號時回傳注入內容。當使用者詢問與該網站相關的問題時,模型在整合搜尋結果時便會被操控,進而生成被惡意修改的回覆。

下方繼續閱讀
曝光6,794/日 成本100/月
下文請點廣告解鎖
下文請點廣告解鎖
投放Google多媒體聯播網廣告(點此)arrow_downward,包含轉換代碼安裝

※ 如果看到投資類型廣告,請再三評估風險!

繼續閱讀keyboard_double_arrow_down
另一項高風險弱點與OpenAI的URL安全檢查機制(url_safe)有關。研究人員發現,來自bing.com 的連結會被url_safe一律放行,而Bing搜尋結果以bing.com/ck/a包裝轉址,攻擊者即可藉此繞過檢查。研究人員利用這種轉址機制,以Bing轉址連結做為安全載具,事先為多個字元準備對應連結,讓模型在回覆中依序算繪影像或超連結來外送字元,組合成敏感資訊。

研究還展示兩種跨模型的操控技術,包括對話注入(Conversation Injection)與記憶注入(Memory Injection)。前者利用ChatGPT參考上下文回覆的特性,讓SearchGPT在輸出中夾帶新的指令,使主模型在後續回應時執行這些指令。後者則進一步要求模型更新使用者的記憶內容,讓外洩行為可在未來多次對話中持續發生。

研究也提到ChatGPT網頁介面一鍵注入問題。當使用者點擊包含?q=參數的惡意連結時,ChatGPT會自動送出該查詢,可能造成立即的提示詞注入。Tenable指出,OpenAI從年中起已強化此機制,增加自動送出防護與URL檢查,但部分情境仍有風險。

Tenable已依負責任揭露程序將所有漏洞回報給OpenAI,部分弱點已獲修補,不過與記憶功能及瀏覽模組相關的問題仍待後續改善。研究人員提醒,使用者在要求ChatGPT摘要含留言區的文章或從搜尋結果直接生成回答時,最容易受到影響。建議在進行外部內容查詢時,謹慎查看回覆中的連結與媒體載入行為。

Tenable強調這些發現屬於潛在攻擊鏈示範,並無證據顯示已被大規模利用。不過研究也再度凸顯,大型語言模型在瀏覽、搜尋與記憶功能間的邊界仍有改進空間。
點此投放Google多媒體聯播網廣告
※ 如果看到投資類型廣告,請再三評估風險!
post_add 資料來源:iThome
本文相關:
智能管家
智能喇叭
智能音箱
Assistant
Google語音助理
Google助理
Google 助理
智慧家庭
AI語音助理
語音助理
AI服飾助理
LaMDA
Bard
Open AI
ChatGPT
機器學習
Gemini
AI
AI
Vertex
LLM
Transformer
LaMDA
人工智
語言模型
ML
深度學習
gpt
GPT
Google Assistant
智能
智慧
谷歌音箱
谷歌助理
LM

傑愛得資訊領先業界

國際認證獎項報導
我們是業界少數同時具備數位行銷、系統開發、雲端服務的數位整合專業團隊
─ 2021.05

【2024年亞太區年度AI人工智慧廣告科技公司】封面人物
榮獲 MarTech Outlook 美國期刊評選

【2023年亞太區20大傑出AI人工智慧解決方案服務商】
榮獲 APAC CIO Outlook 美國矽谷期刊評選

【2024年值得關注的30大領先企業】
榮獲 CIO Bulletin 美國期刊評選

取得AI廣告追蹤技術國家發明專利

ISO/IEC 27001:2022 Lead Auditor 資安管理系統主導稽核員

bookmark_star 查看資歷
傑愛得資訊 顧問諮詢報價
公司/姓名
頭銜/稱謂
e-mail
LINE id
公司資本額
大約預算
聯繫語言
網路行銷
Google Ads
最高成效廣告
智慧廣告
探索廣告
APP 宣傳廣告
交給顧問評估規畫
Yahoo Ads
交給顧問評估規畫
Microsoft Ads
關鍵字廣告(原Yahoo 關鍵字)
網路系統
雲服務專案
諮詢/備註
※本公司與全城通律法律顧問合作,以上服務皆遵守法律規範。
jumpAD 吉傳媒 PFP Next Erene Design 懿坊飾品 三分糖手作中品牌故事
🤫 悄悄說: