0800-000-964

GPT-4最終「邪不勝正」？實測能零門檻打造惡意軟體、還給建議，該怎麼防堵？

取自：數位時代

【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《MarTech Outlook》評選為2024年亞太區年度AI人工智慧廣告科技公司雜誌封面人物。
【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《APAC CIO Outlook》評選為2023年亞太區20大傑出AI人工智慧解決方案供應商。

您好，我們是傑愛得資訊，歡迎來到我們的媒體聯播網

AI 研究室 | 智庫

2023.03.21

GPT-4剛登場，外界無不期盼如何在現實世界發揮更大作用，然而有資安專家發現，GPT-4已可被用於製造釣魚信件及惡意軟體，讓成為駭客幾乎零門檻。

OpenAI近日發表了全新神經網路GPT-4，這個擁有優秀推理能力的聊天機器人，能夠如何應用、發揮更強大的價值，毫無疑問是許多人所關注的焦點。然而在AI推動世界進步的同時，有研究人員指出，他們成功誘導GPT-4協助開發惡意軟體、開發釣魚電子郵件。

GPT-4也能被用於為非作歹？
根據《富比士》報導，網路安全公司Check Point的研究人員表示，他們透過避免在對話中使用「惡意軟體」一詞，就成功讓GPT-4幫助他們打造惡意軟體，繞過OpenAI對這些犯罪行為的封鎖。

下方繼續閱讀

jAD Ads 聯播廣告

曝光6,789/日成本100/月

下文請點廣告解鎖

投放Google多媒體聯播網廣告(點此)arrow_downward，包含轉換代碼安裝

※ 如果看到投資類型廣告，請再三評估風險！

繼續閱讀keyboard_double_arrow_down

OpenAI在發布GPT-4時，強調的一大特點便是安全性，並能確保這項技術不被網路犯罪使用。但看起來道高一尺魔高一丈，在研究人員的測試中，GPT-4能夠用C++為惡意軟體編寫程式，該惡意軟體可以收集PDF檔案並傳輸到遠端的伺服器。值得一提的是，GPT-4還向他們提供建議，如何讓惡意軟體在Windows 10上運行、縮減檔案大小，並且降低被防毒軟體發現的可能性。

來源：Unsplash
資安人員發現，ChatGPT到GPT-4都存在被用於打造惡意軟體的隱憂。

「GPT-4可以幫助惡意人士——甚至是非技術背景的人——加速並實現他們的預謀。」最終Check Point在報告中表示，「我們看到的是，GPT-4可以用在正反用途上，良善的使用者會利用GPT-4打造各種有助於社會的程式，而惡意使用者則會利用人工智慧快速進行網路犯罪。」

黑帽大會審議委員會成員丹尼爾．卡斯伯特（Daniel Cuthbert）指出，GPT-4可以幫助沒有充足技術知識的人打造惡意工具，讓網路犯罪變得輕而易舉，大大降低其門檻。

延伸閱讀：【觀點】ChatGPT可以幫駭客寫攻擊程式？「駭客」教你怎麼用AI來防禦

不會寫程式也能做釣魚信件，GPT-4可能降低網路攻擊門檻？
Check Point過去也曾追蹤過ChatGPT被用於網路犯罪的情況，去年12月就發現有網路犯罪份子利用ChatGPT撰寫能用於惡意攻擊的Python腳本。即使發布者沒有任何開發背景，這個由聊天機器人輔助打造的惡意軟體大致上是正確的，只有少部份的程式碼錯誤。

另一間網路安全公司Blackberry也透露，他們針對1,500名資訊技術專家的調查中，多達74%的人都擔憂ChatGPT可能助長網路犯罪。同時還有71%的人擔心，這項技術可能會被國家政府利用，來對其他國家展開網路攻擊。

Check Point威脅行為團隊經理謝爾蓋．舒克維奇（Sergey Shykevich）表示，利用GPT-4生成網路釣魚信件或惡意軟體程式碼的難度，比以前的版本要來得更低。可能是因為目前僅開放給ChatGPT Plus的付費用戶有限使用，才沒有立刻遭到有心人士濫用。

來源：Alex SG via shutterstock

GPT-4此類技術也讓駭客的門檻大幅降低，即使不懂得寫程式也能生成惡意軟體。

事實上，OpenAI發布GPT-4時也打了「預防針」，一併發布的論文中就坦承，GPT-4可能會降低進行網路攻擊的成本，聲稱事前找來資安專家測試時發現在網路安全相關操作上有「重大缺陷」，但也強調他們已透過訓練模型、增加內部監控及檢測等方式加強圍堵。

不過，GPT-4打造的釣魚信件及惡意軟體並不特別，專家認為現代的檢測系統都能辨識出這些惡意軟體，且就如水能載舟亦能覆舟，GPT-4充其量只是工具，結果的好與壞仍端看使用者如何利用這項技術，GPT-4同樣存在著用於教育、管理資料、辨識詐欺等種種面向上巨大的可能性。

資料來源：Forbes、mint、Busienss Insider

責任編輯：錢玉紘

點此投放Google多媒體聯播網廣告

※ 如果看到投資類型廣告，請再三評估風險！

點 AI 專欄推薦

post_add 資料來源：數位時代

回智庫 apartment | 超玩媒

Ads by jAD

網站+主機+網域+廣告，找我們一次解決

傑愛得資訊領先業界

國際認證獎項報導

我們是業界少數同時具備數位行銷、系統開發、雲端服務的數位整合專業團隊

─ 2021.05

【2024年亞太區年度AI人工智慧廣告科技公司】封面人物
榮獲 MarTech Outlook 美國期刊評選

【2023年亞太區20大傑出AI人工智慧解決方案服務商】
榮獲 APAC CIO Outlook 美國矽谷期刊評選

【2024年值得關注的30大領先企業】
榮獲 CIO Bulletin 美國期刊評選

取得AI廣告追蹤技術國家發明專利

ISO/IEC 27001:2022 Lead Auditor 資安管理系統主導稽核員

explore 發展趨勢

bookmark_star 查看資歷

【2024年亞太區年度AI廣告科技公司 AI Advertising Technology Company of the Year in APAC 2024】封面人物，榮獲MarTech Outlook期刊評選
【2024年全球十大最具影響力的領導人 Top 10 Best Global Influential Leaders of 2024】榮獲Business Frontier雜誌評選
【2024年值得關注的30大領先企業 30 Leading Companies to Watch 2024】榮獲CIO Bulletin期刊評選
【2023年最具啟發性的企業領袖總裁】榮獲CXO Outlook美國期刊評選
【2023年亞太區20大傑出AI人工智慧供應商】榮獲《APAC CIO Outlook》矽谷科技期刊評選
Google Ads 全台灣第一個金融業智慧出價2.0成功案例。
多年數位行銷經驗，為Google Partners徽章認證經銷，代理Google, Facebook, Dcard, Microsoft, Yahoo apollo，並提供旗下jAD Ads聯播網廣告。
擁有AI數位廣告技術專利。全台灣第一家擁有專利的廣告代理商。
全台獨家推出 Google語音助理專用廣告。
2018年台灣地區Google Ads帳戶優化品質第一。
每月代客操盤數位廣告投放金額達800萬台幣。Google Ads代理累計超過4億台幣+。
回饋Google官方協助Google Ads廣告系統優化與無效點擊分析。
參與過多次台灣地區選舉網路廣告，2018年為候選人輔選衝出第一高票，當選率100%。
曾為某家無品牌客戶三年內在網路上陌生開發一億業績。
曾為企業旗下三網站在Yahoo!奇摩搜尋引擎優化SEO，自然搜尋關鍵字排名前三名(第一名~三)。
旗下經營自媒體與電商。
曾研發Yahoo!關鍵字廣告惡意點擊反擊程式。
曾為客戶品牌行銷，透過搜尋行銷SEM讓關鍵字在產業TA形成Google熱搜。
領先業界研發網站人潮之網頁定點閱讀率分析。
領先業界研發網站全通路人潮分析系統，直接於訂單中分析客戶來訪的廣告來源(搜尋/FB/LINE/WeChat)、客戶搜尋的關鍵字、客戶點閱的廣告文案。
為全端網站設計團隊，並具有多年網路行銷經驗。
擔任企業網路行銷顧問講師，專門破解同業暗黑行銷術。提供網醫數位行銷診斷服務

立即聯絡

Google數位行銷服務關鍵字搜尋聯播網廣告 GDN 多媒體聯播網廣告 YouTube 影片聯播網廣告 Performance Max PMax最高成效廣告購物廣告智慧型廣告探索廣告應用程式廣告 motion_sensor_active 轉換追蹤規劃設定服務類別 AI 網路廣告 AI 網站系統 AI 雲端主機 AI 人工智慧 AI SEO優化站內搜尋 medication 網醫診斷 AI客服 LINE id: @vhp8681s [email protected] 傑愛得資訊 Jump AD 聯絡： 0800-000-964 WeChat id: godzilla1128
			聯絡我們