正文

黑客靠ChatGPT賺錢：每100次收費(fèi)37元，還能修改惡意軟件代碼

發(fā)布時(shí)間：2023-03-03 16:24:09 稿源：互聯(lián)網(wǎng) 閱讀： 881 問(wèn)大家

白交發(fā)自凹非寺量子位 | 公眾號(hào) QbitAI

現(xiàn)在，黑客已經(jīng)靠ChatGPT賺錢了——

機(jī)器人即服務(wù)RaaS，前20次免費(fèi)使用，之后每100次收取5.5美元（約37元）。

服務(wù)范圍主要包括惡意內(nèi)容的創(chuàng)建，比如寫寫網(wǎng)絡(luò)釣魚郵件、改改惡意軟件代碼之類。

總之，整個(gè)過(guò)程沒(méi)有任何OpenAI的限制和障礙，你可以用它來(lái)為所欲為。

目前OpenAI這邊還有任何回復(fù)。

“機(jī)器人即服務(wù)”

據(jù)相關(guān)安全公司消息，黑客們首先找到一種可以繞過(guò)OpenAI限制的方法，通過(guò)使用ChatGPT API集成到他們的一個(gè)應(yīng)用程序中。

事實(shí)上證明，相較于網(wǎng)頁(yè)端，API版本反而不會(huì)對(duì)惡意內(nèi)容進(jìn)行強(qiáng)制限制。

其中有個(gè)論壇的用戶，就將其與Telegram消息APP結(jié)合起來(lái)，以此來(lái)出售服務(wù)Telegram bot。

甚至還正兒八經(jīng)地做了廣告。

△圖源：Enlarge

前20次查詢免費(fèi)，隨后用戶每100次查詢需要收費(fèi)5.5美元。

安全機(jī)構(gòu)的研究人員測(cè)試了這種繞過(guò)方法，結(jié)果收獲了一封釣魚軟件，以及一個(gè)病毒腳本，可以從感染計(jì)算機(jī)中竊取PDF文件，并通過(guò)FTP發(fā)送給攻擊者。

△Telegram bot生成的釣魚軟件，圖源：Enlarge

△Telegram bot生成的惡意軟件，圖源：Enlarge（下同）

與此同時(shí)，其他黑客也在發(fā)布一些可以免費(fèi)生成惡意內(nèi)容的代碼。

這有個(gè)Bash腳本，可幫助繞過(guò)ChatGPT限制，做任何你想做的事情。

對(duì)于以往的惡意軟件代碼，比如Infostealer，ChatGPT也可以進(jìn)行改進(jìn)。

這也進(jìn)一步地給了網(wǎng)絡(luò)犯罪分子可乘之機(jī)。

黑客與OpenAI斗智斗勇

自ChatGPT誕生之日起，就有大量黑客試圖將ChatGPT越獄，來(lái)生成各種惡意內(nèi)容。

根據(jù)訪問(wèn)通道不同，大體有兩種方式。

一種是Web用戶界面，一種是API，將OpenAI的模型和數(shù)據(jù)跟你自己的應(yīng)用界面配套使用。

比如這些都是合法認(rèn)證的APP。

此前，黑客們使用Web端ChatGPT生成惡意軟件和釣魚郵件很容易。

但隨著ChatGPT的監(jiān)管不斷加強(qiáng)。OpenAI的CTO也在最近的采訪中提及了監(jiān)管的重要性。

黑客們逐漸開始轉(zhuǎn)戰(zhàn)去使用他們的API，結(jié)果限制要少得多。

對(duì)于這件事，有網(wǎng)友表示：沒(méi)有萬(wàn)無(wú)一失的修復(fù)方法。

因?yàn)镃hatGPT是一種語(yǔ)言模型，黑客總是可以找到違反OpenAI內(nèi)容政策的提示。

好了，這場(chǎng)黑客與OpenAI的斗智斗勇，你怎么看呢？

參考鏈接：[1]https://arstechnica.com/information-technology/2023/02/now-open-fee-based-telegram-service-that-uses-chatgpt-to-generate-malware/[2]https://blog.checkpoint.com/2023/02/07/cybercriminals-bypass-chatgpt-restrictions-to-generate-malicious-content/

— 完 —

量子位 QbitAI · 頭條號(hào)簽約

關(guān)注我們，第一時(shí)間獲知前沿科技動(dòng)態(tài)