人工智能（AI）浪潮正以前所未有的速度推進。這是一個AI新紀元，在AI的協助下，科研的界線被連續不斷拓寬，辦理復雜疑問的速度越來越快，但必要警惕：AI也能極大提高犯法分子的生產力。
安全公司趨勢科技研究員文森佐錢卡利尼表示，生成式AI提供了一個新的、強盛的工具包，使惡意行為者能夠比以往更電子競技運彩高效、更國際化地開展活動。
錢卡利尼說，大多數犯法分子并不是生活在漆黑巢穴里謀害行事，他們中大多數都是平凡人，從事著日常工作。
上年的WormGPT衰落是一個標志性事件。WormGPT是一種基于開源模子構建的AI語言模子，但它採用惡意軟件相關數據進行培訓，會幫助黑客工作且沒有任何道德條例或限制。2024年夏天，在引起媒體高度關注后，該模子的建立者公佈關閉模子。自那以后，網絡犯法分子大多截止開闢自己的AI模子，轉而借助更可信的現有工具來耍花招。
這可能是由於，犯法分子也想更快獲得收益且不想蒙受新專業帶來的未知風險。人們對此必要多加注意，以下5種便是現在他們最常用的方式。
網絡釣魚：欺騙你的私家信息
瑞士蘇黎世聯邦理工學院的AI安全研究員米斯拉夫巴盧諾維奇表示，現在生成式AI最大的濫用便是網絡釣魚，其試圖欺騙人們泄露敏感信息，再用于惡意目的。研究發明，在ChatGPT興起的同時，也陪伴著網絡釣魚電子郵件數目大幅增加。
錢卡利尼表示，GoMail Pro等垃圾郵件生成服務已集成ChatGPT，這使得犯法用戶能翻譯或改進發送給受害者的動靜。OpenAI的政策限制人們用其產品進行非法活動，但在實踐半場 全場 運彩中實在很難監管。
OpenAI方面表示，他們將人工審核和自動化系統相結合，以辨別和防範其模子被濫用，假如用戶違背公司政策，則會實施警告、暫停、永久關閉等措施。
還有一點值得注意，由于AI翻譯工具的先進，世界各地犯法集團的溝通變得更容易，他們可能開展大規模跨國行動，或在本國對其他國家用戶采取惡意行動。
深度仿造：進入地下市場
生成式AI使深度仿造（Deepfake）的開闢發作質變。當前，專業合成的圖像或音視頻，看起來或聽起來比以往任何時候都加倍真實，這一點犯法分子也意識到了。
錢卡利尼團隊發明，已經有用戶在電報（Telegram）等平臺上呈現他們的深度仿造組合，并以每張圖片10美元或每分鐘500美元的代價出售服務。
相較圖片，深度仿造視頻制作起來更復雜，而且更容易露出漏洞。深度仿造音頻的制作成本低廉，台灣運彩單場只需幾秒鐘的某人的聲音（例如從社交媒體獲取），即可生成令人信服的內容。
這樣的詐騙案例并不鮮見，人們接到親人打來的求救電話，稱自己被綁架并要求交付贖金，結局卻發明，打電話的人是個採用深度仿造語音的騙子。
錢卡利尼發起，親人之間應商定一些秘密安全詞并定期更改，這有助于告急場合下確定電話另一端的人的地位。
繞過地位查抄：一個仿造的你
犯法分子濫用AI專業的另一種方式是繞過驗證系統。
一些銀行和加密錢幣買賣需驗證其客戶是否本人。他們會要求新用戶在手機相機前持地位證照相一張自己的照片，但犯法分子已經開始在電報等平臺上銷售能繞過這一要求的應用程序。
他們提供的是仿造或被盜的地位證件，再將深度仿造的圖像強加在真人臉上，以誘騙手機相機驗證程序。據錢卡利尼發明的一些範例，該服務的代價甚至低至70美元。
越獄式服務：帶來危險輸出
假如有人向AI查問如何制造炸彈，那他不會得到任何有用的答復。這是由於大多數AI公司已采取各種保衛措施來防範模子泄露有害或危險信息。
目前，網絡犯法分子不再構建自己的AI模子，這種方式既昂貴、耗時又難題。一種新犯法趨勢開始出現越獄式服務。
比如上面得不到答案的疑問，這顯示了模子都有關于如何採用它們的條例。但越獄許可用戶操作AI來生成違背這些政策的輸出。例如，為敲詐軟件編寫代碼，或生成可在詐騙電子郵件中採用的文本。
為了對立這些連續不斷增長的風險，OpenAI和google等公司需時時堵塞可能導致告急危害的安全漏洞。
人肉搜索和監督：曝光用戶隱私
巴盧諾維奇表示，AI語言模子不僅是網絡釣魚的完滿工具，對人肉搜索（在線泄露某人的私家地位信息）也是如此。這是由於AI語言模子途經大批互聯網數據（包含有個人數據）的培訓， 可推斷出某人位于何處。
犯法分子可能會讓聊天機械人假裝是具有側寫經驗的私人偵探，然后讓它解析受害者所寫的文本，并從文本中的小線索推斷出個人信息。例如，依據他們上高中的時間推斷他們的年齡，或者依據他們在通勤時提到的地標推斷他們的棲身地點。互聯網上該人的相關信息越多，就越容易被辨別。
巴盧諾維奇團隊2024年底發明，大型語言模子，如GPT-4、Llama 2和Claude，已能夠僅從與聊天機械人的日常對話中推斷出人們的種族、位置和職業等敏感信息。理論上，任何能拜訪這些模子的人，都能以這種方式採用它們。
這些服務的存在，并不直接表明犯法活動的存在，但我們必要看到可供惡意行為者利用的新性能。而防範這些事情發作的唯一想法便是加強防御。
巴盧諾維奇稱，對AI公司來說，應完善數據保衛；對個人來說，提高防范意識是關鍵人們應三思而后行，考慮他們在網上分享的內容，并謹嚴決意，自己是否愿意在語言模子中採用他們的個人信息。
人工智能（AI）浪潮正以前所未有的速度推進。這是一個AI新紀元，在AI的協助下，科研的界線被連續不斷拓寬，辦理復雜疑問的速度越來越快，但必要警惕：AI也能極大提高犯法分子的生產力。
安全公司趨勢科技研究員文森佐錢卡利尼表示，生成式AI提供了一個新的、強盛的工具包，使惡意行為者能夠比以往更高效、更國際化地開展活動。
錢卡利尼說，大多數犯法分子并不是生活在漆黑巢穴里謀害行事，他們中大多數都是平凡人，從事著日常工作。
上年的WormGPT衰落是一個標志性事件。WormGPT是一種基于開源模子構建的AI語言模子，但它採用惡意軟件相關數據進行培訓，會幫助黑客工作且沒有任何道德條例或限制。2024年夏天，在引起媒體高度關注后，該模子的建立者公佈關閉模子。自那以后，網絡犯法分子大多截止開闢自己的AI模子，轉而借助更可信的現有工具來耍花招。
這可能是由於，犯法分子也想更快獲得收益且不想蒙受新專業帶來的未知風險。人們對此必要多加注意，以下5種便是現在他們最常用的方式。
網絡釣魚：欺騙你的私家信息
瑞士蘇黎世聯邦理工學院的AI安全研究員米斯拉夫巴盧諾維奇表示，現在生成式AI最大的濫用便是網絡釣魚，其試圖欺騙人們泄露敏感信息，再用于惡意目的。研究發明，在ChatGPT興起的同時，也陪伴著網絡釣魚電子郵件數目大幅增加。
錢卡利尼表示，GoMail Pro等垃圾郵件生成服務已集成ChatGPT，這使得犯法用戶能翻譯或改進發送給受害者的動靜。OpenAI的政策限制人們用其產品進行非法活動，但在實踐中實在很難監管。
OpenAI方面表示，他們將人工審核和自動化系統相結合，以辨別和防範其模子被濫用，假如用戶違背公司政策，則會實施警告、暫停、永久關閉等措施。
還有一點值得注意，由于AI翻譯工具的先進，世界各地犯法集團的溝通變得更容易，他們可能開展大規模跨國行動，或在本國對其他國家用戶采取惡意行動。
深度仿造：進入地下市場
生成式AI使深度仿造（Deepfake）的開闢發作質變。當前，專業合成的圖像或音視頻，看起來或聽起來比以往任何時候都加倍真實，這一點犯法分子也意識到了。
錢卡利尼團隊發明，已經有用戶在電報（Telegram）等平臺上呈現他們的深度仿造組合，并以每張圖片10美元或每分鐘500美元的代價出售服務。
相較圖片，深度仿造視頻制作起來更復雜，而且更容易露出漏洞。深度仿造音頻的制作成本低廉，只需幾秒鐘的某人的聲音（例如從社交媒體獲取），即可生成令人信服的內容。
這樣的詐騙案例并不鮮見，人們接到親人打來的求救電話，稱自己被綁架并要求交付贖金，結局卻發明，打電話的人是個採用深度仿造語音的騙子。
錢卡利尼發起，親人之間應商定一些秘密安全詞并定期更改，這有助于告急場合下確定電話另一端的人的地位。
繞過地位查抄：一個仿造的你
犯法分子濫用AI專業的另一種方式是繞過驗證系統。
一些銀行和加密錢幣買賣需驗證其客戶是否本人。他們會要求新用戶在手機相機前持地位證照相一張自己的照片，但犯法分子已經開始在電報等平臺上銷售能繞過這一要求的應用程序。
他們提供的是仿造或被盜的地位證件，再將深度仿造的圖像強加在真人臉上，以誘騙手機相機驗證程序。據錢卡利尼發明的一些範例，該服務的代價甚至低至70美元。
越獄式服務：帶來危險輸出
假如有人向AI查問如何制造炸彈，那他不會得到任何有用的答復。這是由於大多數AI公司已采取各種保衛措施來防範模子泄露有害或危險信息。
目前，網絡犯法分子不再構建自己的AI模子，這種方式既昂貴、耗時又難題。一種新犯法趨勢開始出現越獄式服務。
比如上面得不到答案的疑問，這顯示了模子都有關于如何採用它們的條例。但越獄許可用戶操作AI來生成違背這些政策的輸出。例如，為敲詐軟件編寫代碼，或生成可在詐騙電子郵件中採用的文本。
為了對立這些連續不斷增長的風險，OpenAI和google等公司需時時堵塞可能導致告急危害的安全漏洞。
人肉搜索和監督：曝光用戶隱私
巴盧諾維奇表示，AI語言模子不僅是網絡釣魚的完滿工具，對人肉搜索（在線泄露某人的私家地位信息）也是如此。這是由於AI語言模子途經大批互聯網數據（包含有個人數據）的培訓， 可推斷出某人位于何處。
犯法分子可能會讓聊天機械人假裝是具有側寫經驗的私人偵探，然后讓它解析受害者所寫的文本，并從文本中的小線索推斷出個人信息。例如，依據他們上高中的時間推斷他們的年齡，或者依據他們在通勤時提到的地標推斷他們的棲身地點。互聯網上該人的相關信息越多，就越容易被辨別。
巴盧諾維奇團隊2台灣運彩籃球攻略024年底發明，大型語言模子，如GPT-4、Llama 2和Claude，已能夠僅從與聊天機械人的日常對話中推斷出人們的種族、位置和職業等敏感信息。理論上，任何能拜訪這些模子的人，都能以這種方式採用它們。
這些服務的存在，并不直接表明犯法活動的存在，但我們必要看到可供惡意行為者利用的新性能。而防範這些事情發作的唯一想法便是加強防御。
巴盧諾維奇稱，對AI公司來說，應完善數據保衛；對個人來說，提高防范意識是關鍵人們應三思而后行，考慮他們在網上分享的內容，并謹嚴決意，自己是否愿意在語言模子中採用他們的個人信息。
