文/劉育英
AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚郵件。。。。。。近日兩起詐騙金額上百萬元的案件引起人們關注。AI技術快速發(fā)展，挑戰(zhàn)也逐漸顯現(xiàn)。
AI讓詐騙門檻大幅降低
近日，內蒙古包頭警方通報一起利用AI實施詐騙的案件。在該案件中，福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報，騙子通過AI換臉和擬聲技術，佯裝熟人實施詐騙。
今年4月份，在安徽安慶經開區(qū)發(fā)生一起AI換臉詐騙案中，詐騙分子使用一段9秒鐘的智能AI換臉視頻佯裝“熟人”，讓受害人放松警惕被騙走245萬元。
AI詐騙是利用AI技術模仿、偽造他人的聲音、面孔、視頻等信息，進行欺騙、敲詐、勒索等犯罪活動。早在2019年外媒就報道過詐騙犯利用深度偽造語音技術冒充英國某能源公司高管詐騙24萬多美元的案例。
中國信息通信研究院云計算與大數(shù)據研究所內容科技部研究員呼娜英對國是直通車表示，當前，隨著深度學習等AI技術的成熟，AI詐騙體現(xiàn)出詐騙手段愈發(fā)多樣、詐騙門檻大幅降低、辨別難度不斷加大等特點。
賽迪研究院網絡安全研究所所長劉權對國是直通車表示，隨著AIGC(AIgeneratedcontent，人工智能生成內容)技術的大爆發(fā)，普通人也能接觸各種先進生成工具，制作出難以識別的高質量合成內容，欺詐手段愈發(fā)多樣，使得防范AI詐騙的難度不斷提升。
在網上，換臉軟件、換聲軟件既有免費也有付費，不僅能照片換臉，而且能視頻換臉。高逼真的換臉付費軟件價值僅在幾百元至幾千元之間，有的甚至還推出了包月服務。
“基于公開發(fā)布的數(shù)據信息、照片、視頻，利用深度合成等AI技術生成高度逼真的圖像、視頻和語音等內容，這些以假亂真的虛假信息更易取得對方信任，從而使得受害者放松警惕�！眲啾硎�。
奇安信董事長齊向東表示，AI一定會給數(shù)字世界帶來新的安全威脅，目前有兩個方面：一是它可以仿造、以假亂真，實施詐騙；二是AI還能夠幫助黑客提高攻擊水平，尤其是把不懂黑客技術的一些人快速培養(yǎng)成黑客，幫助黑客寫程序、寫代碼，幫助黑客制定攻擊方案，提供攻擊策略。
立法步伐加快
今年以來，以ChatGPT為代表的生成式人工智能快速發(fā)展，背后暗藏的個人隱私、數(shù)據安全、知識產權保護等一系列法律風險和倫理等問題引發(fā)社會各界關注。對此，國家相關法律政策正陸續(xù)出臺，人工智能等新技術的發(fā)展和治理越來越受到重視。
今年4月，國家互聯(lián)網信息辦公室就《生成式人工智能服務管理辦法(征求意見稿)》向社會公開征求意見，其主旨思想是促進生成式人工智能技術的健康發(fā)展和規(guī)范應用。
劉權認為，《管理辦法》建立了AI服務的管理框架，對生成式人工智能服務提供者和使用者進行了規(guī)范化管理，要求提供生成式人工智能產品或服務的企業(yè)或個人進行實名認證、信息公示、申報安全評估、履行算法備案和變更、注銷備案手續(xù)等措施，這有助于減少非法個體或組織實施AI詐騙的可能性。
《管理辦法》對生成式人工智能產品采用的預訓練數(shù)據、優(yōu)化訓練數(shù)據過程，人工標注過程以及生成的文本、圖像、聲音等各個階段需要遵守的規(guī)則和服務提供者履行的義務進行了詳細列舉，明確生成式人工智能產品過程中涉及的數(shù)據使用安全，有助于保護用戶信息不被泄漏，保障隱私安全。
另外，《管理辦法》建立了完善的問題投訴處理機制�！豆芾磙k法》規(guī)定了對生成式人工智能服務過程中發(fā)現(xiàn)或用戶舉報的不符合管理辦法內容的及時處理辦法，要求當發(fā)生侵害他人肖像權、名譽權、個人隱私、商業(yè)秘密等現(xiàn)象時必須停止生成并優(yōu)化模型。
呼娜英表示，2023年1月施行的《互聯(lián)網信息服務深度合成管理規(guī)定》，細化了深度合成技術支持者、服務提供者、服務使用者以及應用程序分發(fā)平臺的主體責任，規(guī)定的落實將有效遏制AI換臉等詐騙事件。
例如，《規(guī)定》明確深度合成服務提供者應當使用顯著方式，對可能導致公眾混淆或者誤認的深度合成信息內容進行標識，顯著標識的實施將保障公眾對生成內容的知情權�！兑�(guī)定》還提出深度合成服務提供者應在信息內容中添加不影響用戶使用的標識并保存相關日志信息，隱性標識的落實將確保發(fā)布或傳播的深度合成信息內容可追溯。
近日，國務院辦公廳印發(fā)《國務院2023年度立法工作計劃》，其中人工智能法草案等預備提請全國人大常委會審議，這意味著國家層面的人工智能立法將進入新階段。
中國信通院云計算與大數(shù)據研究所所長何寶宏此前接受采訪時建議，要組織跨學科團隊，深入研究ChatGPT等新技術應用對現(xiàn)有法律規(guī)范、倫理道德等帶來的沖擊，系統(tǒng)梳理潛在風險挑戰(zhàn)，及早研究相關風險防范措施。鼓勵各方積極參與人工智能安全技術研發(fā)、防范體系搭建和治理規(guī)則制定等工作，加快布局我國人工智能安全標準、倫理規(guī)則的研究。
治理AI詐騙需多管齊下
齊向東表示，人工智能技術被傳統(tǒng)犯罪分子用來偽造聲音、偽造圖像、偽造視頻、偽造證據，以假亂真，人們很難去甄別。要解決這些挑戰(zhàn)，只有靠技術和它進行對抗。網絡安全技術和產品的創(chuàng)新一定能夠解決AI時代的額外網絡安全問題和風險，但人還是最關鍵的因素。
目前奇安信正在訓練專有的類ChatGPT安全大模型，并且在人才培養(yǎng)上進行了超前布局，通過“人+機器”的配合來應對未來安全挑戰(zhàn)。
有專家建議，相關部門應持續(xù)進行AI反詐技術研究，提升防范AI欺詐的技術手段，利用機器學習和數(shù)據挖掘、區(qū)塊鏈等技術加強對AI應用的監(jiān)管與審查，及時發(fā)現(xiàn)和防范違法行為。
此外，還應提高公眾反詐意識與防范AI詐騙能力。中國互聯(lián)網協(xié)會日前也對AI換臉新騙局作出提醒，包括做好個人信息安全第一責任人，加強個人信息保護意識，防止信息泄露；不輕易提供人臉、指紋等個人生物信息給他人等。
互聯(lián)網協(xié)會提醒，在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的，在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，“不要僅憑單一溝通渠道未經核實就直接轉賬匯款，無論對方是誰”。
治理AI詐騙需要多管齊下。劉權表示，應加強跨部門、跨行業(yè)的協(xié)同配合，建立聯(lián)合公安、工信、網信、市場監(jiān)管部門等政府部門，以及電信企業(yè)、通訊軟件提供商、銀行等企業(yè)的工作機制，共同監(jiān)管和維護網絡安全。
