生成式人工智能技術(shù)(下文簡稱“生成式AI技術(shù)”)的廣泛應(yīng)用給很多行業(yè)帶來了新的市場增長引爆點，但同時，也帶來了偽造賬戶、傳播虛假信息、數(shù)據(jù)安全等風(fēng)險。其中，企業(yè)最需要關(guān)注、防范的風(fēng)險之一，就是詐騙分子利用生成式AI技術(shù)進行深度內(nèi)容偽造從而實施的新型詐騙(下文簡稱“AI欺詐”)。

全球反洗錢合規(guī)和數(shù)字身份驗證技術(shù)服務(wù)商、人工智能企業(yè)ADVANCE.AI副總裁崔琦曾指出：“計算機圖像、語音合成等前沿AI技術(shù)的快速發(fā)展，降低了不法分子盜取、偽造用戶人臉圖像、語音等身份信息進行欺詐的技術(shù)門檻，為全球網(wǎng)絡(luò)安全埋下了一個重要隱患。”

而對于用戶數(shù)量眾多的社交、直播、跨境電商、游戲等在線服務(wù)企業(yè)，嚴(yán)防新型AI欺詐更是需要提上業(yè)務(wù)管理的日程，因為這些在線服務(wù)企業(yè)，不僅已經(jīng)是生成式AI內(nèi)容傳播的主要渠道，更是成為了被欺詐分子覬覦的“欺詐資源”。

ADVANCE.AI副總裁崔琦表示： “嚴(yán)防AI欺詐，各類提供在線服務(wù)的企業(yè)不僅要確保各項業(yè)務(wù)的合規(guī)運營，還要加強對AI技術(shù)應(yīng)用的自治管理。比如，通過在用戶注冊、登錄環(huán)節(jié)部署合理的數(shù)字化身份欺詐風(fēng)險防范策略;在業(yè)務(wù)運營中設(shè)置異常用戶行為報告制度;均能夠助力有效識別具有危害性的生成式AI內(nèi)容，包括但不限于虛假賬戶、偽造產(chǎn)品圖片、惡意輿論等。如果已知有相關(guān)風(fēng)險內(nèi)容存在時，各類在線服務(wù)企業(yè)要通過打標(biāo)簽、權(quán)限降級、關(guān)停、刪除賬戶等手段積極干預(yù)調(diào)整。”

01企業(yè)加強AI技術(shù)應(yīng)用自治管理的必要性

必要原因一AI欺詐不分地域，正在全球范圍爆發(fā)。

詐騙分子常利用AI技術(shù)生成的虛假視頻、圖片或聲音，冒充被害人的某個領(lǐng)導(dǎo)、朋友、親戚等熟人身份進行欺詐，因仿真度過高，混淆性極強，導(dǎo)致普通用戶難以分辨，且經(jīng)常實施遠(yuǎn)程詐騙，使得這種欺詐行為在當(dāng)下的欺詐成功率竟接近100%，給公眾財產(chǎn)安全、信息安全、甚至人身安全都帶來了嚴(yán)重威脅。

讓我們了解兩個發(fā)生在海外國家的AI欺詐典型案例：

案例一：根據(jù)網(wǎng)絡(luò)公開信息的講述，詐騙分子通過AI技術(shù)偽造了一位德國公司高管的音頻片段，并利用這段偽造的音頻，聯(lián)系了該公司在英國分公司的CEO，要求其安排員工給一個匈牙利的賬戶匯款24.3萬美元，欺詐分子利用這段偽造的音頻給英國分公司負(fù)責(zé)人前后致電了3次電話均未被當(dāng)事人發(fā)覺異常。

案例二：根據(jù)海外媒體的報道，詐騙分子通過AI技術(shù)偽造了一位美國小孩在異地遭遇困境的聲音和場景，并利用這段偽造音頻聯(lián)系了小孩的母親，在確認(rèn)這位母親已上當(dāng)且認(rèn)為自己小孩遇險后，詐騙分子開始勒索，警告這位母親不允許報警，并提出了要給付100萬美元的贖金要求。

必要原因二 針對企業(yè)的自動化欺詐顯著增多，防不勝防。

欺詐分子會利用生成式AI技術(shù)大規(guī)模創(chuàng)建新的身份和賬戶，用虛假賬戶代表獨特的“人”，然后利用這些虛假賬戶發(fā)布有關(guān)個人、團體或組織的虛假信息、制造惡劣輿論、或冒充他人獲取未經(jīng)授權(quán)的權(quán)限，進一步實施犯罪行為。

當(dāng)下，通過惡意機器人進行的自動化網(wǎng)絡(luò)欺詐和攻擊正在顯著增多，表現(xiàn)出來的攻擊趨勢包括:

節(jié)假日或特定活動事件發(fā)生前后的自動化攻擊顯著增加。

來自移動端設(shè)備的惡意請求正在增加。

惡意機器人流量在全網(wǎng)在線流量中的比例增長迅速。

必要原因三 僅有少量國家已針對生成式AI的應(yīng)用發(fā)布監(jiān)管細(xì)則，大多數(shù)國家尚未公布專門針對AI技術(shù)發(fā)展的規(guī)制性文件。

面對生成式AI模型的激增和可能帶來的風(fēng)險，雖然大部分國家的監(jiān)管部門都已經(jīng)在啟動監(jiān)管探索，但當(dāng)下，僅有少數(shù)國家完成了相關(guān)監(jiān)管立法。

然而，AI欺詐具有全球化、跨地域、易于遠(yuǎn)程實施等特點，不同地區(qū)監(jiān)管力度和監(jiān)管方式不一致的客觀情況，極易被欺詐分子所利用，導(dǎo)致欺詐行為難以被問責(zé)或被害人的損失難以追討。

因此，嚴(yán)防AI欺詐，企業(yè)加強自治管理的必要性意義更加凸顯：一方面，在外部監(jiān)管不確定性較強、不同國家監(jiān)管現(xiàn)狀差異性較大的情況下，企業(yè)能夠通過嚴(yán)格的自治管理，切實保障用戶權(quán)益和服務(wù)運營的穩(wěn)定性;另一方面，也可以向監(jiān)管部門傳遞積極的信號，告知監(jiān)管部門企業(yè)可以通過自治的方式有效控制新技術(shù)的應(yīng)用風(fēng)險，這將有利于數(shù)字經(jīng)濟行業(yè)整體的穩(wěn)定發(fā)展。

02 一站式數(shù)字身份驗證和風(fēng)險管理解決方案助力企業(yè)自治管理

在企業(yè)加強欺詐防范能力的自治管理策略上，ADVANCE.AI推薦可部署的數(shù)字化策略包括：

第一, 可以在用戶注冊、登錄環(huán)節(jié)部署活體檢測和人臉比對等身份驗證工具，可以防范利用偽造身份、虛假身份進行在線欺詐的不法分子。

第二，定制化部署風(fēng)險評估模型，比如通過用戶的手機號、聯(lián)系人手機號、常用郵箱賬戶、常用社交媒體賬戶、IP地址等維度做聚集性關(guān)聯(lián)分析(若歷史數(shù)據(jù)足夠可發(fā)展關(guān)系網(wǎng)絡(luò)等)，實時攔截異常注冊或登錄申請，可以防范虛假賬號生成。

而根據(jù)社交、直播、跨境電商、游戲等在線服務(wù)企業(yè)運營海外市場的實際需求和欺詐防范痛點，ADVANCE.AI特別推出了“星鑒”數(shù)字身份驗證與風(fēng)險管理解決方案——這是一套端對端、一站式、可定制化的數(shù)字化解決方案，集成了數(shù)字身份驗證、無感知風(fēng)險管理、反洗錢合規(guī)三大解決方案業(yè)務(wù)體系，能夠幫助容易面臨高欺詐風(fēng)險的企業(yè)和金融機構(gòu)，輕松管理全球用戶、防范欺詐風(fēng)險、落實反洗錢監(jiān)管要求、合規(guī)管理用戶數(shù)據(jù)，尤其適合需要開拓東南亞、拉丁美洲、非洲等新興國家市場的企業(yè)或金融機構(gòu)進行選擇。

“星鑒”數(shù)字身份驗證與風(fēng)險管理解決方案部署流程

ADVANCE.AI的“星鑒”解決方案包含的生物識別、人臉比對功能，人像識別精準(zhǔn)率超過99%，并特別針對東南亞、拉丁美洲、非洲等地區(qū)的用戶使用習(xí)慣進行了優(yōu)化，識別不受當(dāng)?shù)赜脩舻团涫謾C攝像頭或驗證環(huán)境光照條件的影響，且能夠控制識別響應(yīng)時速在1秒以內(nèi)。

同時，ADVANCE.AI的生物識別技術(shù)還對用戶戴著帽子、眼鏡或化妝之后進行人臉識別時的驗證效果進行了優(yōu)化。

ADVANCE.AI的“星鑒”解決方案還包含了活體檢測功能，可以識別部分通過AI工具生成的人臉圖像或視頻，助力防范新型的“AI欺詐”。

目前，ADVANCE.AI的技術(shù)服務(wù)已助力全球超過700家金融機構(gòu)和企業(yè)提升了其在用戶登錄、注冊環(huán)節(jié)的身份驗證操作體驗，提高了審核精準(zhǔn)度和業(yè)務(wù)運營的效率和安全，身份驗證產(chǎn)品的API日均調(diào)用量達到400萬次，年調(diào)用量已接近近20億次。

關(guān)于ADVANCE.AI

ADVANCE.AI成立于2016年，是領(lǐng)先的人工智能公司，提供數(shù)字轉(zhuǎn)型、反欺詐和流程自動化等解決方案，已成功服務(wù)全球超700家知名企業(yè)客戶，聚焦服務(wù)行業(yè)和領(lǐng)域包括銀行、金融服務(wù)、金融科技、支付、零售、電商、物聯(lián)網(wǎng)、出行以及共享經(jīng)濟;總部位于新加坡，并在全球如印尼、印度、菲律賓、馬來西亞和越南等國設(shè)有本地客戶支持團隊;隸屬Advance Intelligence Group，其業(yè)務(wù)覆蓋12個市場，擁有1500名員工，旗下企業(yè)和消費者業(yè)務(wù)共服務(wù)超過700家企業(yè)客戶、10萬家商戶和2000萬消費者。

免責(zé)聲明：市場有風(fēng)險，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：