大家好,，我是劉晶晶,，數(shù)字聯(lián)盟公司的聯(lián)合創(chuàng)始人，很高興和各位一起進(jìn)行交流和探討,，我今天分享的主題是《AIGC 技術(shù)對(duì)互聯(lián)網(wǎng)風(fēng)控行業(yè)的挑戰(zhàn)——數(shù)字聯(lián)盟基于底層邏輯的預(yù)防策略》,。

近 20 年互聯(lián)網(wǎng)安全行業(yè)從業(yè)經(jīng)驗(yàn)，先后就職于國(guó)內(nèi)多家安全頭部企業(yè)及上市公司,，現(xiàn)在公司負(fù)責(zé)整體產(chǎn)品線構(gòu)建,、產(chǎn)品市場(chǎng)、營(yíng)銷體系及各地分公司辦事處管理,。

數(shù)字聯(lián)盟公司（簡(jiǎn)稱：數(shù)盟）成立于 2014 年,，擁有領(lǐng)先的移動(dòng)設(shè)備識(shí)別及反欺詐技術(shù)服務(wù)商，成立九年來通過自主研發(fā)“可信 ID”技術(shù)方案助力企業(yè)在 APP 和小程序端完善設(shè)備識(shí)別基準(zhǔn),，有效識(shí)別推廣,、運(yùn)營(yíng)等場(chǎng)景中相關(guān)業(yè)務(wù)風(fēng)險(xiǎn)，現(xiàn)已為超 1000 家行業(yè)知名企業(yè)及 20 余家上市公司提供全面技術(shù)方案,，多數(shù)合作七年以上,。如 BOSS 直聘、知乎、網(wǎng)易新聞,、探探,、瓜子二手車、喜馬拉雅,、映客,、泰康保險(xiǎn)、快看漫畫,、七貓小說,、瑞幸咖啡等均與數(shù)盟長(zhǎng)期合作，助力完善設(shè)備識(shí)別基準(zhǔn)和打造更高速有效的應(yīng)用增長(zhǎng)和運(yùn)營(yíng)體系,。

AI 技術(shù)經(jīng)歷了起步發(fā)展期、應(yīng)用發(fā)展期,、平穩(wěn)發(fā)展期,，目前已經(jīng)進(jìn)入了蓬勃發(fā)展階段。今年以來,，人工智能生成內(nèi)容技術(shù)快速普及,。人工智能生成內(nèi)容技術(shù)可以根據(jù)給定的輸入和模型自動(dòng)生成文本、圖像,、音頻等讓更多領(lǐng)域得以簡(jiǎn)易應(yīng)用,，如文案創(chuàng)作、廣告創(chuàng)意,、音視頻創(chuàng)作,、設(shè)計(jì)等。

不同互聯(lián)網(wǎng)公司正在進(jìn)行對(duì) AIGC 技術(shù)的跟進(jìn),，百度,、騰訊、阿里,、華為等大企業(yè)已經(jīng)有了自研發(fā)基礎(chǔ)大模型,。我們至今已新合作超 50 款不同類型 AIGC 應(yīng)用 APP，提供具有寫大眾點(diǎn)評(píng),、寫電商評(píng)論,、發(fā)朋友圈、發(fā)微博等內(nèi)容生產(chǎn)功能的 AI 工具,。

AIGC 技術(shù),，正在對(duì)應(yīng)用領(lǐng)域產(chǎn)生許多影響。

如在文本生產(chǎn)領(lǐng)域,，AIGC 技術(shù)能夠快速生成文章,、處理文本風(fēng)格、整理摘要和框架等，甚至已經(jīng)實(shí)現(xiàn)通過插件組合和聲音條件來制作高度擬真的“聊天機(jī)器人”,。在圖像生成領(lǐng)域,，AIGC 技術(shù)具備圖像生成和編輯、去除水印和背景等功能,，能夠批量生成圖片,。在音視頻生成領(lǐng)域，AIGC 技術(shù)通過將文本生成語音,、文案生成視頻,、模擬人聲人臉等功能快速生成音視頻。在多模態(tài)生成領(lǐng)域,，AIGC 技術(shù)能夠?qū)⑽谋?、圖像、音視頻等進(jìn)行組合搭配,，在不同場(chǎng)景中自動(dòng)實(shí)現(xiàn)快速創(chuàng)作,。

在 AIGC 技術(shù)引發(fā)的內(nèi)容爆炸加速內(nèi)容生成的同時(shí)，對(duì)風(fēng)險(xiǎn)控制的挑戰(zhàn)卻不如忽視,！

AIGC 生成的圖像對(duì)圖像審查的挑戰(zhàn),。隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展，通過 AIGC 技術(shù)生成的圖像真實(shí)度大大提高,，導(dǎo)致虛假圖像的數(shù)量急劇增加,。在圖文審核過程中，人工和傳統(tǒng)的計(jì)算機(jī)程序已經(jīng)難以分辨出 AIGC 的生成圖像,。這表明傳統(tǒng)的審查方法,，如基于內(nèi)容的分析和圖像特征識(shí)別，已經(jīng)無法有效地應(yīng)對(duì)這種挑戰(zhàn),。

AIGC 文本生成對(duì)傳統(tǒng)文本審核方案的影響,。AIGC 文本生成技術(shù)不斷進(jìn)步，既能產(chǎn)生邏輯嚴(yán)謹(jǐn),、風(fēng)格獨(dú)特的文章,，也能生成涵蓋方言、兒化音以及更多口語化表達(dá)的文案,，無限模擬和接近真實(shí)用戶生產(chǎn)的內(nèi)容文本,。這導(dǎo)致虛假文本內(nèi)容急速增加，且這些虛假和誤導(dǎo)內(nèi)容能夠通過靈活調(diào)整風(fēng)格規(guī)避關(guān)鍵詞檢測(cè),，關(guān)鍵詞審查,、違禁詞黑名單等傳統(tǒng)審查策略已無法有效應(yīng)對(duì)這種挑戰(zhàn)。

AIGC 音視頻生成對(duì)內(nèi)容檢測(cè)的沖擊,。AIGC 音視頻自動(dòng)生成技術(shù)的發(fā)展生成了大量模擬數(shù)字人播報(bào)（AI 主播）,、模擬聊天產(chǎn)品,，這些產(chǎn)品在人工審核環(huán)節(jié)難以被直觀分辨，根據(jù)音視頻樣本檢測(cè)項(xiàng)次內(nèi)容等傳統(tǒng)審查策略已難以對(duì)其做有效鑒別,。

AIGC 生成偽造聊天等已開始在社交場(chǎng)景實(shí)施欺詐,。例如，某些黑產(chǎn)借助 AIGC 用虛假信息偽裝高凈值人士,，在征友,、征婚、玩伴等互動(dòng)群里實(shí)施擬真的聊天套路,，騙取信任,。黑產(chǎn)團(tuán)伙借助 AIGC 技術(shù)，可打造角色 + 語言攻勢(shì),，每個(gè)環(huán)節(jié)都可以利用 AIGC 偽造身份并產(chǎn)生虛假內(nèi)容進(jìn)行一步步的詐騙行為,，直到騙取到受害者的金錢。

AIGC 可實(shí)現(xiàn)自動(dòng)聊天,、作畫,、虛擬主播、模擬人聲等產(chǎn)品種類繁多,、風(fēng)格各異，使得此前更多基于聚類分析的風(fēng)控方案已難以對(duì)其進(jìn)行有效識(shí)別,，基于特征（圖像音頻等）和主題模型及行為邏輯判定等技術(shù)手段,，也都已無法有效應(yīng)對(duì) AIGC 技術(shù)帶來的挑戰(zhàn)。

對(duì)于 AIGC 帶來的挑戰(zhàn),，我們需要一種全新的策略,，創(chuàng)建一個(gè)比內(nèi)容審核更底層的身份識(shí)別系統(tǒng)，避免受到 AIGC 的挑戰(zhàn),。

數(shù)盟產(chǎn)品,，正是基于底層邏輯的預(yù)防策略，核心能力是通過數(shù)盟自主研發(fā)的“弱特征”歸因技術(shù)為每個(gè)設(shè)備發(fā)出更穩(wěn)定唯一的標(biāo)識(shí)標(biāo)簽,，通過判定載體 – 設(shè)備唯一及有效來大幅提升黑產(chǎn)成本,，這樣即使黑產(chǎn)通過 AIGC 技術(shù)生成大量文案、圖片,、音視頻內(nèi)容,，卻必須找到足夠多的賬號(hào)和對(duì)應(yīng)最夠多的設(shè)備，通過可信 ID 技術(shù)一旦有效識(shí)別設(shè)備唯一及偽裝新設(shè)備行為,，即可有效阻止相關(guān)內(nèi)容的快速傳播,。

應(yīng)用可信 ID 技術(shù)，可以在 APP 及小程序端在安裝,、運(yùn)行,、業(yè)務(wù)事件等節(jié)點(diǎn),，實(shí)時(shí)識(shí)別虛擬機(jī)、群控篡改等,，迅速識(shí)別和追蹤黑產(chǎn)借助 AIGC 生成的虛假圖文音視頻內(nèi)容,。識(shí)別設(shè)備唯一，定位追蹤設(shè)備行為,，有利于對(duì)發(fā)布欺詐內(nèi)容的設(shè)備進(jìn)行封禁,，大幅提升黑產(chǎn)門檻。

以某社交 APP 為例,，此前,，其更多是應(yīng)用圖文審核等技術(shù)方案來判定新注冊(cè)用戶發(fā)布內(nèi)容是否包含欺詐內(nèi)容等，今年以來,，發(fā)現(xiàn)已有黑產(chǎn)利用 AIGC 大量生成不同內(nèi)容甚至刻意躲避部分關(guān)鍵詞屏蔽的內(nèi)容,，近幾個(gè)月的圖文審核接口月識(shí)別效果驟降。從設(shè)備層面其應(yīng)用可信 ID 技術(shù)后,，發(fā)現(xiàn)實(shí)際批量發(fā)布欺詐內(nèi)容的設(shè)備,，均為黑產(chǎn)通過群控篡改偽裝的?？尚?ID 實(shí)時(shí)識(shí)別發(fā)布設(shè)備的唯一性,，限制同一設(shè)備關(guān)聯(lián)賬號(hào)數(shù)，并對(duì)群控篡改設(shè)備實(shí)時(shí)封禁,。

某內(nèi)容問答 APP,，此前在給回答作者提供創(chuàng)造獎(jiǎng)勵(lì)時(shí)，會(huì)通過文本過濾及“查重”來識(shí)別是否存在抄襲行為,，已發(fā)現(xiàn)有創(chuàng)作者通過不同賬號(hào)在利用 AIGC 生成文字重復(fù)率極低但實(shí)際故事內(nèi)容仍存在雷同的內(nèi)容,，傳統(tǒng)方式以難有效識(shí)別。通過應(yīng)用設(shè)備可信 ID 技術(shù),，直接識(shí)別偽裝設(shè)備和篡改設(shè)備,，限制設(shè)備個(gè)數(shù)，導(dǎo)致黑產(chǎn)無法快速完成批量回答領(lǐng)取問答獎(jiǎng)勵(lì),。

同時(shí),，可信 ID 技術(shù)與目前常見的“設(shè)備指紋”技術(shù)相比也存在著明顯的區(qū)別和優(yōu)勢(shì)?？尚?ID 技術(shù)采集設(shè)備網(wǎng)絡(luò)環(huán)境周邊弱特征,，并非依賴一些雖單獨(dú)具備一定唯一性但很易被篡改的強(qiáng)特征標(biāo)識(shí)，采集和頒發(fā)是兩套獨(dú)立的系統(tǒng),，可在黑產(chǎn)篡改設(shè)備信息時(shí)下發(fā)可信 ID 仍穩(wěn)定歸一,。而傳統(tǒng)的“設(shè)備指紋”更多依賴強(qiáng)特征，采集與頒發(fā)是一對(duì)一映射轉(zhuǎn)換,，當(dāng)設(shè)備強(qiáng)特征一旦被篡改,、無效,、采集錯(cuò)誤而發(fā)生變化時(shí)，該“設(shè)備指紋”也會(huì)發(fā)生相應(yīng)變化,。

可信 ID 可以幫助 APP 及小程序客戶內(nèi)部有效完善設(shè)備識(shí)別基準(zhǔn),，內(nèi)部多 APP ID 相同，助力完善推廣去重和分層,。應(yīng)用場(chǎng)景廣泛,，如可應(yīng)用于推廣反作弊、運(yùn)營(yíng)反欺詐,、業(yè)務(wù)行為風(fēng)控,、ID 補(bǔ)齊、ID 全局映射,、全局設(shè)備感知等,。

AIGC 技術(shù)正改變互聯(lián)網(wǎng)行業(yè)，卻對(duì)風(fēng)控行業(yè)帶來更大挑戰(zhàn),。對(duì)此,，保持警惕，持續(xù)創(chuàng)新,，讓我們一起面對(duì)未來的挑戰(zhàn),！期待與所有鯤鵬會(huì)的伙伴未來廣泛交流和合作，共同成長(zhǎng),。