從傳統(tǒng)圖像編輯軟件到生成式大模型，AI讓圖像、視頻等內(nèi)容生成的手段愈發(fā)簡單，也讓信息篡改的形式更隱蔽，載體更多樣，讓人防不勝防。網(wǎng)絡(luò)加速器供應(yīng)商Surfshark公布的數(shù)據(jù)顯示，2025 年上半年，深度偽造相關(guān)金融欺詐造成全球損失近9億美元，AI偽造能力的泛濫正在沖擊個人權(quán)益、經(jīng)濟秩序與社會信任體系。

當(dāng)技術(shù)偽造的能力逐漸超越肉眼識別的邊界，AI鑒偽技術(shù)的發(fā)展進程牽動著公眾的視線。2025世界人工智能大會上，合合信息展示了AI鑒偽技術(shù)在人臉視頻、AIGC生成圖像、證件票據(jù)等當(dāng)今AI偽造“重災(zāi)區(qū)”中的應(yīng)用體驗，幫助參觀者了解AI如何通過視覺特征、圖像合理性判斷、多維度交叉驗證，精準(zhǔn)洞察多模態(tài)信息中“看不見”的偽造痕跡，為大模型安全、可信發(fā)展筑起“凈化防線”。

人臉視頻篡改檢測技術(shù)“毫秒級”狙擊“數(shù)字假面”

在合合信息AI安全展臺互動區(qū)，觀眾正在排隊體驗一場“真假人臉”的科技較量。站在屏幕前掃描面部，系統(tǒng)就會實時生成一個“數(shù)字假面”，當(dāng)真假人臉同屏對比時，不少觀眾驚訝地發(fā)現(xiàn)，AI偽造面容近乎完美地復(fù)刻了真實人臉的表情紋路。據(jù)合合信息技術(shù)團隊人員介紹，展會互動裝置中實時生成的“假臉”由當(dāng)前主流偽造算法生成，在合合信息AI人臉鑒偽模型的解析下，一張張“假臉”被精準(zhǔn)挑出。

合合信息AI人臉鑒偽模型對“換臉”視頻進行精準(zhǔn)檢測

當(dāng)前人臉偽造技術(shù)手段層出不窮，傳統(tǒng)檢測算法對新型“換臉攻擊”存在滯后性。在進行模型訓(xùn)練時，合合信息技術(shù)團隊針對主流人臉偽造算法進行研究，采用持續(xù)增量學(xué)習(xí)策略，與最新偽造算法同步迭代。基于大規(guī)模數(shù)據(jù)訓(xùn)練，形成了多層次篡改檢測方案，實現(xiàn)毫秒級實時鑒定。

例如，應(yīng)對人臉圖像交換偽造，合合信息AI人臉鑒偽模型能夠錨定人眼不可見的高級視覺差異，給每一個像素打上真?zhèn)螛?biāo)簽并計算偽造像素占比，為圖像真?zhèn)胃怕省按蚍帧?。此外，面臨更復(fù)雜的偽造情況，例如由偽造算法直接生成的復(fù)雜圖像。團隊采用了多種神經(jīng)網(wǎng)絡(luò)模型，聚焦于圖像特征，實現(xiàn)多維度交叉驗證真?zhèn)危屌袛嘟Y(jié)果更精準(zhǔn)。

AI來“找茬”，AIGC圖像鑒別技術(shù)秒辨名畫真?zhèn)?/strong>

在合合信息AIGC圖像鑒別技術(shù)展區(qū)，一場別開生面的“世界名畫版大家來找茬”活動吸引了不少參觀者駐足體驗。經(jīng)過大模型的處理，《蒙娜麗莎》《向日葵》等名畫或是添加了新元素，又或是微調(diào)色彩，讓人難辨真?zhèn)?，這正是當(dāng)前AIGC圖像鑒偽面臨的挑戰(zhàn)。隨著技術(shù)迭代，肉眼可識別的“失真細節(jié)”正變得越來越少。

基于多模態(tài)大語言模型能力，合合信息AIGC圖像鑒別技術(shù)可通過不同角度和不同層級的prompt，分析AI生成圖像的視覺特征以及透視關(guān)系、光影角度等合理性因素，同時抽取圖像頻譜信息輔助模型進行判斷，輸出推理結(jié)果，讓生成式假圖無所遁形。

合合信息AIGC圖像鑒別技術(shù)秒辨名畫真?zhèn)?/p>

據(jù)合合信息技術(shù)團隊人員介紹，實際應(yīng)用場景中，AI生成圖像會經(jīng)歷壓縮、縮放、裁剪及社交媒體傳輸?shù)榷鄠€干擾因素，導(dǎo)致圖像質(zhì)量降低，增加檢測難度。合合信息AIGC圖像鑒別技術(shù)具備了抗攻擊能力強的獨特優(yōu)勢，即使面臨上述干擾也能精準(zhǔn)捕捉圖像異常特征。目前，該技術(shù)還可實現(xiàn)毫秒級鑒偽，測試樣本集鑒定準(zhǔn)確率超90%，有效識別MidJourney、 Stable Diffusion、StyleGAN和GPT 4O等主流模型生成圖片。

近年來，不法分子利用AI技術(shù)進行詐騙的案件頻發(fā)。詐騙團伙利用工具批量制作“假圖”，用“規(guī)?；簟睂ふ摇癆I安全防御漏洞”，使得成千上萬的偽造圖像、視頻如病毒般彌散在社交平臺、金融系統(tǒng)甚至公共安全領(lǐng)域。隨著AI技術(shù)的更新速度加快，數(shù)字安全形勢也將愈發(fā)嚴(yán)峻，合合信息將持續(xù)關(guān)注技術(shù)前沿動態(tài)，用持續(xù)迭代的AI鑒偽技術(shù)拓寬防護邊界。