Deepfake（深度偽造）技術野蠻生長，引發(fā)了一系列負面后果。在韓國通訊軟件Telegram上，某私密聊天室成員利用女性照片非法合成色情照片和視頻，影響極為惡劣。除了普通的受害者，知名人士也難以逃脫圖像偽造的“魔爪”，某視頻網站上，由AI合成的馬斯克等名人為虛假投資做背書的視頻泛濫成災。

不法分子利用人工智能技術興風作浪，讓人防不勝防，文檔圖像領域更是詐騙的重災區(qū)。近日，由中國圖象圖形學學會、中國信息通信研究院、上海合合信息科技股份有限公司、中國科學技術大學、深圳大學、上海交通大學、華南理工大學、南開大學等高校、公司聯(lián)合編制、中國互聯(lián)網協(xié)會發(fā)布的《文本圖像篡改檢測系統(tǒng)技術要求》團體標準（簡稱“《要求》”）正式發(fā)布，將助力文檔圖像處理技術安全、有序發(fā)展。

《要求》為行業(yè)發(fā)展撐起保護傘

科技的發(fā)展使得數(shù)字化圖像逐漸成為重要的信息傳遞手段，在提供便利的同時也帶來了極大的安全隱患。區(qū)別于自然圖像，文本圖像篡改痕跡更加難以察覺，用戶只需使用一鍵式圖像編輯工具即可低成本篡改文檔、聊天記錄、資質證書等圖像，人眼或者傳統(tǒng)檢測系統(tǒng)難以辨認。

作為中國首批文本圖像篡改檢測領域的團體標準之一，《文本圖像篡改檢測系統(tǒng)技術要求》圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業(yè)焦點議題，建立了統(tǒng)一的評估框架?！兑蟆犯采w了市面上常見的圖像篡改類型，適用于拍照證照、掃描證照、拍照文檔、掃描文檔、截圖等五大類文本圖像篡改檢測系統(tǒng)，為企業(yè)在開發(fā)篡改檢測技術時提供了明確指導，提升產品的可靠性和有效性。

隨著人工智能、機器學習和大數(shù)據技術的發(fā)展，文本圖像反篡改技術也在不斷突破邊界，據信通院移動互聯(lián)網反欺詐研究中心顯示，反篡改技術正在朝著智能化和自動化、多模態(tài)融合、注重魯棒性和適應性、增強用戶體驗、高效處理大規(guī)模數(shù)據等方向進化，探索復雜環(huán)境下如何提高檢測的效率和準確性?！兑蟆芬环矫嫱苿恿饲把丶夹g的規(guī)模化應用；另一方面，前瞻性標準一定程度上引領行業(yè)技術發(fā)展方向，為企業(yè)應對未來挑戰(zhàn)提供了堅實基礎。

AI“照妖鏡”識破圖像篡改真面目

近年來，證件造假案件屢見不鮮。2024年6月，內蒙古某地破獲了一起偽造機動車證件抵押詐騙案件，嫌疑人在汽車租賃公司租車后偽造車輛行駛證，轉手抵押獲得借款，涉案金額超300余萬元，辨別證件真?zhèn)呜叫琛盎鹧劢鹁Α薄?

面對篡改圖像以假亂真的難題，合合信息基于深度學習的圖像篡改檢測方法，推出了“PS篡改檢測”技術，可檢測出多種篡改形式，智能捕捉圖像在篡改過程中留下的細微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改位置。

除了能檢測上述案例中的行駛證頁面是否被篡改，PS篡改檢測技術還支持多種應用場景，包括身份證、護照在內的多種卡證，營業(yè)執(zhí)照，商場小票等各類票據。目前，合合信息卡證篡改檢測技術可集成至企業(yè)現(xiàn)有業(yè)務中，具備高響應、低誤檢率等優(yōu)勢。

圖說合合信息圖像篡改檢測技術對身份證圖片篡改痕跡進行定位

圖像篡改手段層出不窮，合合信息也在不斷優(yōu)化升級檢測技術，據悉，合合信息技術團隊通過大規(guī)模樣本預訓練模型，實現(xiàn)了對截圖場景的有效篡改檢測。這一技術還能夠通用推廣到PDF掃描文檔的場景中，例如，檢測房屋租賃合同PDF文件中字段（姓名、房屋地址等）、二維碼、背景等內容是否有篡改痕跡，降低房屋租賃風險。

縱觀科技發(fā)展進程，AI時代已經到來，生成式技術的發(fā)展增加了篡改檢測的難度，文檔圖像反篡改領域需要建立起聯(lián)合防范機制，及時應對各類挑戰(zhàn)。后續(xù)，合合信息也將積極參與文本圖像篡改檢測標準首批貫標測評工作，為行業(yè)豎立標桿，助力打造中國“可信AI”在機器視覺、圖像處理領域的體系建設，以技術之道反制技術之險。