中國信通院攜手合合信息開啟《文檔圖像篡改檢測標準》制定工作

    本報記者 施露

    為貫徹落實《生成式人工智能服務(wù)管理》等文件中對于AI服務(wù)的規(guī)范性要求，系統(tǒng)性建立圖像內(nèi)容安全行業(yè)發(fā)展秩序，6月15日，中國信息通信研究院（以下簡稱“中國信通院”）啟動了《文檔圖像篡改檢測標準》制定工作。該項標準由中國信通院牽頭，上海合合信息科技股份有限公司（以下簡稱：合合信息）、中國圖象圖形學(xué)學(xué)會、中國科學(xué)技術(shù)大學(xué)等科技創(chuàng)新企業(yè)及知名學(xué)術(shù)機構(gòu)聯(lián)合編制。

    《文檔圖像篡改檢測標準》將為文檔圖像內(nèi)容安全提供可靠保障，助力新時代AI安全體系建設(shè)。作為牽頭方，中國信通院表示，《文檔圖像篡改檢測標準》將基于產(chǎn)業(yè)現(xiàn)狀，圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業(yè)焦點議題，凝聚行業(yè)共識，以期為行業(yè)提供有效指引。

    隨著技術(shù)的發(fā)展和電子設(shè)備普及率的提升，人們修改圖像的門檻變得越來越低，以往圖像內(nèi)容加工需要使用專業(yè)的軟件，現(xiàn)在通過某些平臺或者軟件，動動手指即可產(chǎn)出一張?zhí)摷賵D片，數(shù)字圖像的原始性和真實性面臨嚴峻挑戰(zhàn)。

    此前，圖像篡改檢測的技術(shù)研究對象主要集中于自然場景圖像。然而，真正為人們的生活帶來風(fēng)險的通常是被篡改的資質(zhì)證書、文檔、聊天截圖等。傳統(tǒng)的檢測系統(tǒng)往往難以對這些文檔圖像進行篡改判定及修改內(nèi)容定位，主要原因如下：

    一方面，真實場景中的篡改方法多樣、篡改視覺痕跡細微，對篡改檢測方案提出了挑戰(zhàn)；文檔版面的復(fù)雜化、文本內(nèi)容的多樣化亦成為圖像內(nèi)容檢測識別過程中的“攔路虎”，加大了篡改檢測實施的難度。

    此外，傳統(tǒng)的圖像篡改檢測方法在面對全局性的裁剪、調(diào)色處理以及組合式造假手法時，其檢測覆蓋面、精準度、安全性尚存在提升空間，需要政府、研究機構(gòu)、企業(yè)等多方主體聯(lián)合起來，通過建立技術(shù)規(guī)范標準，助力AI視覺圖像產(chǎn)業(yè)健康成長。

    開年以來，以語言生成類、視覺生成類模式為代表的AIGC產(chǎn)品引發(fā)了社會對于圖文內(nèi)容“可信度”問題的討論?！段臋n圖像篡改檢測標準》的制定，或?qū)橹袊?ldquo;可信AI”在機器視覺、圖像處理領(lǐng)域的體系建設(shè)提供有力支持。在圖像內(nèi)容安全領(lǐng)域，已有部分企業(yè)展開了前沿探索，利用科技手段對篡改文本圖像實行真?zhèn)闻卸?、篡改痕跡檢測，人工智能科技企業(yè)合合信息是其中的代表

    據(jù)悉，合合信息研發(fā)了基于深度學(xué)習(xí)的圖像篡改檢測技術(shù)及相關(guān)系統(tǒng)，可檢測出多種篡改形式，智能捕捉圖像在篡改過程中留下的細微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改地點，相關(guān)技術(shù)已被應(yīng)用于銀行、保險等行業(yè)中。

（編輯 李波）