中國支付清算協(xié)會倡議從業(yè)人員慎用ChatGPT等工具

    專家：從業(yè)者應(yīng)提高認識警惕風(fēng)險

    本報記者 李冰

    4月10日，中國支付清算協(xié)會發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹慎使用ChatGPT等工具的倡議》（以下簡稱“倡議”）。倡議提出，正確認識ChatGPT等工具的機遇和風(fēng)險。

    易觀分析金融行業(yè)高級咨詢顧問蘇筱芮對《證券日報》記者表示，“此前，國外已出現(xiàn)過ChatGPT等工具隱私泄露的情況。中國支付清算協(xié)會倡議慎用ChatGPT等工具，無論是對金融機構(gòu)還是用戶而言，均是一種保護行為。”

    應(yīng)依法合規(guī)使用

    倡議稱，近期，ChatGPT等工具引起各方廣泛關(guān)注，已有部分企業(yè)員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險。為有效應(yīng)對風(fēng)險、保護客戶隱私、維護數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》等法律規(guī)定，中國支付清算協(xié)會向行業(yè)發(fā)出倡議。

    具體來看，一是提高思想認識，依法依規(guī)使用。支付行業(yè)從業(yè)人員要遵守所在地區(qū)的網(wǎng)絡(luò)使用規(guī)定，正確認識ChatGPT等工具的機遇和風(fēng)險，全面評估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險，依法合規(guī)使用ChatGPT等工具。

    二是不上傳關(guān)鍵敏感信息。支付行業(yè)從業(yè)人員在使用ChatGPT等工具時，要嚴格遵守國家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。

    三是會員單位加強內(nèi)部管理和引導(dǎo)。會員單位要進一步健全信息安全內(nèi)控管理制度，開展有針對性的數(shù)據(jù)風(fēng)險防控工作，加強宣傳和引導(dǎo)，提升員工的風(fēng)險防范和數(shù)據(jù)保護意識，切實維護國家金融及支付清算行業(yè)安全。

    “ChatGPT是人工智能技術(shù)驅(qū)動的自然語言處理工具，需要對數(shù)據(jù)庫不斷更新。金融從業(yè)者使用ChatGPT存在金融數(shù)據(jù)隱私及安全問題，中國支付清算協(xié)會向行業(yè)發(fā)出倡議十分有必要。”博通咨詢金融行業(yè)資深分析師王蓬博表示。

    或存在兩方面風(fēng)險

    經(jīng)記者梳理，目前金融機構(gòu)試水ChatGPT類應(yīng)用呈現(xiàn)三類方式，一是借助自身在科技尤其是人工智能領(lǐng)域的積累，結(jié)合自有場景主動開啟研發(fā)和探索；二是接入類ChatGPT相關(guān)應(yīng)用的生態(tài)，借助外部力量進行提升；三是通過自有能力和借助外部力量雙線并行。

    冰鑒科技研究院高級研究員王詩強對《證券日報》記者表示，“ChatGPT等工具是基于自然語言處理、深度學(xué)習(xí)人工智能技術(shù)開發(fā)的智能工具，通過收集、處理數(shù)據(jù)，不斷自我學(xué)習(xí)。其收集的數(shù)據(jù)除了外部公開數(shù)據(jù)外，也有大量數(shù)據(jù)來自客戶分享，在其他客戶咨詢同類問題時可能會共享出去。因此，一旦有從業(yè)者將公司重要數(shù)據(jù)共享給ChatGPT等工具，極有可能導(dǎo)致商業(yè)機密泄露。”

    對于ChatGPT等工具可能存在的風(fēng)險，索信達控股AI創(chuàng)新中心主任邵俊博士對《證券日報》記者表示，這主要來自兩個層面，一是信任風(fēng)險，比如不法分子通過ChatGPT技術(shù)模仿真人實施不法行為；二是模型風(fēng)險，ChatGPT本質(zhì)是從網(wǎng)絡(luò)大量數(shù)據(jù)中學(xué)習(xí)，但網(wǎng)上也充斥著大量錯誤信息，真假參半的信息容易對用戶造成誤導(dǎo)，另外，從業(yè)者的“無心之失”也容易在工作中把重要數(shù)據(jù)流出，構(gòu)成違規(guī)風(fēng)險。

    在中關(guān)村科金人工智能資深產(chǎn)品專家李國慶看來，“ChatGPT在科技能力上涉及芯片、算力、模型、工具、場景等多個層面。目前，我國不少頭部科技企業(yè)都已經(jīng)開始著手研發(fā)類似于ChatGPT的產(chǎn)品。同時，國內(nèi)自然語言處理和人工智能領(lǐng)域的研究及發(fā)展也不斷取得重大突破，在原始數(shù)據(jù)積累、人才儲備及政策支持方面均具有一定優(yōu)勢，基于大量底層數(shù)據(jù)和強大的算力支撐，國內(nèi)一些智能產(chǎn)品有望抓住機遇，加速大模型的研發(fā)和產(chǎn)業(yè)化。”