AI造謠中傷上市公司 資本市場亟須與時俱進(jìn)強(qiáng)化治理與監(jiān)管

    本報記者 吳曉璐

    近日，“有頂流明星在澳門輸了10億元”的傳言風(fēng)靡網(wǎng)絡(luò)，頻頻登上熱搜。3月14日，公安部網(wǎng)安局辟謠：這則消息是一網(wǎng)民使用軟件“某書”中AI智慧生成功能生成的謠言。

    隨著生成式AI技術(shù)快速發(fā)展，各行各業(yè)獲得賦能的同時，AI也成為造謠者的利器。從資本市場來看，不少上市公司深陷AI謠言。在行業(yè)人士看來，AI只是工具，需要各方加強(qiáng)監(jiān)管，以防不合法、不合規(guī)使用，擾亂資本市場秩序，侵害投資者合法權(quán)益。

    多家公司被“AI造謠”擊中

    在AI技術(shù)的加持下，造謠者制造傳播謠言的成本越來越低，AI謠言數(shù)量猛增，而且逐漸形成“謠言—AI引用—更多謠言”的黑色鏈條，大量上市公司受到影響。

    去年11月份，有人冒充比亞迪員工，稱比亞迪要和蔚來合作成立比未來汽車集團(tuán)。此后被合肥市公安局經(jīng)開分局證實，該謠言系29歲外省男子謝某所做，利用AI軟件合成不實圖文上網(wǎng)傳播，其目的是為提升自媒體賬號的知名度、博取流量。

    今年春節(jié)期間，某AI大模型爆火之后，一批“馬甲”賬號通過散布某上市公司入股該AI大模型或者為該AI大模型提供技術(shù)支持等謠言，誤導(dǎo)AI大模型給出錯誤回答，誤導(dǎo)投資者。隨后，相關(guān)上市公司通過發(fā)布公告等方式進(jìn)行澄清。

    資本市場是一個“信息+信心”的市場，利用AI編造虛假消息、用虛假語料誤導(dǎo)AI炮制“假利好”“假利空”等行為，影響資本市場秩序。目前，已有網(wǎng)民編造傳播虛假不實信息，影響金融秩序，被公安機(jī)關(guān)依法處罰。

    華東政法大學(xué)國際金融法律學(xué)院教授鄭彧對《證券日報》記者表示，目前AI生成的信息既可能包括AI通過網(wǎng)絡(luò)截取到指定信息披露媒體的信息，也有可能包含自媒體或者其它非指定信息披露媒體所刊載的信息，這就使得AI生成的信息真假難辨，且無法溯源，從而誤導(dǎo)投資者的決策判斷，同時也使得無法追索假信息的來源從而沒有辦法進(jìn)行損失的維權(quán)。

    “利用AI生成的虛假信息對資本市場的影響是多方面的，其危害不容忽視。”某大型投資機(jī)構(gòu)量化團(tuán)隊相關(guān)負(fù)責(zé)人對《證券日報》記者表示，首先，虛假信息可能誤導(dǎo)投資者決策，導(dǎo)致資產(chǎn)價格偏離其真實價值，破壞市場定價效率；其次，虛假信息可能加劇市場波動，引發(fā)恐慌性拋售或非理性追漲，擾亂市場秩序；再次，虛假信息還可能被不法分子用于操縱市場，通過散布“假利好”或“假利空”來牟取非法利益，損害投資者權(quán)益；最后，更為嚴(yán)重的是，虛假信息的泛濫可能削弱投資者對市場信息的信任，影響資本市場的長期健康發(fā)展。

    對AI信息投資者需長上“火眼金睛”

    今年以來，在某AI大模型爆火之后，越來越多年輕投資者向其尋求關(guān)于資產(chǎn)配置的建議。近日，《證券日報》記者做的一份問卷調(diào)查結(jié)果顯示，超過一半（57.5%）的投資者曾向AI軟件咨詢過投資理財建議。只有不到兩成的投資者認(rèn)為AI提供的信息準(zhǔn)確，接近六成認(rèn)為AI回復(fù)一半對一半錯，還有超過兩成認(rèn)為AI的回復(fù)中，絕大部分是錯誤內(nèi)容。

    “很多AI數(shù)據(jù)都是舊的，所以對投資理財沒什么參考。”有投資者對記者坦言。問卷調(diào)查顯示，超過六成的投資者也不會相信AI的薦股信息，有三成投資者認(rèn)為需要視情況而定，只有個別投資者會相信AI的薦股。

    除了部分投資者直接向AI軟件尋求幫助，可能會受到AI虛假信息的影響外，量化交易利用AI大模型進(jìn)行投資，部分采用事件驅(qū)動量化投資策略也可能會受到影響。

    “傳統(tǒng)量化投資策略主要是基于量價因子的挖掘，所用到的基本上是客觀真實的市場數(shù)據(jù)。對于這類量化投資策略，黑嘴用虛假語料炮制‘假利好’對其造成影響的可能性較小。”上述量化團(tuán)隊相關(guān)負(fù)責(zé)人表示，還有一類量化投資策略是基于分析市場情緒、新聞、社交媒體等信息，進(jìn)而做出投資判斷。對這種事件型驅(qū)動的量化投資策略，如果黑嘴利用虛假語料誤導(dǎo)大模型，炮制“假利好”信息，則可能會對量化投資決策產(chǎn)生顯著影響。

    格上理財旗下金樟投資投研總監(jiān)付饒在接受《證券日報》記者采訪時表示，資本市場上的信息量較大，信息質(zhì)量也參差不齊，AI能夠做到在極短時間內(nèi)生成大量內(nèi)容，然而這些內(nèi)容是信息的整合和整理，其可信度通常還需要人為力量來識別。這就意味著，基金管理人需要有能力識別和分析這些內(nèi)容的真實性，在新的投資時代下，AI為管理人提供更加高效工具的同時，對管理人也提出新要求。

    對于投資者而言，需要提高辨別能力，來辨別AI消息的真假。上述量化團(tuán)隊負(fù)責(zé)人表示，首先，應(yīng)優(yōu)先選擇權(quán)威、可信的信息來源；其次，可以通過多源信息交叉驗證，對比不同渠道的數(shù)據(jù)和觀點，判斷信息可信度；再次，投資者還應(yīng)關(guān)注信息的邏輯一致性，識別其中可能存在的矛盾或夸大之處；最后，投資者應(yīng)加強(qiáng)對AI技術(shù)的學(xué)習(xí)，了解其生成內(nèi)容的局限性，避免盲目依賴AI問答結(jié)果。通過提高信息辨別能力，投資者可以更好地應(yīng)對AI虛假信息帶來的挑戰(zhàn)，保護(hù)自身利益。

    鄭彧建議，對于普通投資者，不能直接將AI問答作為選股或者投資決策的參考，但是可以借助AI理解有關(guān)資本市場價格形成機(jī)制的原理和道理，比如詢問AI有關(guān)“資產(chǎn)負(fù)債率在特定行業(yè)的影響”等這些專業(yè)性的問題，通過對于這些問題的了解來理解擬投資行業(yè)、標(biāo)的的投資價值。

    多舉措加強(qiáng)對AI謠言監(jiān)管

    近期，多方已經(jīng)開始行動，加強(qiáng)對AI謠言的治理和監(jiān)管。3月11日，微博社區(qū)觀察員官方賬號發(fā)文表示，將對未標(biāo)識的“AI謠言”及時展開治理。平臺將結(jié)合AI技術(shù)能力、專項人工審核與用戶舉報投訴，積極識別未標(biāo)識的AI內(nèi)容，并對相應(yīng)情況予以相應(yīng)處置。

    據(jù)“網(wǎng)信中國”微信公眾號3月14日消息，近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，規(guī)范人工智能生成合成內(nèi)容標(biāo)識，保護(hù)公民、法人和其他組織合法權(quán)益，維護(hù)社會公共利益。

    上述量化團(tuán)隊負(fù)責(zé)人表示，在AI大模型廣泛應(yīng)用于金融市場的背景下，為減少其對市場的負(fù)面影響，建議可從以下幾方面作為切入點：一是明確AI大模型在投資決策中的使用范圍和邊界，制定相關(guān)法律法規(guī)，確保其應(yīng)用符合市場公平性和透明性的原則；二是聚焦于數(shù)據(jù)質(zhì)量和真實性，建立嚴(yán)格的語料審核機(jī)制，防止虛假信息或操縱性數(shù)據(jù)污染模型訓(xùn)練過程；三是加強(qiáng)對AI模型的動態(tài)監(jiān)控，如要求機(jī)構(gòu)定期提交模型運(yùn)行報告，包括其預(yù)測準(zhǔn)確性、風(fēng)險控制能力和異常事件處理情況，以便及時發(fā)現(xiàn)并糾正模型偏差或漏洞；四是關(guān)注市場操縱行為，特別是利用AI技術(shù)炮制虛假信息或進(jìn)行高頻交易操縱市場的現(xiàn)象，通過技術(shù)手段追蹤異常交易行為并加大處罰力度；五是任何向客戶提供分析意見或建議的主體都必須是具有業(yè)務(wù)資質(zhì)的持牌機(jī)構(gòu)，防止非法或不合規(guī)的機(jī)構(gòu)誤導(dǎo)投資者。