【AI】官媒:AI基於投餵「食材」生成內容,警惕成操縱工具

　　《經濟通通訊社27日專訊》對於近期出現的有網絡帳號利用虛假語料誤導AI大模型作出錯誤回答,再將這些「AI答案」傳播擴散坑騙A股市場的散戶,以干擾甚至操縱個股的市場交易行為,內地官媒《經濟日報》發表評論文章稱,AI大模型底層運行邏輯,即基於投餵的「食材」生成內容,如果不是真材實料,甚至以次充好,出現錯誤就在所難免。AI自作聰明式造假尚不可怕,可怕的是利用AI技術漏洞進行市場操縱。

　　文章提到,已有投資者溯源發現,「某公司持股DeepSeek」等謠言,是由多個帳號在各投資平台、炒股論壇有組織地大規模散播,有意誤導AI當作信源採納。這相當於引導AI給出虛假內容,再截圖進行二次傳播,精心炮製出一篇篇真假難辨的假消息和「小作文」。通過「虛假投餵-模型污染-二次傳播-股價異動」的閉環操縱,成功高位出貨。

*避免AI成股市謠言製造機,治理步伐須跟上*

　　　文章稱,應讓AI回歸良性工具的本質,避免成為股市謠言製造機,治理的步伐須緊緊跟上。開發公司應擔起責任,針對性升級優化大模型,把好數據關,練好防騙術,減少技術漏洞的

發生;監管部門應不斷更新監管手段,防範潛在風險,並立好規矩,明確紅線,推動科技向善;上市公司應加強輿情監控,對涉及本公司的虛假消息要及早公開澄清,正本清源、去偽存真。

(lc)