27/02/2025 09:32

【AI】官媒:AI基於投餵「食材」生成內容,警惕成操縱工具

  《經濟通通訊社27日專訊》對於近期出現的有網絡帳號利用虛假語料誤導AI大模型作出
錯誤回答,再將這些「AI答案」傳播擴散坑騙A股市場的散戶,以干擾甚至操縱個股的市場交
易行為,內地官媒《經濟日報》發表評論文章稱,AI大模型底層運行邏輯,即基於投餵的「食
材」生成內容,如果不是真材實料,甚至以次充好,出現錯誤就在所難免。AI自作聰明式造假
尚不可怕,可怕的是利用AI技術漏洞進行市場操縱。
 
  文章提到,已有投資者溯源發現,「某公司持股DeepSeek」等謠言,是由多個帳號
在各投資平台、炒股論壇有組織地大規模散播,有意誤導AI當作信源採納。這相當於引導AI
給出虛假內容,再截圖進行二次傳播,精心炮製出一篇篇真假難辨的假消息和「小作文」。通過
「虛假投餵-模型污染-二次傳播-股價異動」的閉環操縱,成功高位出貨。
 
*避免AI成股市謠言製造機,治理步伐須跟上*
 
   文章稱,應讓AI回歸良性工具的本質,避免成為股市謠言製造機,治理的步伐須緊緊跟
上。開發公司應擔起責任,針對性升級優化大模型,把好數據關,練好防騙術,減少技術漏洞的
發生;監管部門應不斷更新監管手段,防範潛在風險,並立好規矩,明確紅線,推動科技向善;
上市公司應加強輿情監控,對涉及本公司的虛假消息要及早公開澄清,正本清源、去偽存真。
(lc)

【香港好去處】2025去邊最好玩?etnet為你提供全港最齊盛事活動,所有資訊盡在掌握!► 即睇

專業版
HV2
精裝版
SV2
串流版
IQ 登入
強化版
TQ
強化版
MQ

etnet榮膺「第九屆傳媒轉型大獎」四大獎項

【限時優惠$68/月】申請etnet強化版MQ手機串流報價服務 捕捉板塊輪動,提高獲利勝算

etnet榮獲HKEX Awards 2023 「最佳證券數據供應商」大獎

大國博弈

2025-26年度財政預算案

貨幣攻略

說說心理話

Watch Trends 2024

北上食買玩

Art Month 2024

理財秘笈

流感高峰期

山今養生智慧

輕鬆護老