防臺風把汽車五花大綁？“信息增量”空間不能留給AI
更新時間：2025/10/13 17:09:08 來源：新華社
社會新聞
“臺風‘樺加沙’期間市民把汽車五花大綁”“海嘯來襲，上海撤離30萬居民”“上海退休教授靠陽臺核電池供電”“華山醫院前院長客死洛杉磯”……近年來，越來越多“新聞”出自AI之手，且因其逼真的視覺效果和情感沖擊力，在短時間內就獲取了巨大流量。AI造假正以前所未有的傳播效率污染著我們的信息環境，稀釋甚至取代真實信息。
從表面看，AI新聞造假是技術濫用和流量追逐的結果。但深入分析，AI假新聞泛濫的根源，往往在于社會有效信息供給不足。
首先是信息披露時效不足。當一些重大新聞事件發生時，公眾對于事件真相的好奇心被大大激發。但相關部門為確保信息的準確和全面，往往會遵循嚴謹的信息發布流程，客觀上存在一段時間的真相“空窗期”。一些不法分子正是利用這個時間窗口，快速生成虛假內容，搶占公眾注意力。
其次是技術鑒別能力與工具供給不足。有些“無中生有”的內容，光影效果、人物微表情甚至畫面噪點都模擬得極為逼真，讓專業人士也難辨真偽。目前，用于檢測AI生成內容的技術工具尚未普及，普通用戶在面對可疑內容時“手無寸鐵”，為造假者提供了可乘之機。
此外，行業治理規則與標準供給不足。從平臺的角度來看，批量炮制的假新聞給內容治理帶來了不小的壓力。面對AI生成內容，平臺要核實其真實性，同樣存在技術性與機制性難點，也給AI假信息傳播留下了一定的空間。
可喜的是，近日施行的《人工智能生成合成內容標識辦法》，要求人工智能生成合成內容必須添加標識。多家互聯網平臺也積極跟進，要求內容發布者以顯著方式主動標識AI生成內容。不少AI技術公司也在開發更先進的內容檢測工具，幫助識別AI生成內容。這些措施正在逐步構建起治理AI造假的多重防線。
唯有權威信源跑贏謠言、技術工具賦能大眾、治理規則完善健全，我們才能構建一個更加清朗、健康、可信的信息生態，讓技術服務于人們對了解真實世界的需求。（評論員程思琪）
 |
 |
 |
|
||||
 |
焦作網免責聲明： | |||||||
|
||||||||
“臺風‘樺加沙’期間市民把汽車五花大綁”“海嘯來襲，上海撤離30萬居民”“上海退休教授靠陽臺核電池供電”“華山醫院前院長客死洛杉磯”……近年來，越來越多“新聞”出自AI之手，且因其逼真的視覺效果和情感沖擊力，在短時間內就獲取了巨大流量。AI造假正以前所未有的傳播效率污染著我們的信息環境，稀釋甚至取代真實信息。
從表面看，AI新聞造假是技術濫用和流量追逐的結果。但深入分析，AI假新聞泛濫的根源，往往在于社會有效信息供給不足。
首先是信息披露時效不足。當一些重大新聞事件發生時，公眾對于事件真相的好奇心被大大激發。但相關部門為確保信息的準確和全面，往往會遵循嚴謹的信息發布流程，客觀上存在一段時間的真相“空窗期”。一些不法分子正是利用這個時間窗口，快速生成虛假內容，搶占公眾注意力。
其次是技術鑒別能力與工具供給不足。有些“無中生有”的內容，光影效果、人物微表情甚至畫面噪點都模擬得極為逼真，讓專業人士也難辨真偽。目前，用于檢測AI生成內容的技術工具尚未普及，普通用戶在面對可疑內容時“手無寸鐵”，為造假者提供了可乘之機。
此外，行業治理規則與標準供給不足。從平臺的角度來看，批量炮制的假新聞給內容治理帶來了不小的壓力。面對AI生成內容，平臺要核實其真實性，同樣存在技術性與機制性難點，也給AI假信息傳播留下了一定的空間。
可喜的是，近日施行的《人工智能生成合成內容標識辦法》，要求人工智能生成合成內容必須添加標識。多家互聯網平臺也積極跟進，要求內容發布者以顯著方式主動標識AI生成內容。不少AI技術公司也在開發更先進的內容檢測工具，幫助識別AI生成內容。這些措施正在逐步構建起治理AI造假的多重防線。
唯有權威信源跑贏謠言、技術工具賦能大眾、治理規則完善健全，我們才能構建一個更加清朗、健康、可信的信息生態，讓技術服務于人們對了解真實世界的需求。（評論員程思琪）
 |
|
||||
|
焦作網免責聲明： | |||||||
|
||||||||
|
|
