經濟通新聞
《經濟通通訊社24日專訊》上海市網信辦微信公眾號「網信上海」發文介紹「AI濫用」專項執法工作,稱在執法辦案工作中發現,部分企業開發使用生成式人工智能功能,未依法開展安全評估工作、未採取必要的安全防護措施防範違規信息生成、未採取限制措施防止被濫用,導致相關功能被用於「換臉變聲」、「變裝造假」等侵犯他人個人信息權益行為,產出「開盒」、「洗錢」等違法違規內容,以及生成色情低俗圖片等信息內容。
文章指,「亮劍浦江.2025」專項執法行動將「整治AI濫用」作為年度治理重點,多措並舉引導生成式人工智能領域企業合規運營。一是加強日常管理。指導屬地應用商店下線違規應用生成式人工智能技術的APP共54款。對照《人工智能生成合成內容標識辦法》,指導專家團隊擬制「實務解析」,為企業提供疑難解答。二是強化處置處罰。對前期要求下線功能的26家生成式人工智能服務網站,進行巡查,防範問題復發。對3家拒不整改的生成式人工智能服務網站,首次適用《生成式人工智能服務管理暫行辦法》予以立案處罰。三是首違企業免罰。
督促5家首次發現存在未按國家規定開展安全評估工作或違規提供「論文代寫」功能等違法違規問題的網站下線相關功能。
下一步,上海市網信辦將持續對「AI濫用」、「算法推薦」等存在侵犯個人信息權益、危害網絡生態的違法違規行為予以重點打擊和糾治,促進新技術新應用在法治的軌道上健康有序發展。(sl)
上一篇
下一篇
