生成式人工智能進入合規發展階段

科普時報記者 陳 杰

8月15日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）正式施行，有望促進生成式人工智能健康發展和規范應用。

“生成式人工智能技術快速發展，為經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。”文淵智庫研究員王超接受記者采訪時表示，《辦法》的正式實施，是促進生成式人工智能健康發展的要求，也是防范生成式人工智能服務風險的需要。

(相關資料圖)

監管不搞“一刀切”

生成式人工智能是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術，自去年底起在各行各業大規模落地應用，在提升效率的同時也亂象叢生。

新壹科技CEO雷濤告訴記者，與判別型人工智能風險主要集中在算法的歧視和濫用上不同，生成型人工智能存在更多知識產權爭議和更復雜的數據風險，同時濫用生成內容在技術上可能會給監管帶來更多挑戰。“特別是隨著大模型的不斷迭代，其生成內容的真實性、偏向性與原創性在技術上越來越難以判別，也給監管造成較大壓力。”

在教育行業，生成式人工智能大多在輔助教學、自動批改作業、優化教育資源以及個性化學習和興趣激發上具有智能、提效的作用。即便如此，但iEnglish智能英語學習解決方案技術研發負責人賈先好認為，這些應用帶來的版權、作弊，以及數據與隱私安全風險等系列問題，也需要引起足夠的重視。他表示，《辦法》明確了提供和使用生成式人工智能服務應當遵守相關法律法規和倫理規范，對于保障人工智能的安全、可靠和透明使用具有重要意義。“《辦法》的正式施行，標志著我國對生成式人工智能的管理進入了新的階段。”

《辦法》提出堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

雷濤認為，這種包容審慎和分類分級的監管明確供應商主體責任，在創新和有效監管之間取得了平衡。“《辦法》符合對人工智能進行分級、分類管理的趨勢，實現了監管科學化、精細化，避免了‘一刀切’式的監管措施抑制人工智能技術創新。”

產業應該積極應對

生成式人工智能大規模落地應用，大模型居功至偉。日前發布的《中國人工智能大模型地圖研究報告》顯示，我國人工智能大模型產品已經發布超百余個。

基于大模型研發應用全產業鏈，數據及安全便成為重中之重。《辦法》明確，生成式人工智能服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。此外，還明確了數據標注的相關要求。

顯然，這些規定讓此前在數據采集、加工和應用方面呈野蠻式發展的廠商壓力倍增。雷濤認為，這種陣痛是短暫且必須的，雖然當前生成式人工智能依然是一個輔助人類創作的技術工具，但不可否認的是其巨大潛能以及廣闊的應用場景，產業鏈上的企業都應是立足于自身做好研發追趕，而絕非回避。“《辦法》的施行，將有助于明確企業技術拓展和使用的邊界，新技術、新場景只有在合理的規范體系下，才能不斷推動行業進步，進而形成良性的行業生態。”

“作為全球范圍內較早關注生成式人工智能服務治理的規范性文件，《辦法》為生成式人工智能服務劃定了底線，提供了方向。”王超提醒，產業相關企業應該以積極開放的態度面對《辦法》的施行，并結合自身優勢、探索生成式人工智能技術的創新應用場景，不斷完善自身的應用生態體系。

標簽：