不知不覺中,我們已然身處一個像是被科幻所演繹、大大迥異于以往的時代。一切都變得如此之快,以致我們很難用諸如智能社會、信息時代之類的寬略語詞來概括了。
特別是,ChatGPT(聊天生成預訓練轉換器)劃時代的應用及其產生的爆發性效應,將人工智能(AI)領域的發展和競爭加速推入了新階段,甚而引發了國際科技巨頭的“軍備競賽”,諸多相關問題也被提了出來。
(資料圖)
讓我們將視線轉向中國。4月11日,國家互聯網信息辦公室就《生成式人工智能服務管理辦法(征求意見稿)》向社會公開征求意見。征求意見稿提出,服務提供者禁止非法披露個人信息,不得根據用戶輸入信息和使用情況進行畫像。
征求意見稿所提到的生成式人工智能(GenerativeAI),是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。它具有很強的的自然語言理解能力和高效的文本生成能力,能夠更高效地處理和分析大量數據,更快速準確地回答復雜的問題。總之,過去認為只能做好判別性工作的AI,眼下正在跨越一個分界點:從“判別式領域”邁入“生成式領域”。我們或許可以這樣說:新的交互革命開始,AI新紀元來臨。
以ChatGPT為代表的生成式AI,最直觀的應用場景或許就是可以像人類一樣進行聊天交流,以及由此衍生的客服及專業咨詢。在成為歷史上用戶增長速度最快的消費者應用程序的同時,這類新型工具也引發了人們的倫理焦慮。上月底,意大利因一起嚴重的數據泄露事件而宣布在其境內禁用ChatGPT;包括業界領袖埃隆·馬斯克在內的上千名人工智能專家和行業高管簽署了一份公開信,呼吁立即停止訓練智能水平可與人類競爭的AI系統,稱它們可能對社會和人類構成深遠風險。
《紐約時報》最近載文指出,AI浪潮席卷硅谷,立法者卻困于不懂技術。目前還沒有任何法案被提出來,用以保護個人或抑制AI在潛在危險方面的發展。近年來針對限制臉部識別等AI應用的立法,在國會中未能獲得成功。而美國國會中唯一擁有AI碩士學位的議員杰伊·奧伯諾爾特抱怨說:“在實施監管前,需要先就AI的危險是什么達成一致,而這需要對該技術有深刻的理解。你會驚訝于我花了多少時間向同僚們解釋,AI的主要危險不會來自眼睛里冒著紅色激光的邪惡機器人。”
因推出ChatGPT而聞名的硅谷初創公司OpenAl首席執行官薩姆·奧特曼(這名字瞧著就很科幻),今年1月拜訪了數位國會議員,當面展示了全新的AI模型GPT-4。它可以完成撰寫論文、解決復雜的編程問題等任務,令議員們大開眼界。奧特曼同時表示支持監管,聲稱GPT-4將比過往的AI模型有著更強大的安全控制機制。
其后在談到Al的潛在風險時,奧特曼提出,還是需要保持謹慎,整個社會應在短期內抓緊弄清楚如何應對AI帶來的變化,要在代價還不會很大的時候試錯。他說,現在他特別擔心那些模型可能會被用于虛假信息宣傳——現在它們寫代碼越來越熟練,很可能被用來開展網絡攻擊。他提議全球主要國家應該一起制定一份文件,來規范關于Al的應用哪些可為哪些不可為,對于危險的領域應該永不觸及。這樣就能讓語言模型開發者有個參照標準。
事實上,一家專注人工智能安全研究的非營利機構對齊研究中心(ARC),已于2021年在美國加州灣區成立。作為第三方評估者,ARC主要與領先的人工智能實驗室合作,評估他們研發的最先進的機器學習模型是否具備潛在的危險能力。從大的方面看,是否會偏離人類設定的目標自主行動,造成嚴重的后果,譬如操縱股票價格、設計合成DNA等。這都是通過具體的行動來介入新技術可能帶來的社會風險問題。不過,據估算,目前全世界全職從事人工智能安全研究的技術人員只有300名左右,且很難找到“科班出身”的技術人員。
而經濟合作與發展組織則在今年2月發布了《推進AI問責制:圍繞可信賴AI生命周期的治理和管理風險》報告,介紹了如何整合風險管理框架和AI系統生命周期,探索了有助于實施“基于價值觀的可信賴AI原則”的流程和技術屬性,確定了圍繞AI系統生命周期定義、評估、處理和管理風險的工具和機制。
該報告所涉AI系統的背景,包括其社會經濟、物理環境及其對人類和地球的潛在影響。確保AI問責制的一個步驟,是要把AI倫理原則和特定的過程和技術特征聯系起來。AI風險可以從兩個層面來評估,一個是基于價值觀的AI原則層面的風險,另一個是技術層面的風險。確保AI問責制需要將AI原則與特定的過程和技術屬性一一對應起來。
生成式AI如何看待當下人們的憂慮呢?它對關涉它的一個提問——“對于那些已經或即將被你取代工作的人,你有什么建議?”——作出了這樣的回答:
對于那些工作可能受到自動化影響的人,我的建議是專注于發展難以自動化的技能,例如人際交往能力、創造力、批判性思維和適應能力。此外,跟上技術進步的步伐并學習可以補充自動化的新技能也很有價值。重要的是要對新機會保持開放態度且愿意適應就業市場的變化,因為自動化也有可能創造新的就業機會。
看起來措辭講究、邏輯嚴密、無懈可擊,似乎還閃現了些許“人性的光輝”。不知讀者諸君意下如何?
標簽:
新聞排行
圖文播報
科普信息網 - 科普類網站
聯系郵箱:85 572 98@qq.com 備案號: 粵ICP備18023326號-39
版權所有:科普信息網 www.www44bkbkcom.cn copyright © 2018 - 2020
科普信息網版權所有 本站點信息未經允許不得復制或鏡像,違者將被追究法律責任!