GPT-5引發AI安全風險擔憂 馬斯克挑頭請愿叫停 周鴻祎唱反調是因“輸不起”？

《科創板日報》3月30日訊（記者 黃心怡）周鴻祎今日發布微博，對馬斯克等千人請愿叫停GPT-5研發一事發表看法。

(相關資料圖)

周鴻祎稱，馬斯克等人的請愿不影響中國發展自己的大語言模型，包括360在內的一些中國公司已經展示了自己的作品，離GPT-4的水平還有兩年差距。現在擔心風險為時尚早。

在ChatGPT掀起全球熱潮的同時，對于AI倫理和安全風險的擔憂一直存在。

商湯科技智能產業研究院院長田豐指出，AIGC熱潮之下的治理挑戰已引發各方“冷思考”。由于擔心作弊、對學生學習的負面影響以及內容的準確性，紐約市教育部在其網絡設備上禁止訪問。

除教學方面，田豐提到，AIGC還引發了版權保護的討論，以及加大網絡空間內容治理挑戰和網絡安全風險。不法分子可能利用其生成與真實照片完全相同的假照片、虛假信息、詐騙話術，以及惡意代碼帶來了便利。

東華軟件住云科技CPO、數字化轉型專家楊曉光表示，“ChatGPT等人工智能模型給出的結果是依賴大量數據集，那么數據集生產可以被人或機構操縱，ChatGPT等完全有可能由于依賴于大量的且有偏見的數據集，給用戶輸出不準確有偏見甚至危險的問題答案。隨著人工智能繼續變得更加先進和廣泛使用，這種風險必將不斷增加。”

對于人類如何應對AI帶來的未來安全挑戰，周鴻祎稱，誰也沒法給出確定答案。

“我曾經想過是不是在程序里加一句暗語，比如‘天王蓋地虎，寶塔鎮河妖’，一提這句話，AI就能停止工作。然而現在的發展態勢，已經不是一句暗語或者拔掉電源就能控制的了。人工智能的進化已經不以個人意志為轉移了，哪怕是馬斯克。”

但即便存在未知的挑戰，周鴻祎依然堅定認為，“不發展才是最大的不安全。”

楊曉光也對《科創板日報》記者表示，此番請愿舉動對人工智能的發展不會產生大的影響。

“這些暫停努力都是徒勞的，就像軍備競賽，誰也不敢收手，否則就會前功盡棄，而這個風險更大。”

有業內分析指出，“矛”和“盾”相輔相成，反生成式AI技術有望伴隨ChatGPT等應用實現爆發。

安信證券認為，隨著深度合成和生成式AI技術的開放開源、深度合成和生成產品和服務的增多，此類內容制作的技術門檻越來越低，實現了技術的“平民化”。一旦深度合成和生成式AI技術一旦被濫用，將會造成安全風險與實質性危害，給個人、企業造成肖像、名譽等人格和財產權益損害。因此，反生成式AI的技術需求有望迎來爆發。

中信證券表示，以ChatGPT為代表的現象級爆品意味著新一輪人工智能技術將快速進入產業化，未來產業模式將是大模型疊加各種垂類和場景模型，而AI技術的持續發展也推動著與安全更多的碰撞及融合，AI賦能網絡安全和AI自身安全都值得考慮。

楊曉光指出，ChatGPT等應用會帶來技術上的挑戰，也將產生新的機會。

“安全問題無論對于國家和個人來說都是極為重要，我們要居安思危，提高警惕、防患于未然。這將是未來數字安全領域的一個重要課題。”

有業內人士向《科創板日報》記者表示，周鴻祎跟馬斯克唱反調也有在這場AI進化與競賽中“輸不起”的原因。“既然GPT是超越互聯網和iPhone的發明，包括360在互聯網公司與科技巨頭誰敢怠慢呢？！”

標簽：