大模型將重塑人工智能產業 發展與治理同步推進

  新華網北京7月3日電（記者 孫云龍）人工智能已經成為新一輪科技革命和產業變革的重要驅動力。以預訓練大模型引領的人工智能創新浪潮呼嘯而來。“大模型將重塑人工智能產業鏈競爭格局。”國家工業信息安全發展研究中心人工智能所副所長劉永東表示，“大模型正處于快速發展的窗口期，同時也暴露出諸多安全隱患，引發熱議和擔憂，還需不斷完善針對性的監管政策，做到發展與治理‘同謀劃、同布局’。”


  7月2日，以“智能涌現，重塑未來”為主題的2023全球數字經濟大會人工智能高峰論壇在京舉辦。劉永東在論壇間隙接受記者采訪時如此表述。

  類ChatGPT產品正不斷涌現，標志著大模型時代正在來臨。北京市經濟和信息化局黨組書記、局長姜廣智在當日論壇致辭中表示，人工智能產業風頭正勁，迄今已有八十余個大模型公開發布，其中北京約占一半。大模型產品數量眾多，百度、騰訊、華為、阿里、商湯、科大訊飛、360等企業和清華大學、智源研究院、浦江實驗室等高校和科研機構相繼推出了大模型產品或解決方案。360集團創始人周鴻祎在論壇上表示，大模型在城市、行業、企業數字化轉型到智能化的過程中大有可為，進化迭代剛剛開始，相信未來會成為數字化系統的標配。未來可能不是“百模大戰”，而是“萬模群舞”。

  劉永東認為，以ChatGPT為代表的生成式人工智能將推動跨時代的范式變革。它提供了人工智能商業化落地新范式，可以為各個領域帶來巨大的生產力提升，引發行業重要升級，提振了產業信心。多模態預訓練大模型將成為人工智能基礎設施。“多模態大模型將成為具有泛化能力的模型底座、不同領域的共性平臺技術，成為邁向通用人工智能的重要探索，也是解決人工智能應用落地所面臨的需求碎片化、多樣化等問題的有效解決方式。”

  劉永東強調，大模型將重塑人工智能產業鏈競爭格局。一是開發范式變革，逐漸形成圍繞大模型結合特定領域模型微調的方式，打造垂直應用模型，科技巨頭圍繞大模型的生態競爭加劇。二是擠占技術層企業生存空間。生成式大模型的出現嚴重沖擊了以人工智能單一算法開發為主的初創企業，如圖像識別、語音識別等。

  “與此同時，我們也應關注到大模型帶來的挑戰。”劉永東表示，一是訓練大模型所需的算力資源被科技巨頭掌控，在新一輪競爭中筑起較高的行業壁壘。二是訓練大模型所需的高質量數據集匱乏，大模型所需的數據資源掌握在傳統行業巨頭和行業協會手中，需統籌行業力量加大開源數據集的建設力度。三是人工智能安全治理面臨的挑戰加劇，需不斷完善有針對性的監管政策，做到發展與治理“同謀劃、同布局”。

  劉永東介紹，大模型具有算法不透明、數據強依賴、易被濫用等人工智能固有的風險，與其平臺性、易使用、超能力等特點相互交織，風險快速傳遞并極速放大。敏感數據泄露、虛假信息生成、漏洞攻擊加劇等安全風險頻現，給人工智能治理帶來新挑戰，引發熱議和擔憂，多個國家和地區已經著手研究和探索應對舉措。

  “如何對具有生成式特征的大模型進行監管，以確保其發展符合公共利益，已成為全球人工智能治理的新課題。”劉永東稱。當日論壇上，清華大學計算機系長聘教授、人工智能研究院副院長朱軍介紹，大模型在安全方面的問題表現為數據泄露、算法偏見、虛假信息等多個方面，需要有相應的防范措施。周鴻祎也認為，大模型產業化方案需要遵循安全、可信、可控的原則。

  劉永東表示，國家工業信息安全發展研究中心正聯合有關單位共同發起人工智能可信安全護航計劃，探索人工智能安全可信管理解決方案，護航大模型健康良性發展。該中心建議要明確各方責任，加強安全技術，推動行業自律，強化宣傳引導，堅持“以人為本”的初心，積極參與全球監管規則建立。