在線客服
企業微信
什么是生成式人工智能？為何要規范？專家解讀→
自動駕駛、聊天機器人、電商直播甚至醫療保健，近年來人工智能在多領域的研究和應用給我們的生活和工作帶來了高效和便利。但是也有不法分子為了牟利，利用人工智能技術進行詐騙，比如利用AI換臉冒充熟人詐騙，或者制作發布假新聞混淆視聽、賺取流量等等。
昨天（13日），國家網信辦聯合國家發展改革委、教育部、科技部等7部門公布《生成式人工智能服務管理暫行辦法》，自2023年8月15日起施行。國家網信辦有關負責人表示，出臺《辦法》旨在促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
《辦法》從哪些方面規范生成式人工智能的發展和應用？又是如何針對當前存在的一些濫用人工智能技術亂象來對癥下藥？一起看↓
《管理暫行辦法》從多個方面“劃紅線”
《辦法》要求，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：
堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；
尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；
尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；
基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
何為生成式人工智能？
生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。
生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。
生成式人工智能服務使用者，是指使用生成式人工智能服務生成內容的組織、個人。
“AI換臉”詐騙 10分鐘被騙取430萬元
作為生成式人工智能的一種技術，近期，“AI換臉”的應用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪。
近日，內蒙古包頭警方發布一起利用AI實施電信詐騙的典型案例。來自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過微信視頻聯系他，稱自己的朋友在外地競標，需要430萬元保證金，想借用郭先生公司的賬戶走賬�；趯糜训男湃�，加上已經視頻聊天“確認”了身份，郭先生在10分鐘內，先后分兩筆把430萬元轉到了對方的銀行賬戶上。事后，郭先生才得知，原來是騙子通過AI換臉和擬聲技術實施的騙局。
利用人工智能技術造謠 一網民被依法查處
自2022年12月以來，一款名為ChatGPT的人工智能應用掀起來一股科技熱潮，它能夠通過學習和理解人類的語言來進行對話，根據用戶需求撰寫郵件、視頻腳本、文案、代碼等等，被視為具有可快速、批量生產訊息的生產力工具，然而卻有人打起了借此非法牟利的歪心思。
近期，根據公安部網安局總體部署，江蘇公安網安部門深入推進網絡謠言打擊整治專項行動，依法查處一名利用人工智能技術編造謠言網民。
今年4月10日，鹽城市公安局網安支隊接到上級通報稱，該市一網民發布“浙江溫州一名女大學生在晚歸途中遭持刀襲擊并強奸”的虛假信息。鹽城網安支隊立即會同屬地警方展開調查，查明造謠人員系鹽城阜寧縣網民朱某鋒，并對其依法傳喚。到案后，朱某峰對其造謠行為供認不諱。
阜寧縣公安局網絡安全保衛大隊民警邱侗：據其交代為了博取眼球、吸引流量，以獲取平臺給予的創作者獎金，他就利用了這款時下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發布此類謠言極易引發群眾恐慌，造成不良社會影響，從而構成違法犯罪。
網民 朱某鋒：我就跟機器人聊，讓它幫我寫一篇強奸案文章，內容要求逼真，字數1500字。然后它就自動生成了，內容的真實性我沒有考慮。
為顯真實，朱某峰還在網上找到一張白衣女性的圖片，附在文章中一同發布。目前，公安機關根據《中華人民共和國治安管理處罰法》第二十五條之規定，已對朱某峰行政罰款貳佰元，并責令其清理不實信息，關停相關自媒體賬號。
網民 朱某鋒：我認識到錯誤的嚴重性了，誠懇接受民警的處罰與批評教育，今后做守法網民，不造謠、不傳謠。
阜寧縣公安局網絡安全保衛大隊民警邱侗：在此提醒廣大網民，網絡并非法外之地，人工智能技術應用應嚴格遵守法律底線，在正當、合法的領域合理使用。
《辦法》針對典型亂象從三方面對癥下藥
針對生成式人工智能出現濫用甚至違法現象，《生成式人工智能服務管理暫行辦法》如何對癥下藥？
01:40 中國科學技術大學公共事務學院、網絡空間安全學院教授左曉棟表示：
一是針對技術本身。例如要求使用具有合法來源的數據和基礎模型，涉及個人信息的應當取得個人同意或者屬于不需要取得同意的情形。這便是針對生成式人工智能輸出結果容易受到輸入數據影響而制定的。
二是針對服務的提供過程。例如要求生成式人工智能服務提供者依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。提供者應當對使用者的輸入信息和使用記錄依法履行保護義務。提供者如果發現使用者從事違法活動，應當采取處置措施。
三是針對產業發展。為了防止被卡脖子，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新。為了防止無序發展，要求推動相關基礎設施和公共訓練數據資源平臺建設，促進算力資源協同共享，提升算力資源利用效能。
目前生成式人工智能應用中出現了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題，需要及時規制。但總體而言生成式人工智能仍處于發展的初期階段，風險沒有完全暴露，應用前景難以估量，所以應當采取包容審慎的態度，堅持發展和安全并重、促進創新和依法治理相結合，要采取有效措施鼓勵生成式人工智能創新發展。所以這次的管理辦法稱為“暫行辦法”，便是有這方面的考慮。文件針對已經出現的濫用、違法現象提出了管理措施，但對于生成式人工智能技術的未來發展留下了巨大的空間。
人工智能蓬勃發展 核心產業規模達五千億元
記者從相關部門了解到，我國人工智能產業蓬勃發展，核心產業規模達到5000億元，企業數量超過4300家，創新成果不斷涌現。未來，人工智能產業發展前景可觀，我們也期待，隨著《生成式人工智能服務管理暫行辦法》的實施，人工智能在各領域的發展和應用更加健康規范，從各方面、多層次地助力人們的工作和生活。
自動駕駛、聊天機器人、電商直播甚至醫療保健，近年來人工智能在多領域的研究和應用給我們的生活和工作帶來了高效和便利。但是也有不法分子為了牟利，利用人工智能技術進行詐騙，比如利用AI換臉冒充熟人詐騙，或者制作發布假新聞混淆視聽、賺取流量等等。
昨天（13日），國家網信辦聯合國家發展改革委、教育部、科技部等7部門公布《生成式人工智能服務管理暫行辦法》，自2023年8月15日起施行。國家網信辦有關負責人表示，出臺《辦法》旨在促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
《辦法》從哪些方面規范生成式人工智能的發展和應用？又是如何針對當前存在的一些濫用人工智能技術亂象來對癥下藥？一起看↓
《管理暫行辦法》從多個方面“劃紅線”
《辦法》要求，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：
堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；
尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；
尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；
基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
何為生成式人工智能？
生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。
生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。
生成式人工智能服務使用者，是指使用生成式人工智能服務生成內容的組織、個人。
“AI換臉”詐騙 10分鐘被騙取430萬元
作為生成式人工智能的一種技術，近期，“AI換臉”的應用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪。
近日，內蒙古包頭警方發布一起利用AI實施電信詐騙的典型案例。來自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過微信視頻聯系他，稱自己的朋友在外地競標，需要430萬元保證金，想借用郭先生公司的賬戶走賬�；趯糜训男湃�，加上已經視頻聊天“確認”了身份，郭先生在10分鐘內，先后分兩筆把430萬元轉到了對方的銀行賬戶上。事后，郭先生才得知，原來是騙子通過AI換臉和擬聲技術實施的騙局。
利用人工智能技術造謠 一網民被依法查處
自2022年12月以來，一款名為ChatGPT的人工智能應用掀起來一股科技熱潮，它能夠通過學習和理解人類的語言來進行對話，根據用戶需求撰寫郵件、視頻腳本、文案、代碼等等，被視為具有可快速、批量生產訊息的生產力工具，然而卻有人打起了借此非法牟利的歪心思。
近期，根據公安部網安局總體部署，江蘇公安網安部門深入推進網絡謠言打擊整治專項行動，依法查處一名利用人工智能技術編造謠言網民。
今年4月10日，鹽城市公安局網安支隊接到上級通報稱，該市一網民發布“浙江溫州一名女大學生在晚歸途中遭持刀襲擊并強奸”的虛假信息。鹽城網安支隊立即會同屬地警方展開調查，查明造謠人員系鹽城阜寧縣網民朱某鋒，并對其依法傳喚。到案后，朱某峰對其造謠行為供認不諱。
阜寧縣公安局網絡安全保衛大隊民警邱侗：據其交代為了博取眼球、吸引流量，以獲取平臺給予的創作者獎金，他就利用了這款時下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發布此類謠言極易引發群眾恐慌，造成不良社會影響，從而構成違法犯罪。
網民 朱某鋒：我就跟機器人聊，讓它幫我寫一篇強奸案文章，內容要求逼真，字數1500字。然后它就自動生成了，內容的真實性我沒有考慮。
為顯真實，朱某峰還在網上找到一張白衣女性的圖片，附在文章中一同發布。目前，公安機關根據《中華人民共和國治安管理處罰法》第二十五條之規定，已對朱某峰行政罰款貳佰元，并責令其清理不實信息，關停相關自媒體賬號。
網民 朱某鋒：我認識到錯誤的嚴重性了，誠懇接受民警的處罰與批評教育，今后做守法網民，不造謠、不傳謠。
阜寧縣公安局網絡安全保衛大隊民警邱侗：在此提醒廣大網民，網絡并非法外之地，人工智能技術應用應嚴格遵守法律底線，在正當、合法的領域合理使用。
《辦法》針對典型亂象從三方面對癥下藥
針對生成式人工智能出現濫用甚至違法現象，《生成式人工智能服務管理暫行辦法》如何對癥下藥？
01:40 中國科學技術大學公共事務學院、網絡空間安全學院教授左曉棟表示：
一是針對技術本身。例如要求使用具有合法來源的數據和基礎模型，涉及個人信息的應當取得個人同意或者屬于不需要取得同意的情形。這便是針對生成式人工智能輸出結果容易受到輸入數據影響而制定的。
二是針對服務的提供過程。例如要求生成式人工智能服務提供者依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。提供者應當對使用者的輸入信息和使用記錄依法履行保護義務。提供者如果發現使用者從事違法活動，應當采取處置措施。
三是針對產業發展。為了防止被卡脖子，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新。為了防止無序發展，要求推動相關基礎設施和公共訓練數據資源平臺建設，促進算力資源協同共享，提升算力資源利用效能。
目前生成式人工智能應用中出現了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題，需要及時規制。但總體而言生成式人工智能仍處于發展的初期階段，風險沒有完全暴露，應用前景難以估量，所以應當采取包容審慎的態度，堅持發展和安全并重、促進創新和依法治理相結合，要采取有效措施鼓勵生成式人工智能創新發展。所以這次的管理辦法稱為“暫行辦法”，便是有這方面的考慮。文件針對已經出現的濫用、違法現象提出了管理措施，但對于生成式人工智能技術的未來發展留下了巨大的空間。
人工智能蓬勃發展 核心產業規模達五千億元
記者從相關部門了解到，我國人工智能產業蓬勃發展，核心產業規模達到5000億元，企業數量超過4300家，創新成果不斷涌現。未來，人工智能產業發展前景可觀，我們也期待，隨著《生成式人工智能服務管理暫行辦法》的實施，人工智能在各領域的發展和應用更加健康規范，從各方面、多層次地助力人們的工作和生活。
