互聯網信息服務算法備案與生成式人工智能服務

　　互聯網信息服務算法備案，是本文核心內容。今天我們看下近期公布的《生成式人工智能服務管理辦法(征求意見稿)》下面簡稱《辦法》，關于算法的相關要求。等辦法正式出臺的時候，相關企業也要參與到互聯網信息服務算法備案。具體細節可以看看下文的介紹。

　　《生成式人工智能服務管理辦法(征求意見稿)》觀點摘要

　　01《辦法》雖然還是征求意見階段，但是預計未來正式出臺后，將進一步防范生成式人工智能產品存在的相關風險，促進生成式人工智能技術健康發展和規范應用，保障國家和社會的安全秩序、企業和個人的合法權益。

　　02生成式人工智能不局限于算法技術，但其中涉及算法的部分與深度合成技術較為類似，均屬于算法推薦技術范疇內。

　　03在適用范圍上，只要是向中國境內公眾提供生成式人工智能產品服務，無論該產品是否在中國境內研發和使用，都需要符合《辦法》的相關要求。

　　04基于生成式人工智能產品的復雜性，其合規要求也更多元。《辦法》從算法設計、內容合規、數據來源合法性審查、用戶信息留存及畫像建立、訓練數據治理、算法備案、知識產權合規、商業秘密保護、虛假信息防范、人格權保護等方面，對生成式人工智能產品提出了全方位的合規要求。

　　05值得特別關注的三個重點：第一，《辦法》第六條要求的生成式人工智能產品上線前的安全評估;第二，《辦法》第十一條提出的用戶輸入信息的保護要求(即“三個不得”);第三，《辦法》第十五條規定的出現生成內容違規時優化模型的期限要求(即“3個月”期限)。為此，利用生成式人工智能產品提供服務的組織和個人，應當加強生成式人工智能產品治理體系的科學性、合法性、完整性、及時性以及敏感性，不斷提升技術治理標準、法律治理標準，以滿足《辦法》規定的全面細致合規要求。

　　六問六答

　　問題一：《辦法》適用于哪些主體?問題二：生成式人工智能的定義及其與深度合成技術、算法推薦技術有什么關系?問題三：利用生成式人工智能產品向公眾提供服務前需履行哪些義務?問題四：如何理解生成式人工智能產品數據來源的合法性要求?問題五：生成式人工智能產品如何進行信息留存、共享和用戶畫像?

　　問題六：如何切斷用戶輸入內容傳導的法律風險?

　　一、出臺背景

　　根據《通知》，制定《辦法》是為了促進生成式人工智能健康發展和規范其應用。目前，ChatGPT已風靡全球，我國互聯網行業的頭部企業也競相發布類似的生成式人工智能產品，并開展內測或公測。公眾紛紛體驗，各行各業亦拉開了使用生成式人工智能產品作為生產力工具的帷幕。在給社會帶來科技便利的同時，亦需注意到，生成式人工智能產品可能帶來社會輿論、價值觀、道德負面引導的社會風險、技術倫理風險、企業商業秘密和個人信息泄露風險、虛假信息風險、知識產權侵權風險及其他潛在的風險。例如，ChatGPT已出現用戶輸入信息和支付信息泄露的情況，意大利亦明確表示禁用ChatGPT，一些企業、高校也要求相關人員不允許使用ChatGPT。《辦法》未來正式出臺后，將進一步防范生成式人工智能產品存在的相關風險，保障國家和社會的安全秩序、企業和個人的合法權益。

　　二、《辦法》六問六答

　　問題一：《辦法》適用于哪些主體?

　　《辦法》第二條規定“研發、利用生成式人工智能產品，面向中華人民共和國境內公眾提供服務的，適用本辦法”。據此，我們認為，只要是向中國境內公眾提供生成式人工智能產品服務，無論該產品是否在中國境內研發和使用，都需要符合《辦法》的相關要求。

　　在實踐中，判斷某主體是否受《辦法》約束，需結合具體的商業模式進行判斷。根據我們的實踐經驗，通常情況下，生成式人工智能產品的商業模式可能有三種，即自研自用、利用他人研發的生成式人工智能產品提供服務、利用自研生成式人工智能產品為他人提供技術支持。對應場景的適用主體初步分析如下：

　　1. 第一種：自研自用。例如，A公司自行研發生成式人工智能產品，并向中國境內公眾提供服務，則無論A公司是否為中國境內公司，均屬于《辦法》的適用范圍。

　　2. 第二種和第三種：利用他人研發的生成式人工智能產品提供服務或利用自研生成式人工智能產品為他人提供技術支持。例如，A公司作為生成式人工智能產品的研發者，為B公司提供技術支持(例如提供可編程接口)，B公司面向中國境內公眾提供服務，則無論B公司是否屬于中國境內公司，均屬于《辦法》的適用范圍;A公司作為技術支持者，雖然沒有直接向公眾提供服務，但是《辦法》第五條提到，通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等的主體需承擔該產品生成內容生產者的責任，可見技術支持者也應當屬于《辦法》規制的主體范圍，但目前技術支持者、生成內容生產者的具體責任仍有待進一步明確。

　　問題二：生成式人工智能的定義及其與深度合成技術、算法推薦技術有什么關系?

　　《辦法》第二條規定“生成式人工智能，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術”。

　　《互聯網信息服務深度合成管理規定》將“深度合成技術”定義為“利用深度、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術”。

　　《互聯網信息服務算法推薦管理規定》中規定“算法推薦技術是指利用生成合成類、個性化推薦類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息”。

　　從文字描述上看，生成式人工智能不局限于算法技術，但其中涉及算法的部分與深度合成技術較為類似，均屬于算法推薦技術范疇內。

　　問題三：利用生成式人工智能產品向公眾提供服務前需履行哪些義務?

　　1. 申請安全評估前的產品性質判斷。《辦法》第六條中規定，利用生成式人工智能產品向公眾提供服務前應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》(以下簡稱“《安全評估規定》”)的規定向國家網信部門申報安全評估。對此，我們認為，生成式人工智能產品無需特別去判定其是否“具輿論屬性或者社會動員能力的深度合成服務”，只需從性質上去判定該產品是否屬于生成式人工智能產品。

　　2. 前置算法備案義務。《互聯網信息服務算法推薦管理規定》規定算法推薦服務提供者應在提供服務之日起10日內履行算法備案等手續，但《辦法》則將算法備案作為生成式人工智能產品上線的前置條件，可見《辦法》對生成式人工智能產品的算法備案提出了更為嚴格的要求。

　　3. 其他相關資質要求。對于利用生成式人工智能產品提供相關互聯網信息服務的企業來說，結合具體商業模式和產品界面情況，可能還需要進行ICP備案、公安機關聯網備案，以及取得ICP許可、辦理等保備案及其他互聯網信息服務相關許可等手續。

　　問題四：如何理解生成式人工智能產品數據來源的合法性要求?

　　《辦法》第七條提出，提供者應確保預訓練數據、優化訓練數據符合數據安全、個人信息保護的相關要求，確保不含有侵犯知識產權的內容、確保數據的真實性、準確性、客觀性、多樣性。

　　實踐中存在的困難。第一，數據來源復雜、追溯難，數據的準確性很難100%保證。對于大多數提供生成式人工智能產品服務的企業來說，訓練數據可能來源于開源數據庫或通過第三方采購，理論上確實應當保證個人信息的安全性、不侵犯他人知識產權、確保訓練數據授權鏈條的合法合規性。但在實踐中，由于部分訓練數據的開源性及體量巨大，難以從源頭追溯，企業可能難以100%確保數據的真實性、準確性、客觀性。第二，利用涉及個人信息的數據訓練模型，取得個人信息主體同意也比較困難。對于利用涉及個人信息的訓練數據，如果要求提供者對此類數據的處理必需以獲得個人信息主體同意為合法性基礎，由于涉及到的個人信息范圍較廣、難以觸達每一位個人信息主體，在落地上可能存在較大困難。

　　為了平衡安全性高、效率高和規模巨大的關系，我們建議，一方面相關企業可盡可能在使用訓練數據前，通過審查知識產權相關協議、要求第三方提供數據合法性來源證明等方式盡到合理的注意義務，并通過設置過濾機制、數據安全及個人信息保護制度等方式建立事前、事中、事后的防控措施;另一方面，我國司法判例和行政處罰案例也應把握好自由裁量的度，實現政治效果、社會效果和法律效果的統一。

　　問題五：生成式人工智能產品如何進行信息留存、共享和用戶畫像?

　　《辦法》第十一條指出，提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規另有規定的，從其規定。

　　我們理解，該條仍為生成式人工智能產品合法留存相關信息保留了空間。提供者在進行生成式人工智能產品迭代、優化訓練過程中，產品歷史服務過程信息是重要的訓練數據源。但“能夠推斷出用戶身份的輸入信息”可能涉及到個人信息的處理，提供者在取得用戶同意或具有其他合法性基礎時，仍可以進行留存并根據規定進行生成式人工智能產品訓練等使用。此外，提供者基于履行法定義務亦需留存用戶輸入信息，例如，輸入信息可能屬于日志信息的一部分，提供者需根據《互聯網信息服務深度合成管理規定》第十六條的要求進行留存。

　　對于共享用戶輸入信息和建立用戶畫像，《辦法》均采用了“不得”的限制性字眼，在該條款語境下，結合“法律法規另有規定”的立法技術，我們理解，除非法律法規明確允許外，否則提供者可能難以基于用戶同意進行共享用戶輸入信息、建立用戶畫像。

　　問題六：如何切斷用戶輸入內容傳導的法律風險?

　　《辦法》第五條明確，利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的提供者，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任。這是否意味著用戶通過輸入信息(prompt)引導生成式人工智能產品生成違規/侵權內容時，企業作為提供者需要承擔相應的法律責任?雖然實踐中提供者對此承擔責任難以實現，但結合此前的法院相關判例，對于人工智能類的產品和服務，通常會苛以較高的注意義務[1]，可能難以使用“技術中立”作為抗辯理由。

　　綜上所述，關于互聯網信息服務算法備案與生成式人工智能服務的文章，如果您需要辦理互聯網信息服務算法備案或者想更多咨詢問題，請聯系大通天成在線客服。也可以撥打我們的電話13391522356。