AI隱私泄露危機四伏！如何確保數據安全？《人工智能隱私保護白皮書(shū)》

最近幾年，有關(guān)隱私受到侵犯的案件一再發(fā)生。例如，Facebook 未經(jīng)用戶(hù)允許將用戶(hù)個(gè)人信息泄露給劍橋分析公司用于非正當目的， 同時(shí)其利用網(wǎng)民的瀏覽行為來(lái)精準的投放廣告，劍橋大學(xué)心理測量學(xué) 中心從用戶(hù)對哪些帖子和新聞進(jìn)行閱讀和點(diǎn)贊，來(lái)分析出每個(gè)人的性 別、性取向、個(gè)性外向還是內向等，美食外賣(mài)企業(yè)“餓了么”、“大 眾點(diǎn)評”、“美團”會(huì )利用算法推送一些推薦食物和餐館幫用戶(hù)做出 飲食決定，自動(dòng)駕駛技術(shù)讓人們可以輕松的出行，高德地圖、百度地 圖等智能導航系統減少了人們尋找路線(xiàn)的時(shí)間和精力，ChatGPT 和其 他生成式人工智能工具可以提高用戶(hù)交互體驗、提高員工的創(chuàng )作和辦 公效率，但這些信息都以數據的形式存儲了下來(lái)，并被企業(yè)或其他主 體收集和利用，一些智能手機應用甚至過(guò)度的收集并違規使用個(gè)人信 息，使得個(gè)人隱私信息面臨被泄露或被竊取的風(fēng)險。

可以看到人工智能的普及與濫用使其面臨越來(lái)越多的隱私與安全威脅，社會(huì )各界也逐漸加大了對隱私風(fēng)險的分析和隱私保護的關(guān)注 度。從隱私保護角度，數據隱私性、模型保密性、模型完整可用性是 用戶(hù)和服務(wù)提供商最為關(guān)心的問(wèn)題。因此，本章將先從數據、模型這 兩個(gè)不同的方面來(lái)揭示人工智能面臨的通用隱私威脅。同時(shí)，由于生 成式人工智能（Generative Artificial Intelligence，簡(jiǎn)稱(chēng)生成式 AI）技術(shù)的快速發(fā)展和應用給人們帶來(lái)了巨大的想象空間，但也增加 了新的 AI 隱私風(fēng)險，本章還將對生成式人工智能隱私風(fēng)險進(jìn)行揭示。

為了更好的推動(dòng)新一代人工智能安全發(fā)展，讓人工智能用的放心， 各國政府和企業(yè)越來(lái)越重視人工智能隱私保護。人工智能隱私保護指 的是在數據采集存儲和數據使用共享，模型訓練以及模型推理應用的 全生命周期過(guò)程中有效的保護用戶(hù)數據隱私不泄漏，不被未授權第三 方獲取或推理。因此，在人工智能處理大量個(gè)人數據和敏感信息的過(guò) 程中，如何加強數據隱私管控；在人工智能訓練過(guò)程中，如何保證數 據質(zhì)量，避免原始數據隱私泄露；在人工智能推理應用過(guò)程中，如何 防御攻擊引起的數據隱私推理，如何保護模型保密性與完整性日漸成 為國際人工智能的重要議題。

本白皮書(shū)從人工智能隱私保護的內涵出發(fā)，從人工智能全生命周期系統梳理人工智能通用隱私風(fēng)險和生成式人工智能隱私風(fēng)險。在此 基礎上，總結了國內外人工智能隱私保護法規政策標準化現狀。然后 分析了人工智能隱私保護技術(shù)和平臺，包括管控技術(shù)、數據加密技術(shù)、 攻擊防御技術(shù)、隱私保護機器學(xué)習平臺和人工智能安全檢測平臺等。 最后以技術(shù)發(fā)展和隱私保護并重為原則，研究提出了多維度、負責任 的人工智能隱私保護實(shí)施建議，讓下一代人工智能用的放心。

本白皮書(shū)由中國聯(lián)通研究院主筆，中國聯(lián)通集團網(wǎng)絡(luò )與信息安全 部、中國軟件評測中心（工業(yè)和信息化部軟件與集成電路促進(jìn)中心）、 數據安全關(guān)鍵技術(shù)與產(chǎn)業(yè)應用評價(jià)工業(yè)和信息化部重點(diǎn)實(shí)驗室、中國 計算機行業(yè)協(xié)會(huì )數據安全專(zhuān)業(yè)委員會(huì )、三六零數字安全科技集團有限 公司、中興通訊股份有限公司聯(lián)合編寫(xiě)

附件：AI隱私泄露危機四伏！如何確保數據安全？《人工智能隱私保護白皮書(shū)》