輸入一段你想要的問(wèn)題，生成式人工智能就可以根據(jù)你的需求從海量的數(shù)據(jù)中檢索分析生成你想要的文字、圖像甚至視頻，在方便快捷的同時(shí)，其潛在的個(gè)人信息泄露風(fēng)險(xiǎn)也引發(fā)擔(dān)憂。
如何在生成式人工智能時(shí)代筑牢個(gè)人信息安全防線？在這兩天舉行的2025年中國(guó)網(wǎng)絡(luò)文明大會(huì)各分論壇上，與會(huì)嘉賓圍繞這一焦點(diǎn)議題展開(kāi)深入探討。
中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng) 俞能海：生成式人工智能技術(shù)，說(shuō)到底它是基于數(shù)據(jù)的?，F(xiàn)在的問(wèn)題是我們的數(shù)據(jù)本身，現(xiàn)在各種大模型它都是要有數(shù)據(jù)、語(yǔ)料進(jìn)來(lái)，這些語(yǔ)料從個(gè)人信息保護(hù)角度，哪些語(yǔ)料給、哪些語(yǔ)料不給，源頭數(shù)據(jù)怎么管控，尤其在個(gè)人信息保護(hù)中間起的作用非常大。
專家提示，在人工智能收集海量數(shù)據(jù)進(jìn)行訓(xùn)練的過(guò)程中，普通用戶有時(shí)難以理解數(shù)據(jù)收集的合規(guī)邊界，以及系統(tǒng)配置策略，盲目向生成式人工智能平臺(tái)輸入敏感隱私信息，一旦敏感數(shù)據(jù)被用于所謂“改善服務(wù)”“優(yōu)化模型”，甚至用于訓(xùn)練，其上傳存儲(chǔ)、后續(xù)使用場(chǎng)景、二次傳播都可能存在隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。
國(guó)家信息技術(shù)安全研究中心技術(shù)研究部部長(zhǎng) 楊韜：大家在和生成式人工智能交互的時(shí)候，往往會(huì)一問(wèn)一答，在這種問(wèn)答的過(guò)程中盡量避免輸入個(gè)人信息，甚至敏感個(gè)人信息以及相關(guān)工作秘密信息，這個(gè)是需要大家注意的。
與此同時(shí)，基于強(qiáng)大的數(shù)據(jù)搜集和邏輯能力，人工智能可以綜合公開(kāi)數(shù)據(jù)、個(gè)人數(shù)據(jù)，結(jié)合行為分析挖掘出更深層的數(shù)據(jù)。
中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng) 俞能海：信息化給我們帶來(lái)非常好的一面，但確確實(shí)實(shí)也給我們留下了新的問(wèn)題。你只要用了系統(tǒng)，一定會(huì)留痕，自己很多的信息，可能是敏感信息，你自己認(rèn)為已經(jīng)把它去掉了，但是通過(guò)整合、信息關(guān)聯(lián)，可能在輸出的點(diǎn)，它會(huì)就被泄露出來(lái)。
