針對深度偽造技術(shù) 發(fā)展主動(dòng)防御技術(shù)
如何在保護(hù)數(shù)據(jù)安全和推動(dòng)人工智能發(fā)展中尋找新的平衡點(diǎn)，實(shí)現(xiàn)更廣泛的公共利益？與會(huì)嘉賓認(rèn)為，需要從技術(shù)管控和相關(guān)法律法規(guī)完善落實(shí)中，進(jìn)一步筑牢人工智能時(shí)代的數(shù)據(jù)安全防線。
在2025年中國網(wǎng)絡(luò)文明大會(huì)個(gè)人信息保護(hù)分論壇上，來自中國科技大學(xué)的研發(fā)團(tuán)隊(duì)介紹了針對當(dāng)前人工智能深度偽造的主動(dòng)防御技術(shù)，如通過對待保護(hù)的人臉圖片添加特定的擾動(dòng)噪聲，讓篡改偽造圖片從而生成虛假圖片或視頻的模型失效。
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長 俞能海：我現(xiàn)在有一種手段，我讓人看沒有問題，但加上一個(gè)不可見的因子，可以理解為“噪聲”，到這個(gè)圖像里去，人看不出來，但是機(jī)器可以看出來。如果說把這樣的一些照片作為源頭進(jìn)去，別人拿去做實(shí)驗(yàn)，想合成一個(gè)新的數(shù)據(jù)，新的一個(gè)為他所用的影像，那就不可能實(shí)現(xiàn)，或者你實(shí)現(xiàn)了我就知道你是假的。
數(shù)據(jù)安全和隱私保護(hù)技術(shù)迭代更新也進(jìn)一步促進(jìn)個(gè)人信息保護(hù)相關(guān)制度法規(guī)的落地見效，與會(huì)嘉賓表示，目前我國已出臺(tái)《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法》《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》《生成式人工智能服務(wù)管理暫行辦法》等重要法律法規(guī)保障數(shù)據(jù)安全，并著重壓實(shí)了信息處理相關(guān)企業(yè)承擔(dān)保障數(shù)據(jù)安全的社會(huì)責(zé)任，如強(qiáng)調(diào)相關(guān)企業(yè)收集個(gè)人信息需遵循“最小必要”“告知同意”“合法正當(dāng)”等原則。
國家信息技術(shù)安全研究中心技術(shù)研究部部長 楊韜：我舉個(gè)例子，個(gè)人信息處理者需要去仔細(xì)研判，比如說我某些字段不采集，我的這項(xiàng)業(yè)務(wù)是否就真的進(jìn)行不下去了，同時(shí)對于已經(jīng)采集或者是準(zhǔn)備采集的一些信息，應(yīng)該是需要去考慮有沒有替代的方案，既能夠完成業(yè)務(wù)要求，也能夠充分減輕降低或者規(guī)避可能存在的違法違規(guī)收集使用個(gè)人信息的安全風(fēng)險(xiǎn)。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師 吳沈括：在面對新技術(shù)新應(yīng)用的演進(jìn)過程當(dāng)中，特別是面對人工智能等一系列新的技術(shù)樣態(tài)和技術(shù)應(yīng)用的時(shí)候，我們國家的規(guī)則的演進(jìn)應(yīng)當(dāng)說速度其實(shí)非?？斓?。涉及到人工智能語境下的個(gè)人信息處理的透明，又比如說關(guān)于各項(xiàng)業(yè)務(wù)的可溯源可審計(jì)的問題，我們還需要進(jìn)一步地去迭代，去更新法律法規(guī)，使得規(guī)則要求，價(jià)值的保障和實(shí)際的技術(shù)應(yīng)用之間能夠保持一個(gè)同步的進(jìn)展。
