【科學(xué)的溫度】聶再清:AI時(shí)代,把更多決策權(quán)還給個(gè)人數(shù)據(jù)主權(quán)方
中新網(wǎng)12月21日電 (記者 孟湘君)掃地機(jī)器人、升降桌攜帶攝像頭,家中被“偷拍”防不勝防?手機(jī)、電腦APP,日復(fù)一日“偷聽”你說話?動(dòng)不動(dòng)就收到房產(chǎn)中介、早教、健身機(jī)構(gòu)的“騷擾信息”?個(gè)人就醫(yī)健康數(shù)據(jù)接入互聯(lián)網(wǎng),究竟誰有權(quán)查看?
Web3.0時(shí)代正在到來,人工智能應(yīng)用越來越廣泛,個(gè)人隱私數(shù)據(jù)和信息泄漏問題隨之而來。隱私被泄漏,該找誰?如何做好數(shù)據(jù)保護(hù)和管理?人工智能被惡意使用,責(zé)任歸屬如何劃定?
就這些問題,中新網(wǎng)記者邀請(qǐng)清華大學(xué)國(guó)強(qiáng)教授、智能產(chǎn)業(yè)研究院(AIR)首席研究員聶再清,展開深入解讀。
“個(gè)人隱私信息,遵循最小范圍收集原則”
網(wǎng)上流傳著一種說法,即手機(jī)、電腦里一些APP可能在“偷聽、偷看”持有者說話,通過用戶搜索的常用關(guān)鍵詞及通話錄音高頻詞,來分析用戶喜好并進(jìn)行商品和服務(wù)推薦,聶再清表示,有這種說法,但要具體情況具體分析。
他指出,其實(shí)從數(shù)據(jù)輸入開始,到瀏覽器或其他軟件,再到真正的系統(tǒng)里,要經(jīng)過各種程序。正規(guī)來講,所有軟件都應(yīng)遵守用戶隱私協(xié)議和國(guó)家相關(guān)法律法規(guī),都要與用戶簽隱私協(xié)議。傳輸過程中軟件是不是在“偷聽”,到底哪個(gè)軟件在“偷聽”,要具體分析。在一個(gè)軟件當(dāng)中,利用好用戶的某些個(gè)人信息,也可能能為用戶帶來價(jià)值。
聶再清舉例稱,比如音樂軟件記住用戶所聽歌曲,通過數(shù)據(jù)收集知曉用戶是誰的粉絲,就能按喜好薦歌。前提是,軟件應(yīng)與用戶簽好隱私協(xié)議,告訴用戶在使用過程中會(huì)收集其所聽歌曲的名字、聽歌時(shí)長(zhǎng)等,這類功能需要用戶授權(quán),獲得用戶同意才能使用。用戶應(yīng)該也有權(quán)不允許啟用這類個(gè)性化推薦功能。
最近,市場(chǎng)上流行的一些智能家具、家電,比如掃地機(jī)器人、升降桌等攜帶攝像頭、麥克風(fēng)等,也引發(fā)“偷取”個(gè)人隱私的質(zhì)疑。一些消費(fèi)者認(rèn)為商家未充分明示,導(dǎo)致自己在家中被拍攝和錄音,從“不設(shè)防”變成了“防不勝防”。
對(duì)此,聶再清表示對(duì)消費(fèi)者的理解。他同時(shí)指出,對(duì)一些智能家電來說,沒有攝像頭、麥克風(fēng)就無法收集用戶語音指令和現(xiàn)場(chǎng)狀況,但同時(shí),應(yīng)當(dāng)對(duì)市場(chǎng)上的商品進(jìn)行更好地監(jiān)管,他指出幾個(gè)判斷標(biāo)準(zhǔn):
首先,商家是否明確告知用戶,何時(shí)收集數(shù)據(jù)、如何使用數(shù)據(jù),是不是超出了實(shí)際使用和收集范圍?
第二,數(shù)據(jù)收集完后,商家會(huì)否拿來做別的用途?商家在整個(gè)過程中,一定要遵循國(guó)家法律法規(guī)和用戶隱私協(xié)議。
第三,軟件運(yùn)營(yíng)人員、機(jī)構(gòu)負(fù)責(zé)人,應(yīng)當(dāng)是第一把關(guān)人,要保證軟件不做多余動(dòng)作,否則就等于是違反協(xié)議甚至違法,一定有相關(guān)法律法規(guī)來監(jiān)管。
聶再清同時(shí)指出,商品、軟件設(shè)計(jì)者還應(yīng)遵循最小范圍收集個(gè)人隱私信息的原則,絕不要收集和產(chǎn)品用戶價(jià)值無關(guān)的信息。
“將更多決策權(quán)還給個(gè)人數(shù)據(jù)主權(quán)方”
聶再清表示,隨著全球逐步邁入Web3.0時(shí)代,數(shù)據(jù)已成為機(jī)構(gòu)或個(gè)人的核心私有資產(chǎn)。這就需要數(shù)據(jù)擁有方在政府允許范圍內(nèi)管理和利用好數(shù)據(jù)資產(chǎn),從而在日常生活中,讓數(shù)據(jù)資產(chǎn)發(fā)揮應(yīng)有價(jià)值。
他指出,Web3.0時(shí)代和Web2.0時(shí)代的最大區(qū)別,就是Web2.0時(shí)代,更多地還是把數(shù)據(jù)擁有權(quán)以及其他權(quán)利交給平臺(tái),但在Web3.0時(shí)代,希望能把決策權(quán)等很多權(quán)利還給數(shù)據(jù)主權(quán)方。這個(gè)數(shù)據(jù)主權(quán)方,可以指?jìng)€(gè)人、機(jī)構(gòu),也可以指政府部門。對(duì)于個(gè)人而言數(shù)據(jù)主權(quán)是指人們對(duì)自身行為產(chǎn)生的數(shù)據(jù)擁有使用權(quán)和所有權(quán),對(duì)于國(guó)家而言呢,數(shù)據(jù)主權(quán)是指存在于本國(guó)的數(shù)據(jù)要受到本國(guó)法律的約束。
“我認(rèn)為這個(gè)方向特別好”,聶再清希望,未來在政府指定范圍內(nèi),個(gè)人數(shù)據(jù)主權(quán)方能逐漸擁有越來越多的決策權(quán)。
他以個(gè)人的就醫(yī)、健康數(shù)據(jù)舉例稱,可以嘗試在政府引導(dǎo)下,由相關(guān)機(jī)構(gòu)和有參與意愿的個(gè)人,嘗試共同建設(shè)健康數(shù)據(jù)聯(lián)盟鏈?zhǔn)痉秴^(qū)。檢查、診斷、病史、鍛煉康復(fù)、體檢等各種個(gè)人健康數(shù)據(jù),都放在數(shù)據(jù)聯(lián)盟鏈上,個(gè)人持有密鑰。如想讓他人查看自己的健康數(shù)據(jù),就用密鑰授權(quán)。
聶再清進(jìn)一步指出,是否允許他人查看個(gè)人健康數(shù)據(jù)、是否可有償或無償將自己的數(shù)據(jù)提供給藥廠以做制藥研究等,都基于個(gè)人決策。機(jī)構(gòu)也是一樣,某個(gè)機(jī)構(gòu)如有需要,可在數(shù)據(jù)聯(lián)盟鏈上進(jìn)行交易,所有數(shù)據(jù)交易都應(yīng)可見且不可篡改,符合法律法規(guī)。
“將責(zé)任壓實(shí)到技術(shù)產(chǎn)品研發(fā)人身上”
圍繞人工智能在應(yīng)用中的風(fēng)險(xiǎn)管控問題,近日,在2022人工智能合作與治理國(guó)際論壇上,中國(guó)工程院院士高文提出一個(gè)值得探討的觀點(diǎn)。他認(rèn)為,如果沒有辦法阻止人工智能的惡意使用,用人工智能犯罪,只是時(shí)間早晚問題。
對(duì)于這一觀點(diǎn),聶再清表示“完全同意”。他指出,工具本身沒有好壞,人工智能跟別的工具沒有太大不同。只要是工具性質(zhì)的發(fā)明創(chuàng)新,都會(huì)有被惡用問題,跟背后的人如何應(yīng)用工具有關(guān)。
因此,他強(qiáng)調(diào),為避免人工智能被惡用,應(yīng)該將責(zé)任壓實(shí)到技術(shù)、產(chǎn)品研發(fā)背后的人身上,讓他們對(duì)后果負(fù)責(zé)。對(duì)于技術(shù)創(chuàng)新和產(chǎn)品研發(fā)人員,要有一套越來越完善的管理制度,讓他們失去犯罪的可能性。
同時(shí),聶再清指出,我們要鼓勵(lì)有可能帶來重大生活方式改變的顛覆式AI技術(shù)(或產(chǎn)品)創(chuàng)新,但同時(shí)需要一套完善的AI技術(shù)、產(chǎn)品的管理制度。對(duì)于可能有安全隱患的人工智能技術(shù)創(chuàng)新和新產(chǎn)品,從原型研發(fā)到灰度內(nèi)測(cè),再到大規(guī)模使用,“就像新藥上市前要做臨床實(shí)驗(yàn)一樣”,要證明AI創(chuàng)新產(chǎn)品和技術(shù)的安全性,然后才能大規(guī)模使用它。
使用過程中,也要不斷對(duì)效果和影響進(jìn)行數(shù)字化監(jiān)測(cè),他進(jìn)一步指出,比如現(xiàn)在互聯(lián)網(wǎng)公司做產(chǎn)品,都有大量數(shù)字化監(jiān)測(cè),每時(shí)每刻都有反饋。一旦發(fā)現(xiàn)某一功能對(duì)人產(chǎn)生了安全隱患,需要能及時(shí)讓人參與控制,讓系統(tǒng)回滾。
“總體上,我對(duì)人工智能的發(fā)展前景及應(yīng)用表示樂觀”,聶再清說。他認(rèn)為,作為人類的助手和工具,人工智能的應(yīng)用總體上要符合人類科技向善的主流價(jià)值觀??萍荚诎l(fā)展過程中不斷突破瓶頸,最終都是為了提升人們的生活質(zhì)量。(完)
相關(guān)新聞
經(jīng)濟(jì)新聞精選:
- 2024年12月23日 16:37:37
- 2024年12月23日 16:34:03
- 2024年12月23日 16:30:08
- 2024年12月23日 15:50:18
- 2024年12月23日 14:33:45
- 2024年12月23日 14:19:12
- 2024年12月23日 14:13:12
- 2024年12月23日 10:04:20
- 2024年12月18日 15:20:42
- 2024年12月18日 10:03:30