當今時(hour)代,大(big)數據、AI算法等方便了(Got it)我(I)們(them)的(of)生(born)活,提高了(Got it)生(born)産效率,但大(big)數據的(of)存在(exist)也意味着海量的(of)用(use)戶信息被用(use)來(Come)發掘産生(born)價值,信息洩露、黑灰産攻擊等問題層出(out)不(No)窮,安全似乎已經成爲(for)了(Got it)數字經濟發展木桶上(superior)的(of)那一(one)塊“短闆”。
企業技術發展和(and)用(use)戶信息保護的(of)平衡上(superior),存在(exist)哪些難點?在(exist)不(No)斷發展的(of)科技、複雜多變的(of)國(country)際形勢和(and)人(people)民新的(of)生(born)活方式面前,現有法律框架面臨着什麽樣的(of)挑戰?如何讓安全爲(for)數字化發展“保駕護航”?
2021新京報貝殼财經夏季峰會——數字經濟時(hour)代的(of)風險防控線上(superior)論壇舉行,中國(country)政法大(big)學傳播法研究中心副主任朱巍、北京師範大(big)學網絡法治國(country)際中心執行主任吳沈括、中國(country)信通院雲計算與大(big)數據研究所副所長魏凱、螞蟻集團安全事業群總裁趙聞飙就上(superior)述問題闡述了(Got it)自己的(of)觀點。
當人(people)變成“電池人(people)” 保護信息安全難在(exist)哪兒?
AI時(hour)代,不(No)少App都需要(want)收集足夠多的(of)用(use)戶數據,才能支持其運營。如短視頻平台的(of)視頻推送,電商平台的(of)商品推薦等都需要(want)收集用(use)戶數據後才能讓算法正常運轉,在(exist)此過程中,用(use)戶也往往面臨着暴露隐私的(of)潛在(exist)風險。
“互聯網時(hour)代,人(people)慢慢變成了(Got it)‘電池人(people)’。”朱巍表示,“每個(indivual)人(people)在(exist)互聯網時(hour)代中通過算法、人(people)工智能、數據采集後都變成了(Got it)手段,而不(No)是(yes)目的(of)。消費者和(and)用(use)戶在(exist)很多平台中,通過自己的(of)數據爲(for)這(this)些平台‘蓄能’,這(this)種生(born)态到(arrive)底可不(No)可取,利弊關系到(arrive)底在(exist)什麽地(land)方,我(I)覺得需要(want)予以(by)好好解決。”
在(exist)朱巍看來(Come),要(want)解決技術發展與用(use)戶信息保護平衡點的(of)問題,需要(want)明晰大(big)數據産權問題,“目前,從中國(country)的(of)法律體系來(Come)看,《民法典》、《個(indivual)人(people)信息保護法》二審稿等相關法律裏對個(indivual)人(people)信息的(of)概念已經做了(Got it)非常詳細的(of)描述,但并沒有對大(big)數據的(of)性質做出(out)具體的(of)規定。《民法典》最後一(one)審稿出(out)來(Come)之後,曾經把數據信息納入到(arrive)《民法典》中的(of)知識産權的(of)課題裏面,對此我(I)們(them)曾提出(out)反對,因爲(for)數據信息裏既包括大(big)數據,也包括個(indivual)人(people)信息,個(indivual)人(people)信息是(yes)隐私權,不(No)能轉化成大(big)數據,至少一(one)定程度上(superior)是(yes)不(No)可以(by)的(of),因爲(for)有巨大(big)的(of)争議,《民法典》後來(Come)把這(this)條删掉了(Got it)。”
貝殼财經記者注意到(arrive),《民法典》第一(one)百二十七條規定,法律對數據、網絡虛拟财産的(of)保護有規定的(of),依照其規定。
“所以(by)我(I)們(them)能發現,個(indivual)人(people)信息和(and)大(big)數據有千絲萬縷的(of)關系,在(exist)行業适用(use)領域中,大(big)數據的(of)産權問題還沒有明晰。現在(exist),國(country)家正在(exist)出(out)台關于(At)數字經濟的(of)指導意見,有一(one)些還沒有向社會公布,公布的(of)時(hour)候我(I)相信數據信息的(of)概念至少在(exist)産權領域會變明晰。”朱巍稱。
此外,朱巍認爲(for),當個(indivual)人(people)信息與其他(he)法律交織在(exist)一(one)起,讓問題變得更加複雜。“目前,《刑法》、《個(indivual)人(people)信息保護法》等都有對敏感信息範圍的(of)相關規定,且内涵和(and)外延完全不(No)一(one)樣,這(this)就出(out)現了(Got it)一(one)個(indivual)非常有意思的(of)問題:當我(I)們(them)研究的(of)時(hour)候提到(arrive)敏感信息,我(I)們(them)要(want)先問一(one)下是(yes)哪部法律中的(of)。所以(by)是(yes)不(No)是(yes)應該有一(one)個(indivual)統領,至少在(exist)概念上(superior)能夠說清楚,但是(yes)目前爲(for)止好像還沒有。現在(exist)當我(I)們(them)研究一(one)些法律問題,不(No)單純是(yes)個(indivual)人(people)信息保護問題,而是(yes)個(indivual)人(people)信息保護和(and)其他(he)法律關系相互交叉的(of)問題,這(this)就讓問題本身變得複雜了(Got it)。”
從企業到(arrive)國(country)際社會數字化轉型風險幾何?
事實上(superior),每個(indivual)用(use)戶貢獻的(of)數據最終都将彙成一(one)道數據洪流,個(indivual)人(people)、産業、國(country)家、國(country)際社會由此交織在(exist)一(one)起。除了(Got it)用(use)戶外,企業在(exist)數字化轉型的(of)過程中面對着什麽樣的(of)風險?
“什麽是(yes)‘數字化’背後的(of)風險?它指的(of)是(yes)——數字經濟生(born)活中,用(use)戶在(exist)享受數字化帶來(Come)的(of)便捷與普惠同時(hour),所面臨的(of)、伴随而來(Come)的(of)風險。例如,對于(At)行業商戶來(Come)說,羊毛黨造成的(of)‘營銷資金風險’,足以(by)讓商戶精心打造的(of)營銷活動毀于(At)一(one)旦。對于(At)個(indivual)人(people)用(use)戶而言,網絡欺詐、賬戶盜用(use)等問題,更是(yes)成爲(for)了(Got it)數字經濟中高發的(of)、危害性極大(big)的(of)安全問題。如今的(of)黑産作(do)案越來(Come)越趨于(At)多平台、多鏈路、團隊化和(and)智能化。這(this)使得對抗黑産、防範智能化風險,已經轉化爲(for)了(Got it)一(one)個(indivual)全新的(of)命題。”趙聞飙表示。
趙聞飙透露,早在(exist)六七年前,螞蟻團隊就已經在(exist)平常應對黑産攻擊中,發現了(Got it)AI的(of)痕迹。“不(No)可忽略的(of)是(yes),伴随着人(people)工智能技術的(of)高速發展和(and)加持,這(this)一(one)風險仍将持續加劇,并且演變爲(for)‘智能化’背後的(of)風險。”
那麽,當我(I)們(them)把視野從個(indivual)人(people)用(use)戶、企業再擴展到(arrive)國(country)際社會,數字化的(of)風險又有何變化呢?
在(exist)吳沈括看來(Come),随着數字化轉型的(of)加速,經濟構成、民衆生(born)活方式、社會治理甚至是(yes)國(country)家層面和(and)全球治理層面都已經産生(born)了(Got it)非常大(big)的(of)變化。
吳沈括認爲(for),在(exist)這(this)個(indivual)變化的(of)過程中,需要(want)注意到(arrive)三個(indivual)複雜性,“第一(one)個(indivual)是(yes)參與數據活動當中主體的(of)複雜性,從用(use)戶個(indivual)人(people)到(arrive)産業、國(country)家甚至國(country)際社會,在(exist)這(this)個(indivual)過程中,主體結構的(of)複雜性是(yes)跨部門、跨行業、跨國(country)的(of)存在(exist),而這(this)使得數據處理和(and)數據活動過程中面對的(of)場景更爲(for)複雜,而且在(exist)快速的(of)叠代更新中,這(this)就是(yes)第二個(indivual)場景的(of)複雜性。因此,我(I)們(them)在(exist)一(one)些傳統的(of)場景中歸納總結出(out)來(Come)規則,面對新場景的(of)時(hour)候,或許面對着非常大(big)的(of)适用(use)困難。于(At)是(yes),在(exist)這(this)樣的(of)背景下形成了(Got it)第三個(indivual)複雜性,就是(yes)訴求的(of)複雜性。”
“舉例來(Come)說,哪怕是(yes)主體單一(one)的(of)情況下,這(this)個(indivual)主體在(exist)不(No)同階段的(of)訴求是(yes)不(No)一(one)樣的(of),在(exist)一(one)定的(of)階段可能會更加關注自身的(of)隐私,自身的(of)個(indivual)人(people)信息的(of)保護,在(exist)一(one)定場景中可能會更傾向于(At)對某種經濟利益或者其他(he)類型的(of)利益的(of)追求,所以(by)在(exist)這(this)樣的(of)情況下我(I)們(them)面對着非常複雜的(of)情形或者說在(exist)新階段中,我(I)們(them)需要(want)有一(one)個(indivual)非常寬闊的(of)視野去看待這(this)個(indivual)現象。”吳沈括說。
如何保護數字經濟發展?用(use)AI對抗AI
針對如此之多的(of)複雜問題,我(I)們(them)應該怎麽做?專家們(them)給出(out)了(Got it)不(No)同的(of)建議。
首先,是(yes)充分的(of)激勵機制。
在(exist)吳沈括看來(Come),數據業務和(and)數據流轉利用(use)過程中,知識、能力的(of)不(No)對稱導緻很多情況下透明度不(No)足,進而導緻了(Got it)信任度不(No)足,“國(country)内國(country)際跨部門跨行業的(of)主體之間形成有效的(of)信任度,是(yes)我(I)們(them)對數字化生(born)活給予有效信賴的(of)基礎。在(exist)有了(Got it)充分的(of)信用(use)度之後,我(I)們(them)需要(want)一(one)個(indivual)必要(want)的(of)激勵度,目前來(Come)看,以(by)數據驅動的(of)各類創新在(exist)不(No)斷推動(經濟的(of)發展),在(exist)這(this)個(indivual)過程中,如何确保,以(by)及如何最大(big)限度地(land)激勵在(exist)數據流轉利用(use)等各類數據活動中做出(out)了(Got it)貢獻的(of)主體的(of)價值,給它必要(want)的(of)推動,是(yes)我(I)們(them)需要(want)特别重視的(of)點。”
“我(I)們(them)欣喜地(land)看到(arrive)《數據安全法》以(by)及未來(Come)要(want)出(out)台的(of)《個(indivual)人(people)信息保護法》正在(exist)給數字經濟的(of)發展制定一(one)些規則,這(this)是(yes)市場急需的(of),但不(No)是(yes)事無巨細的(of),可能隻能做到(arrive)原則性的(of)。至于(At)如何落實,可能需要(want)細則,需要(want)透明度,需要(want)讓企業實際有動力落實這(this)個(indivual)機制,例如對其聲譽有顯性化激勵,這(this)就需要(want)配套的(of)措施,而不(No)隻是(yes)懲罰。”魏凱表示。
此外,通過技術來(Come)幫助解決安全問題也是(yes)專家們(them)共同的(of)觀點。
在(exist)魏凱看來(Come),前幾年,大(big)數據的(of)應用(use)側重于(At)做報表,做大(big)屏幕,給決策者直觀的(of)相關數據。但是(yes)現在(exist)大(big)數據的(of)技術應用(use)往往不(No)是(yes)這(this)樣,而是(yes)已經深入到(arrive)決策閉環裏去了(Got it)。“以(by)前的(of)報表,看了(Got it)以(by)後采取決策仍然要(want)靠人(people)拍闆,而現在(exist)很多大(big)數據的(of)風控,大(big)數據的(of)精準廣告,其實人(people)都不(No)在(exist)閉環裏面,人(people)隻要(want)把規則定好,數據驅動就可以(by)閉環自動執行。”
“現在(exist),一(one)種新的(of)模式正在(exist)崛起,如區塊鏈的(of)技術允許我(I)們(them)不(No)再把數據集中起來(Come)也能夠享受數據融合的(of)紅利,當前這(this)類技術正在(exist)快速升溫,這(this)就有可能創造一(one)種新的(of)大(big)數據的(of)應用(use)模式。”魏凱表示。
趙聞飙表示,傳統風控受制于(At)技術成本、數據規模和(and)算法效能,許多場景還是(yes)專家經驗驅動,而不(No)是(yes)數據智能驅動。“支付寶每天有數億筆交易,面對如此龐大(big)的(of)計算量,一(one)旦決策産生(born)延遲,就給了(Got it)黑産可乘之機。因此,發展面向可信人(people)工智能技術的(of)下一(one)代風控技術體系成爲(for)了(Got it)我(I)們(them)的(of)必由之路。”
他(he)舉例稱,通過人(people)工智能與金融風控的(of)深度融合,支付寶的(of)AI大(big)腦AlphaRisk能夠在(exist)零人(people)工幹預的(of)全自動模式下,對風險進行毫秒級的(of)響應。例如,在(exist)網絡欺詐風險識别場景下,當系統識别到(arrive)用(use)戶遇到(arrive)詐騙風險時(hour),AI機器人(people)會以(by)小于(At)0.1秒的(of)速度向用(use)戶呼出(out)“叫醒電話”。此外,在(exist)快速響應當下風險的(of)同時(hour),AlphaRisk還具備自學習、自适應的(of)能力,從而将安全從靜态的(of)被動防守,轉變爲(for)動态的(of)主動對抗。
貝殼财經記者還發現,在(exist)談論數字經濟發展的(of)同時(hour),多位專家都将安全視爲(for)了(Got it)經濟發展木桶潛在(exist)的(of)“短闆”,認爲(for)需要(want)充分重視數字經濟時(hour)代的(of)風險防控。
“以(by)前我(I)們(them)發展任何産業的(of)時(hour)候都是(yes)包容審慎,而現在(exist)更多的(of)是(yes)審慎包容。以(by)前是(yes)效率優先,安全其次,先發展起來(Come)再說。現在(exist)看來(Come),安全可能就是(yes)木桶上(superior)的(of)短闆,我(I)國(country)互聯網産業、規模、技術發展已經很大(big)很快了(Got it),如果追求安全問題,一(one)定會犧牲市場,一(one)定會犧牲效率,但從長遠的(of)角度看,我(I)認爲(for)這(this)種做法是(yes)沒有問題的(of)。”朱巍表示。