近期卡巴斯基發(fā)布了一份題為“算法時(shí)代的愛情”的調(diào)查報(bào)告,，報(bào)告中提到了婚戀App中算法的使用，以及算法在推薦與匹配潛在戀愛對象（用戶）方面的情況,。這份巴斯基委托進(jìn)行的調(diào)查報(bào)告顯示了一些比較有意思的結(jié)果：64%受訪者表示婚戀App的推薦匹配效果很好,，44%的人會(huì)相信人工智能或算法來為他們找到匹配的對象；當(dāng)然,，也有39%的受訪者發(fā)現(xiàn)按算法排序是不科學(xué)的,，56%的人不相信算法能夠真正理解戀愛中的復(fù)雜性。不只在婚戀方面,，這類推薦算法連同價(jià)格算法,、評價(jià)算法等在其他領(lǐng)域也大行其道，幾乎無處不在,。
新聞資訊,、社交、購物,、餐飲,、出行以及短視頻等App通過各類算法給用戶推薦他們感興趣的話題和內(nèi)容,，深深地將用戶綁定在他們所精心構(gòu)筑的“牢籠”。這些技術(shù)的興起得益于近年來以人工智能,、大數(shù)據(jù)等為代表的新技術(shù)新應(yīng)用的快速發(fā)展,。
這些新應(yīng)用在服務(wù)人們社會(huì)生活的過程中，通過各種算法將大數(shù)據(jù)進(jìn)行收集和處理,，并為用戶進(jìn)行畫像,，精準(zhǔn)的描繪出用戶的各種喜好，最終控制用戶行為或精準(zhǔn)推送各類廣告,。可以說算法是許多App的技術(shù)基礎(chǔ),，甚至是數(shù)字社會(huì)發(fā)展的重要基石。雖然這些算法特別是AI算法為社會(huì)生活創(chuàng)造了巨大價(jià)值,，但其對用戶隱私的侵犯,、大數(shù)據(jù)殺熟等弊端也逐漸暴露出來。并且,，與其他傳統(tǒng)方式不同,，算法的應(yīng)用也讓許多惡意行為變得更為隱蔽。對此,，賽迪智庫指出,，算法濫用會(huì)帶來嚴(yán)重的社會(huì)危害：濫用數(shù)據(jù)分析和算法推薦，侵害消費(fèi)者合法權(quán),；利用算法實(shí)現(xiàn)利益侵占,，壓榨平臺商家和從業(yè)者；基于缺陷數(shù)據(jù)集訓(xùn)練算法,，導(dǎo)致算法偏見和不公平?jīng)Q策,。與此同時(shí)，算法濫用問題也成為世界性危害,，許多國家對此進(jìn)行了法律和制度的約束,。歐盟的《通用數(shù)據(jù)保護(hù)條例》中規(guī)定“收集個(gè)人數(shù)據(jù)進(jìn)行自動(dòng)化決策時(shí)，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問題處理的邏輯及預(yù)期后果的有效信息”,。
2019年4月美國發(fā)布的《算法問責(zé)法案（草案）》中涉及相關(guān)算法影響評估的規(guī)定,，要求衡量算法在設(shè)計(jì)和訓(xùn)練數(shù)據(jù)中，對準(zhǔn)確性,、公平性,、偏見、歧視及對隱私和安全的影響,。隨著《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律的陸續(xù)出臺,，我國在數(shù)字治理方面的法律法規(guī)也在逐漸完善。過度信息收集和過度索權(quán)是“算法作惡”的常見形式,。《個(gè)人信息保護(hù)法》明確規(guī)定了“個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策,，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平,、公正，不得對個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇,；通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送,、商業(yè)營銷，應(yīng)當(dāng)同時(shí)提供不針對其個(gè)人特征的選項(xiàng),，或者向個(gè)人提供便捷的拒絕方式”等,，從法律層面向信息過度收集和過度索權(quán)行為說NO。為了規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),，國家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡稱“管理規(guī)定”）公開征求意見。
管理規(guī)定提出,，算法推薦服務(wù)提供者應(yīng)當(dāng)“保護(hù)消費(fèi)者合法權(quán)益,，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為,。”人工智能技術(shù)的發(fā)展也為算法問題增加了新的不確定性,。2021年7月,，中國信息通信研究院與京東探索研究院聯(lián)合發(fā)布的《可信人工智能白皮書》中指出，當(dāng)前人工智能技術(shù)風(fēng)險(xiǎn)引發(fā)信任危機(jī),，其中包括算法安全導(dǎo)致的應(yīng)用風(fēng)險(xiǎn),、黑箱模型導(dǎo)致算法不透明、數(shù)據(jù)歧視導(dǎo)致智能決策偏見,、系統(tǒng)決策復(fù)雜導(dǎo)致責(zé)任事故主題難以界定,、數(shù)據(jù)濫用導(dǎo)致隱私泄露風(fēng)險(xiǎn)，因此發(fā)展可信人工智能正在成為全球共識,。隱私問題是算法濫用帶來的嚴(yán)重問題之一，盡管在網(wǎng)絡(luò)安全領(lǐng)域,，數(shù)據(jù)安全和隱私保護(hù)始終是重中之重,，但時(shí)至今日出現(xiàn)的數(shù)據(jù)安全問題仍屢見不鮮。在解決隱私泄露方面,，業(yè)界出現(xiàn)了許多更為針對性的技術(shù)措施,，其中包括差分隱私和基于聯(lián)邦學(xué)習(xí)的隱私保護(hù)。差分隱私早在2006年就已提出,，是人工智能系統(tǒng)隱私保護(hù)能力的一個(gè)量化指標(biāo),，旨在提供一種當(dāng)從統(tǒng)計(jì)數(shù)據(jù)庫查詢時(shí)，最大化數(shù)據(jù)查詢的準(zhǔn)確性,，同時(shí)最大限度減少識別其記錄的機(jī)會(huì),。
它通過對數(shù)據(jù)信息順序置換,、添加噪聲等方式來防御攻擊。聯(lián)邦學(xué)習(xí)技術(shù)于2015年提出,，可在滿足用戶隱私保護(hù),、數(shù)據(jù)安全和法規(guī)的要求下，進(jìn)行數(shù)據(jù)使用和機(jī)器學(xué)習(xí)建模,。
聯(lián)邦學(xué)習(xí)通過將模型部署到用戶設(shè)備,，各設(shè)備使用自己的私有數(shù)據(jù)計(jì)算模型參數(shù)的梯度，進(jìn)而利用通過中央服務(wù)器進(jìn)行融合后的數(shù)據(jù)來更新模型參數(shù),。應(yīng)當(dāng)探索建立算法應(yīng)用監(jiān)管制度體系，一是建立算法應(yīng)用影響評估制度,，二是建立算法透明度制度,，三是建立算法問責(zé)機(jī)制；加強(qiáng)算法應(yīng)用的安全測試與監(jiān)測,，一是組織開展算法應(yīng)用安全測試,，二是利用大數(shù)據(jù)、人工智能等技術(shù)手段,，加強(qiáng)對網(wǎng)絡(luò)平臺算法數(shù)據(jù)采集,、運(yùn)行、社會(huì)影響等方面的動(dòng)態(tài)監(jiān)測,，強(qiáng)化監(jiān)管,；依托行業(yè)組織強(qiáng)化企業(yè)算法倫理建設(shè)，一是加快研究制定算法倫理規(guī)則,，二是支持設(shè)立算法社區(qū),、行業(yè)聯(lián)盟等組織，指導(dǎo)企業(yè)建立內(nèi)部治理框架,、控制機(jī)制和責(zé)任體系,，防止算法濫用。技術(shù)是把雙刃劍,，算法的“原罪”背后,，永遠(yuǎn)是人。
|
