萬物皆虛
2019-12-28
推理小說《只是丟了手機(jī)而已》中,有一段話令我印象非常深刻的話。
“男人邊敲鍵盤邊想,只要破解了這個(gè),那個(gè)女人在他面前就形同裸體了?!?
本書關(guān)于信息犯罪的故事還是很新穎的
在信息化高度發(fā)達(dá)的時(shí)代,單憑一部手機(jī),就可以輕而易舉地讓一個(gè)人的所有秘密蕩然無存,猶如赤身裸體一般,任人宰割。這并非是危言聳聽。
時(shí)下最流行的是什么?社交網(wǎng)絡(luò)、短視頻、頭條新聞、購(gòu)物軟件等等。如果留心觀察,你會(huì)發(fā)現(xiàn),這些軟件在你逐漸熟悉使用后,就會(huì)開始不停的向你推送你可能感興趣的內(nèi)容。而這些內(nèi)容大多都是為你定制推送的。
淘寶會(huì)根據(jù)用戶的瀏覽記錄推送商品
軟件之所能知道這些,就源于用戶在日常使用過程中,不經(jīng)意間泄露的一些個(gè)人信息。像是喜歡看的視頻類型、感興趣的新聞熱點(diǎn)、交流密切的聯(lián)系人等等。通過大數(shù)據(jù)分析和AI算法的學(xué)習(xí),軟件對(duì)用戶日常瀏覽量較多的內(nèi)容進(jìn)行整合分析,從而對(duì)用戶進(jìn)行定制內(nèi)容推送,提高用戶的使用粘性,為平臺(tái)打造更多忠實(shí)的消費(fèi)者。
《假如,我是人工智能》這款游戲,探討的就是這一現(xiàn)狀。它是一款由國(guó)內(nèi)開發(fā)者“內(nèi)購(gòu)人生FABL”單人開發(fā)完成的文字解謎游戲。
獨(dú)立游戲《假如,我是人工智能》steam頁(yè)面
初看上去,這款游戲真的很普通,甚至從畫面和UI設(shè)計(jì)上來看,它可以說是相當(dāng)簡(jiǎn)陋。手繪的簡(jiǎn)陋封面,方方正正的對(duì)話選框,一切都透露出一股濃濃的廉價(jià)感。游戲的整體流程也并不長(zhǎng),通關(guān)只需要個(gè)把小時(shí)。
但就是在這有限的數(shù)小時(shí)內(nèi),制作者塞入了大量的文字內(nèi)容來豐富游戲的體量。除了極具個(gè)人特色的玩梗,嘲諷外,更多的是對(duì)互聯(lián)網(wǎng)時(shí)代,個(gè)人隱私泄露問題的深入分析與大膽預(yù)測(cè)。
游戲共有三章主線關(guān)卡,玩家將在關(guān)卡中扮演人工智能的角色。而玩家的任務(wù),就是根據(jù)有限的用戶信息,為其提供定制化的內(nèi)容推送。
這些內(nèi)容推送非常有講究。在游戲的第一關(guān),我們只能通過用戶的瀏覽記錄來選擇適合推送的主題。游戲會(huì)給出系統(tǒng)搜集的用戶信息,最初只是諸如姓名,職業(yè)等的基礎(chǔ)信息。你可以看到不同用戶的瀏覽記錄,根據(jù)這些判斷用戶的喜好,進(jìn)而選取相應(yīng)的話題進(jìn)行推送。
到了第二關(guān),AI能獲取的信息就變得更為豐富了,除了基礎(chǔ)信息外-,AI還將獲得用戶的消費(fèi)記錄,進(jìn)而推送符合其消費(fèi)欲望的廣告內(nèi)容。更進(jìn)一步,AI可以通過分析用戶的評(píng)論內(nèi)容,來推測(cè)一個(gè)人的政治傾向,家庭狀況等更為私密化的信息,從而決定什么內(nèi)容該讓用戶看到,什么內(nèi)容又該被隱藏。
第三關(guān),背景來到了未來。AI技術(shù)已經(jīng)遍布生活的各個(gè)方面。游戲也效仿著名的“棱鏡門”事件,搞了一個(gè)名為“安全衛(wèi)士”的AI系統(tǒng)。這個(gè)系統(tǒng)會(huì)根據(jù)用戶的日常行為習(xí)慣,對(duì)不同用戶進(jìn)行深入分析。從智能家居,社交網(wǎng)絡(luò),消費(fèi)記錄等多方面入手,通過AI對(duì)碎片化信息的整理分析,基本可以將一個(gè)正常人的生活現(xiàn)狀精準(zhǔn)還原出來。
想象一下,你每天醒來的時(shí)候,AI會(huì)根據(jù)你的睡眠時(shí)間記錄你的健康狀況,會(huì)根據(jù)你智能門鎖的開關(guān)時(shí)間判斷你的居住情況。你在地鐵上瀏覽社交網(wǎng)絡(luò),AI會(huì)留意你的每一次瀏覽記錄,你的每一個(gè)互動(dòng)對(duì)象都會(huì)被保留相應(yīng)的聊天記錄,你看到的每一條推送內(nèi)容都是根據(jù)你的喜好深度定制的。你的一切活動(dòng),其實(shí)都已經(jīng)被AI限定在了可控的范圍之內(nèi)。
而AI能記錄分析的遠(yuǎn)不止這些,正如游戲的英文標(biāo)題一樣,“Big Brother is Shaping You”。這名字乍看上去,會(huì)讓人聯(lián)想到著名的反烏托邦小說《1984》,而“老大哥在塑造著你”似乎比“老大哥在看著你”更加陰森恐怖。被監(jiān)視著只是限制了身體自由,被塑造著則意味著完全剝奪了人的判斷能力,是思想上的絕對(duì)服從。
游戲的英文標(biāo)題同樣引人注目
制作者在談到這款游戲的設(shè)計(jì)初衷時(shí)提到,以現(xiàn)階段或者可以預(yù)見的近未來的技術(shù)來看,要想實(shí)現(xiàn)《1984》中世界設(shè)定其實(shí)并不困難,AI超強(qiáng)的運(yùn)算能力完全可以代替人為的監(jiān)督工作?!都偃纾沂侨斯ぶ悄堋废胩接懙木褪?,相較于《1984》構(gòu)建的高度透明化世界,AI技術(shù)引導(dǎo)下的現(xiàn)代社會(huì)又有什么不同和相同的地方?
在《假如,我是人工智能》的Steam宣傳頁(yè)上,制作者留下了一段話:
“在蒸汽平臺(tái),你能在首頁(yè)看到《假如我是人工智能》,而別人不行,是因?yàn)檎羝腁I根據(jù)你的使用記錄推測(cè)你可能喜歡這款游戲。
“在新聞平臺(tái),你的主頁(yè)上全是單機(jī)游戲相關(guān)新聞而別人不是。
“在購(gòu)物平臺(tái),你在主頁(yè)收到了游戲主機(jī)的廣告,而別人收到的是運(yùn)動(dòng)鞋。
“現(xiàn)在,你幾乎找不到?jīng)]有采用個(gè)性定制的地方,每個(gè)人眼中的世界比過去更加不同。
“那么當(dāng)一切你能看到的東西都由AI決定時(shí),你覺得它會(huì)根據(jù)你的需要為你定制呢,還是根據(jù)它的需要為你定制呢?
“新聞平臺(tái)會(huì)不會(huì)把一些說他壞話的內(nèi)容藏起來不告訴你呢?
“你在購(gòu)物平臺(tái)搜索一件商品,AI希望能你購(gòu)買哪件呢?它會(huì)根據(jù)什么順序排列呢?”
這些都是制作者希望通過這款游戲傳達(dá)給玩家的思考。
制作者的一段話
作為一名作品相對(duì)小眾的獨(dú)立游戲開發(fā)者,“內(nèi)購(gòu)人生FABL”希望通過自己的游戲讓更多的玩家能意識(shí)到這些發(fā)生在我們周圍的隱私安全問題。至少應(yīng)該讓更多人知道,我們?cè)诿鎸?duì)的是什么。
如今我們已經(jīng)習(xí)慣了各種新聞APP根據(jù)我們的喜好去選擇對(duì)應(yīng)的新聞內(nèi)容,習(xí)慣了刷微博時(shí)為自己喜歡的內(nèi)容點(diǎn)贊、評(píng)論甚至轉(zhuǎn)發(fā),習(xí)慣了點(diǎn)開購(gòu)物軟件就能在推薦欄里找到心儀的物品。這些都是在我們不知不覺中泄露出去的個(gè)人信息,且遠(yuǎn)不止如此。
而一切問題的根本,源于人們?cè)谛畔⒒瘯r(shí)代的中培養(yǎng)起來的社交依賴、消費(fèi)依賴、甚至是選擇依賴。這些都是促使這些問題產(chǎn)生的根本原因。人們?cè)诨ヂ?lián)網(wǎng)上毫無保留地張揚(yáng)著自己的個(gè)性,喜好。試圖向所有人證明自身的存在價(jià)值,不惜以出賣自己的隱私為代價(jià),獲取那來之不易的“點(diǎn)贊”。
這種“點(diǎn)贊”行為,與我們?cè)谝恍┯螒蛑谐R姷摹包c(diǎn)贊”選項(xiàng)又有所不同。以最近頗具話題性的《死亡擱淺》為例。游戲中的“點(diǎn)贊”是一種單純用來贊許玩家的手段。在你山窮水盡時(shí),來自陌生快遞員的幫助,能讓你感受到人與人之間的“連接”。這也正是小島秀夫希望通過游戲傳達(dá)給玩家的。
《死亡擱淺》中,玩家可以為路途中的設(shè)施點(diǎn)贊
但在社交網(wǎng)絡(luò)中,“點(diǎn)贊”行為的動(dòng)機(jī)就更加復(fù)雜化,功利化?!跋矚g與不喜歡”也不再是你評(píng)判的唯一標(biāo)準(zhǔn)。有人會(huì)借此加深與陌生人的聯(lián)系,有人會(huì)用來表現(xiàn)自己的與眾不同,博人眼球。而被“點(diǎn)贊”者,也會(huì)把這視作一種激勵(lì),更加毫無保留的宣揚(yáng)自己的“價(jià)值”。雙方各取所需,皆大歡喜,而最終獲利的,還有記錄下這些行為數(shù)據(jù)的電腦后臺(tái)。
收集這些不起眼的信息似乎并不會(huì)直接給人帶來多大的困擾。而且,依托這些數(shù)據(jù)建立起來的服務(wù)體系反倒會(huì)讓人沉迷于其帶來的便利。
在2018年的中國(guó)發(fā)展高層論壇上,百度董事長(zhǎng)李彥宏發(fā)表了這樣一段言論“中國(guó)人對(duì)隱私問題的態(tài)度更開放,也相對(duì)來說沒那么敏感。如果他們可以用隱私換取便利、安全或者效率。在很多情況下,他們就愿意這么做?!?
不可否認(rèn)的是,這段看上去不那么順人意的話,的確反映了現(xiàn)今多數(shù)人對(duì)隱私侵犯問題的模糊態(tài)度。
在便利與隱私之間做出選擇,人們會(huì)為了眼前的利益而毫不猶豫的選擇便利,卻容易忽視了隱私泄露會(huì)帶來的長(zhǎng)期隱患。舉一個(gè)最簡(jiǎn)單的例子。當(dāng)我們注冊(cè)使用一款新的軟件時(shí),往往會(huì)需要經(jīng)過多個(gè)步驟的注冊(cè)流程,收發(fā)驗(yàn)證碼、設(shè)置密碼、驗(yàn)證郵箱等等。但現(xiàn)如今大多數(shù)軟件都支持微信、QQ、支付寶一鍵登錄的功能。這當(dāng)然比以往繁瑣的注冊(cè)流程方便的多。但當(dāng)你注冊(cè)完成后,平臺(tái)間的數(shù)據(jù)就一定程度上實(shí)現(xiàn)了互通。在購(gòu)物軟件的消費(fèi)記錄會(huì)導(dǎo)致新聞軟件給你推送類似商品的廣告,在新聞軟件瀏覽的內(nèi)容會(huì)在社交軟件為你推薦相應(yīng)的話題。一切看似便利的背后,隱藏的是信息無阻礙地傳遞流通。
軟件之間的互聯(lián)隨處可見
而霸王條款,則是隱私泄露的另一大隱患。隨便打開一款智能手機(jī)軟件,在安裝過程中,軟件都會(huì)跳出各種彈窗來提醒你,需要獲取手機(jī)中諸如電話、錄音、照片等各種權(quán)限,很多時(shí)候,我們?cè)诎惭b過程中都不會(huì)在意。但就是這些權(quán)限,能夠在后臺(tái)調(diào)用用戶的聯(lián)系人信息、位置信息、甚至私自開啟錄音功能。這些暗中操作并不容易讓用戶察覺。而如果用戶不接受權(quán)限申請(qǐng)的話,往往會(huì)導(dǎo)致軟件的部分功能無法使用,在體驗(yàn)上大打折扣。
軟件使用時(shí)的權(quán)限申請(qǐng)
霸王條款沒有明確的法律約束,用戶也一般不會(huì)特意去追究這些條款的細(xì)節(jié)。在之前鬧得沸沸揚(yáng)揚(yáng)的“ZAO”AI換臉軟件事件中,軟件的協(xié)議上甚至明確寫上了“全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利?!比绱嗣髂繌埬懙?zé)o視用戶隱私的行為,卻能被堂而皇之的寫進(jìn)使用協(xié)議中,原因就是人們?cè)诖蜷_軟件的第一件事,就是把協(xié)議內(nèi)容拉到最底層,點(diǎn)擊確認(rèn),完事。
“ZAO”換臉軟件的用戶協(xié)議
這些侵權(quán)軟件的行為至今也沒有得到有效阻止,法制規(guī)范的缺失、信息保護(hù)的不嚴(yán)密、用戶的防范意識(shí)不成熟,這都導(dǎo)致了在如今的互聯(lián)網(wǎng)生活中,越來越多的人能被輕易“扒光”身份,而同時(shí)也有越來越多的人在黑暗中伺機(jī)而動(dòng),通過獲取他人隱私信息來牟利。
根本上,技術(shù)進(jìn)步必將帶來意料之外的問題,技術(shù)的發(fā)展與問題的發(fā)現(xiàn)本就是同步的。而技術(shù)又會(huì)被應(yīng)用于新問題的解決,這無可厚非。因此,真正需要引起人們反思的,往往不是技術(shù)的問題,而是隱藏在其后的人的問題。
京ICP備14006952號(hào)-1 京B2-20201630 京網(wǎng)文(2019)3652-335號(hào) 滬公網(wǎng)安備 31011202006753號(hào)違法和不良信息舉報(bào)/未成年人舉報(bào):legal@3dmgame.com
CopyRight?2003-2018 違法和不良信息舉報(bào)(021-54473036) All Right Reserved
玩家點(diǎn)評(píng) (0人參與,0條評(píng)論)
熱門評(píng)論
全部評(píng)論