新奇的數字來世產業通過數據化技術重建逝者
無需你的同意 這些公司便可以令你“重生”
故事發生在未來的某天。你敬愛的父親已經去世了,他生前多年飽受阿爾茨海默病的折磨。長期以來,由于他的健康狀況,家里的每個人都感到身心俱疲。你的哥哥提出了一個想法,想通過一個名為4evru的初創企業的“數字永生”項目來記住父親最好的一面。他承諾會處理好細節并準備好有關父親的數據。 之后,你就將此事拋諸腦后了,直到今天,4evru發來郵件說你父親的機器人程序可以使用了。雖然有些驚恐不安,你還是點開了鏈接并創建了一個賬戶。你輕松地戴上了有點笨重的虛擬現實(VR)耳機,選擇了增強現實模式。隨后,熟悉的臥室墻壁在你面前一閃而過。
你的父親出現了。這是他確診之前的樣子。他看起來很健康,有點強壯,留著花白的胡子,穿著格子襯衫,咧嘴笑著,完全就是你小時候看到的他的樣子。圖像和動畫的質量令你大為感動。多虧了哥哥給4evru的家庭視頻,這個機器人的聲音聽起來像你的父親,動起來也像他。這個“父親”把更多身體重量放在了左腳,這是高中時踢足球受傷的結果,跟你的父親一樣。
“嘿,孩子。說點我不知道的。”
熟悉的問候讓你熱淚盈眶。經過幾次試探性的交流來感受這種互動(略顯奇怪)之后,你便開始了。
“我覺得很糟糕,真的很難過。特蕾莎幾周前和我分手了。”你說。
“噢,聽到這個消息我很難過,孩子。分手太糟糕了。我知道她是你的一切。”
父親的聲音令人感到安慰。這個機器人在用聲音共情方面做得很好,面部表情也像父親生前一樣。他飽滿而低沉的聲音讓人感到心安,就像他生病前的聲音一樣。只要他說話就好,至于他說什么其實無關緊要。
你看了看時間,意識到已經過去1個小時了。當你說再見時,父親說:“記住艾德琳在我沮喪時總是對我說的話:‘有時候失去一些好的東西,是為了迎接更美好的事物。’”
聽到不熟悉的名字,你的耳朵就豎了起來——你母親的名字是弗朗西絲,而且家里沒有人叫艾德琳。你顫抖地問:“誰是艾德琳?”
在接下來的幾周里,你和家人通過你的“數字父親”發現了更多他在生活中沒有向你們透露的事。你發現了誰是艾德琳,還有凡妮莎和達芙妮。你發現了一些同父異母的兄弟姐妹。你發現你的父親并不是你想象中的那樣,他喜歡揣著秘密生活、欺騙你的家人和其他家庭。在與4evru版本的“父親”互動幾個月后,你發現,雖然有些高興了解到父親的真實樣子,但你也在哀悼那個你以為自己了解的人的離去。好像他又死了一次。
雖然4evru是一家虛構的公司,但其中描述的技術離現實并不遠。今天,“數字來世產業”已經能根據逝者留下的數據重建他們。
微軟擁有一項專利,可以利用某個人的“社交數據”創建一個聊天機器人。據報道,微軟決定不把該理念轉變成產品,但并不是出于法律或權利方面的原因。在這份21頁的專利中,大部分是極其技術性和程序性的內容,記錄了如何設計軟件和硬件系統。該理念是利用社交數據訓練聊天機器人,即“一個使用文本和/或聽覺輸入通道模擬人類對話的對話計算機程序”,其中的社交數據指“圖像、語音數據、社交媒體帖子、電子消息”和其他類型的信息。然后,這款聊天機器人會“扮作”此人說話。它可能有相應的聲音, 2D或3D圖像,或兼而有之。
值得注意的是,雖然各家科技巨頭已經涉足這一領域,但大多數活動并不是大型企業開展的。5年多以前,研究人員發現了一個包括57家公司的數字來世行業。其中包括一家以所愛之人的聲音提供互動回憶的公司(HereAfter);在用戶去世后向其摯愛之人發送預定消息的企業(MyWishes);還有一家根據一位已故女性的“記憶、感受和信仰”制作出其半身機器人的機器人公司(Hanson Robotics),這個機器人能夠繼續與人類交談,甚至參加了一門大學課程。
我們中的一些人可能認為這些選擇激動人心,而其他人可能會有些害怕,還有一些人可能不感興趣。不管你的反應如何,你幾乎肯定會留下數字痕跡。如今,幾乎每個使用技術的人都會受到“數據化”的影響,數據化是指以數字數據的形式對我們日常活動進行記錄、分析和存檔。我們活著時使用數據的方式會產生有意或無意的后果,在我們死后,這些后果對我們每一個人都有影響。
人類必須面對自己的死亡。生活的數據化意味著我們現在必須面對一個事實,那就是,有關我們的數據很可能會比我們軀體的壽命更長。因此,關于數字來世的討論提出了幾個相互關聯的重要問題。首先,我們是否有權定義我們死后的數字生活?我們應該可以選擇決定不在數字來世繼續存在。然而,考慮到數據的“粘性”和分布性,選擇退出數字來世的決定真的能夠執行嗎?一些人主張的刪除可能實現嗎?
數據在本質上是永存的;但我們肯定不是。
我們中的許多人并沒有采取必要的措施來管理我們的數字遺物。怎么處理我們的電子郵件、短信和社交媒體上的照片?在我們死后,誰能認領它們?我們想要為所愛之人保留一些關于自己的東西嗎?
有的人可能更喜歡讓他們的數字存在隨著自己的身體一起消失。那些有條理、有準備的人可能會把密碼和用戶名告訴家人,讓家人在他們去世后盡可能地追蹤和刪除他們的數字足跡。當然,在某種程度上,這種精心準備并不重要,因為死者不會體驗到自己死后被創造出來的數字版自己。但一些人認為讓自己“重生”的想法是錯誤的。
對于那些更看好這項技術的人來說,這類應用程序越來越多,我們可以在活著的時候向其提供數據,這樣 “數據化”的自己就可以在我們死后繼續存在。這些產品和可能性,有些更離奇,有些更無害,模糊了生與死的界限。
一系列產品和可能性模糊了生與死的界限。現在死者可以比以往任何時候都更頻繁地出現在生者的生活中
我們的數字檔案(數據化自己)提供了通向來世的途徑,以及可能比我們活著時更多的社交互動。因此,人類社會的界限正在發生變化,因為現在死者可以比以往任何時候都更頻繁地出現在生者的生活中。在人權方面則尚未充分考慮對我們的自主權和尊嚴的影響,因為人權主要涉及生者,一旦死亡,便結束了。感謝數據化和人工智能,我們不會數據化死亡。
我們還必須考慮機器人(與用戶或系統在線互動的軟件應用程序)可能會在我們死后代替我們發布信息的問題。如果機器人在我們不在的時候利用我們生成的數據來產生我們預期的反應,那誰是這些內容的創造者?這確實是一個令人好奇的問題。
2015年,羅曼?馬祖倫科(Roman Mazu-renko)在莫斯科發生交通事故,英年早逝。他和尤金妮亞?庫達(Eugenia Kuyda)在成年時相識,他們一起在莫斯科參加了一些精彩的派對,成為了親密的朋友。他們也有著共同的創業精神,支持著彼此的科技創業公司。馬祖倫科的生活充滿了活力;他的死給熟悉他的人帶來了巨大的缺憾。
悲痛的庫達領導了一個基于開源機器學習算法的文本機器人項目,她收集了馬祖倫科生前與家人、朋友以及她自己的交流信息,利用這些文本信息對機器人進行了訓練。機器人學會了馬祖倫科的表達方式,“成為”了馬祖倫科。現在,雖然馬祖倫科去世了,但他在生前創造的數據可以像他一樣繼續存在。
馬祖倫科并不能就關于他的數據在他死后被如何使用表達意見,這些數據是被他的親朋好友復活的。我們能說這對逝者或他的記憶造成了傷害嗎?
這一行為至少是對自主性的否定。活著的時候,我們有自主性,會按照我們自己的意愿在這個世界上行走。死后,我們的身體再也不能游走于世間。傳統上認為,失去自主性也意味著失去人權。但是活著的時候,我們不能決定死后如何處理我們的遺物嗎?畢竟,我們設計了制度來確保遺贈金錢或物品的交易均依據明確的法律程序進行;看銀行賬戶余額是否增加,或者誰的名字出現在了房產證上非常簡單。這些是我們轉移給生者的東西。
當涉及我們死后的數據時情況則復雜得多。與我們的財產不同,這些數據是“我們”。如果我們不想死后在文本、圖像或聲音中出現呢?庫達通過朋友與她以及與其他人的交流文本重建了他。一旦我們死了,就沒有辦法阻止別人利用這類數據。但是馬祖倫科想要的是什么?
根據特定的人來創造機器人的可能性對自主性、許可和隱私有著巨大的影響。如果我們不制定標準,賦予創建原始數據的人表達意愿的權利,我們就剝奪了他們的選擇權。
如果微軟聊天機器人專利這類技術得到實施,也會對人類尊嚴產生影響。如果僅僅將數據看作人類的“副產品”,那么有人“讓我們重生”的想法似乎是可以接受的。但是,如果數據不僅僅是我們留下的東西,還是我們的身份,那么我們應該停下來思考,是否允許以數字方式對人進行“復制”。除微軟的專利以外,我們同樣應該停下來思考谷歌克隆他人“精神屬性”(也獲得了專利)的嘗試、靈魂機器公司(Soul Machines)的“數字雙胞胎”,或者初創公司Uneeq營銷的“數字人類”(目的是“無限地重新創造人類互動”)。
人們之所以會考慮數字永生,部分原因是為了讓后代能夠與他們互動。然而,要讓我們永存,我們需要信任幫助我們實現這一目標的數據收集者和服務提供商。我們需要相信他們會保護這些數據,并在未來忠實地代表我們。
不過,我們也可以想象這樣一種情況,有惡意行為者通過插入關于某人的不真實數據來破壞數據,從而導致結果與我們的意圖不同。因此,會存在數字永生自我明顯偏離真實自我的風險,但是屆時我們(或其他任何人)如何得知呢?
數字永生者是否會受到有辱人格的對待或互動方式,不能真實地反映此人在現實生活中的行為?我們還沒有描述這種侵犯可能是什么錯誤的人權用語。我們不知道數字版本的我們是否還是“人類”。如果我們將這些永生版本的自己視為活人的一部分,那么我們可能會考慮像活人一樣保護自己免受虐待、折磨和侮辱。但是,如果我們把數據當成遺物,那么數字人也是副產品嗎?
數字來世也可能面臨技術問題。算法和計算協議不是靜態的,它們的變化可能會使某些數據難以辨認。社會科學家卡爾?歐曼(Carl ?hman)認為,數字來世的持續完整性在很大程度上是一個軟件問題。因為軟件更新可以改變數據的分析方式,所以支撐數字永生的人工智能程序所生成的預測也可以變化。同意利用我們的數據“重生”時,我們可能無法預料所有變化。
在4evru那個故事中,父親隱藏的事情被揭露出來,反而讓他被家人憎惡。數字自我和數字人是否應該被策劃?如果是,該由誰來策劃?活著的時候,我們自己控制自己。死后,關于我們的活動和思想的數據將被存檔和排序,但依據的并不是我們的個人判斷,而是數字開發者設定的優先級。關于我們的數據,甚至是令人尷尬的數據,都將脫離我們的直接掌控。雖然創建原始數據的可能是我們,但是匯集和分析這些數據的算法掌握在數據收集者手中。算法對雜亂的現實數據進行分類整理時,它們承載的是其創造者的價值觀和目標,而這些價值觀和目標可能與我們截然不同。
技術本身可能會阻礙數字永生。未來,能提高數據保存效率的數據格式變化可能會導致我們在從一種格式轉為另一種格式時丟失數字人物。存檔的數據可能會丟失,產生不完整的數字永生者。或者數據可能被復制,帶來數字克隆的可能性。雖然從多個來源獲取數據的數字永生創造出的人可能更加真實,但也更容易出現錯誤、遭到黑客攻擊和發生其他問題。
數字永生者可以被編程以便不易接受新信息。然而,真實的人是有機會學習和適應新信息的。微軟的專利確實規定可以參考其他數據,從而為當前活動的滲透開辟了道路。這可能是一種進步,因為機器人不會越來越像一個無關緊要的遺物或聚會游戲。然而,機器人獲取的數據越多,就越有可能偏離真人,朝著不符合真人情況的虛假版本發展。亞伯拉罕?林肯會對當代的種族政治說些什么?這重要嗎?
我們應該如何看待這位數字永生者呢?“數字林肯”是一個應受人權保護的“人”嗎?我們應該保護這個人的言論自由嗎?如果現在認為他們(基于生活在另一個時代的真人)發表的言論屬于仇恨言論,我們應該讓它閉嘴嗎?保護數字永生者的生命權意味著什么?數字永生者可以被刪除嗎?
自文明之初,來世就一直是個神秘的問題。人類通過宗教信仰、葬禮、精神運動、藝術想象和技術努力來克服對死亡的恐懼。
今天,我們的數據獨立于我們而存在。數據化使我們能夠超越自己的意識和死亡繼續存在。如果不落實人權來防止不經授權地使用我們死后的自己,我們就有可能成為他人創造的數字永生者。
作者:Wendy H. Wong