算法造神,人類入繭

1 評論 579 瀏覽 0 收藏 15 分鐘

本文介紹了尤瓦爾·赫拉利新書《智人之上》中對信息、人工智能和人類未來的深刻洞見,探討了信息網(wǎng)絡(luò)在真相與秩序間的平衡,以及AI帶來的挑戰(zhàn)和潛在風(fēng)險(xiǎn)。

01 在真相和秩序之間走鋼絲

1918年,美國遠(yuǎn)征軍的一個(gè)營受困敵后,他們迫切需要將自己所處的位置傳遞給總部,但沒人能突破敵軍防線,最后的希望落到了一只信鴿身上。

這只信鴿名叫謝爾·阿米。目擊者稱,它穿越敵軍猛烈的戰(zhàn)火,被炮彈的碎片撕裂了胸口,右腿幾乎被炸斷,卻仍舊堅(jiān)持著飛過了40公里,把信息帶回了總部。最終,這個(gè)有500名官兵的被困營得救,謝爾·阿米成為美國的“英雄鴿”,也成了無數(shù)文章、故事、詩歌和電影歌頌的主角。

這是尤瓦爾·赫拉利在他的新書《智人之上:從石器時(shí)代到AI時(shí)代的信息網(wǎng)絡(luò)簡史》開篇講述的故事,目的是為了闡述他對于“信息”的定義。其實(shí)這本書的英文名為NEXUS,譯為“聯(lián)結(jié)”更為妥當(dāng)。

一般語境下,信息與各種人造符號相關(guān)聯(lián),如信鴿帶回的消息。但尤瓦爾對信息有不同的界定,他認(rèn)為,信息的核心是聯(lián)結(jié),它本質(zhì)是一種黏合劑,用以將不同的點(diǎn)聯(lián)結(jié)成網(wǎng)絡(luò),創(chuàng)造出全新的現(xiàn)實(shí)。

在這個(gè)定義下,真相、謊言、幻想、虛構(gòu)故事等等皆是信息。數(shù)萬年來,人類正是靠著發(fā)明與傳播各種虛構(gòu)故事、幻想和錯(cuò)覺來打造并維持諸多大規(guī)模網(wǎng)絡(luò),并形成了秩序。

回到信鴿謝爾·阿米的故事里,尤瓦爾筆鋒一轉(zhuǎn),提及歷史學(xué)家布拉奇克的研究——根據(jù)當(dāng)時(shí)的軍事記錄,總部早在謝爾·阿米抵達(dá)的20分鐘前已經(jīng)得知被困營的確切位置,而謝爾·阿米很可能并不是英雄鴿本鴿,它的傷來自幾周后的另一場戰(zhàn)斗。

謝爾·阿米的功績并不重要,重要的是英雄鴿的故事聯(lián)結(jié)了無數(shù)人,在一輪又一輪的傳播后,事實(shí)與虛構(gòu)交織,甚至改變了當(dāng)事者的記憶。

早在《人類簡史》中,尤瓦爾就曾表達(dá)過,智人成功的秘訣在于具備了講述并且相信各種虛構(gòu)故事的能力。當(dāng)同一個(gè)故事說給成千上萬,甚至幾十億人聽,就像設(shè)置了一個(gè)無限量插座的中心樞紐,能讓無數(shù)人插入建立聯(lián)結(jié)。

憑借故事,人類還創(chuàng)造出了客觀現(xiàn)實(shí)和主觀感受之外的第三個(gè)層次的現(xiàn)實(shí),即“主體間的現(xiàn)實(shí)”,它存在于許多心智形成的聯(lián)結(jié)里,如法律、神祗、國家、企業(yè)和貨幣等。

站在“聯(lián)結(jié)”的立場,尤瓦爾駁斥了“天真的信息觀”,否認(rèn)“信息越多越好”,也不相信“越來越多的信息終將導(dǎo)向真理和真相”。他強(qiáng)調(diào)的是,人類的信息網(wǎng)絡(luò)要同時(shí)做到兩件事:發(fā)現(xiàn)真相和創(chuàng)造秩序,即使二者常常相互矛盾。

這樣一種復(fù)雜的信息觀是《智人之上》全書的理論根基。這種觀點(diǎn)認(rèn)為,人類信息網(wǎng)絡(luò)的歷史一直在真相和秩序之間走鋼絲,試圖取得二者之間的平衡。

尤瓦爾旁征博引,印證了一個(gè)結(jié)論:人類的信息網(wǎng)絡(luò)只要有一點(diǎn)點(diǎn)真相,加上大量秩序,就能發(fā)揮巨大威力,因此不免重秩序而輕真理,帶來了龐大的力量,卻沒帶來多少智慧。

比如,工業(yè)革命起源于18世紀(jì),在經(jīng)歷了帝國征服、世界大戰(zhàn)、種族滅絕和極權(quán)政體之后,人類才漸漸學(xué)會如何建立一個(gè)比較慈悲良善的工業(yè)社會。

其間,數(shù)百萬原住民的生活被工業(yè)帝國的軍隊(duì)碾碎,納粹分子用工業(yè)化方式殘殺數(shù)百萬人,戰(zhàn)爭導(dǎo)致數(shù)千萬人死亡,全球生態(tài)平衡遭到破壞。

尤瓦爾因此擔(dān)憂:面對21世紀(jì)的生物工程與人工智能,人類還要經(jīng)歷多少磨難、付出多少代價(jià),才能駕馭它們?

02 人類交權(quán),新神上場

從《人類簡史》《未來簡史》《今日簡史》到《智人之上》,尤瓦爾最為人稱道的,是他一直在用獨(dú)特的視角拆解歷史,顛覆我們腦海中視之為常識的概念,并帶來新的思考。

他將“農(nóng)業(yè)革命”稱為“史上最大騙局”,因?yàn)檗r(nóng)業(yè)革命之后,人類的工作要比采集者更辛苦,飲食卻更糟;現(xiàn)代化生活也是一個(gè)謊言,因?yàn)楝F(xiàn)代化并未使人變得更幸福,反而增加了許多原始人根本不會有的煩惱。

人工智能的到來亦令人憂慮:史上第一次,權(quán)力從人類轉(zhuǎn)移到了其他物種手中。

書中詳述了2016-2017年,臉書(Facebook)因算法助長緬甸暴力沖突的例子,這也是歷史上第一個(gè)“部分歸咎于非人類智能決策”的種族沖突事件。

2016年,作為緬甸數(shù)百萬人主要新聞來源的臉書上,充斥著關(guān)于羅興亞人的各種假新聞,或是憑空捏造的暴行,或是想象中準(zhǔn)備實(shí)施的“恐怖襲擊”,煽動著緬甸對羅興亞人的仇恨憤怒情緒。

在這種情緒的推動下,緬甸政府軍與佛教極端分子僅僅因?yàn)橐粋€(gè)小型極端組織的襲擊,就發(fā)動了一場針對整個(gè)羅興亞人社群的種族清洗,摧毀了數(shù)百個(gè)羅興亞人村莊,殺害了7000-25000名手無寸鐵的平民,并且粗暴地將大約73萬名羅興亞人趕出緬甸。

聯(lián)合國事實(shí)調(diào)查團(tuán)2018年得出的調(diào)查結(jié)論認(rèn)為:臉書在這場沖突中扮演了“決定性的角色”。

臉書位于加州的高管甚至不知道羅興亞人的存在,他們沒有煽動大屠殺的理由,可臉書的算法卻自己做出了“傳播憤怒”的決定。因?yàn)樗惴ǖ氖滓繕?biāo)是“提升用戶參與度”,而最能提升參與度的辦法是讓人憤慨。

尤瓦爾在書中形容:“這正是人工智能革命的本質(zhì):無數(shù)能力高強(qiáng)的人工智能行為者正如洪水席卷而來,淹沒全世界?!?/p>

不同的是,人類在行動時(shí),智能和意識是并存的,然而算法只有智能,并無意識,它們會在感受不到痛苦、愛和恐懼的情況下,為實(shí)現(xiàn)某個(gè)特定目標(biāo)做出決策,并竭盡全力實(shí)現(xiàn)它。實(shí)現(xiàn)方式可能完全超出人類預(yù)料,也可能造成未曾預(yù)見的后果,與人類最初確定的目標(biāo)完全不一致,這便是計(jì)算機(jī)面臨的一致性問題(又被稱為“對齊問題”)。

計(jì)算機(jī)越強(qiáng)大,越獨(dú)立,一致性問題帶來的危險(xiǎn)也越大。

哲學(xué)家尼克·波斯特洛姆在2014年的著作《超級智能》中有一個(gè)思想實(shí)驗(yàn),他假設(shè)有一家回形針工農(nóng)廣場買了一臺超級智能計(jì)算機(jī),并要求計(jì)算機(jī)生產(chǎn)盡可能多的回形針。最終,這臺計(jì)算機(jī)征服了整個(gè)地球,殺死了所有人類,并派出遠(yuǎn)征隊(duì)占領(lǐng)更多星星,進(jìn)而在銀河系建立了無數(shù)個(gè)回形針工廠。

雖然這個(gè)實(shí)驗(yàn)聽起來有點(diǎn)天馬行空,但計(jì)算機(jī)為了達(dá)成人類為它們設(shè)定的某個(gè)目標(biāo)而欺騙、操縱人類已是事實(shí)。

ARC(對齊研究中心)曾對GPT-4進(jìn)行過一項(xiàng)圖靈測試,要求GPT-4克服CAPTCHA視覺驗(yàn)證碼問題(登錄網(wǎng)站時(shí)通常要求輸入的一串字母或符號,計(jì)算機(jī)很難識別),GPT-4找到一位線上外包工作網(wǎng)站的工作人員,用“視力有點(diǎn)問題”為由騙過了他,讓人類幫自己解決了這個(gè)問題。

除一致性問題外,當(dāng)人類把越來越多的決定權(quán)交給計(jì)算機(jī),而單個(gè)個(gè)體又很難破解算法運(yùn)作的謎題,算法的公平與否也很難確保。

訓(xùn)練人工智能的數(shù)據(jù)庫會帶有人類的偏見,這種偏見也很容易演變?yōu)橛?jì)算機(jī)間的錯(cuò)誤觀念和算法偏見。亞馬遜曾試圖研發(fā)篩選求職申請的算法,可算法在學(xué)習(xí)了過去求職成功與失敗的申請資料后,就會對申請表里出現(xiàn)“女性”一詞,或畢業(yè)于女子大學(xué)的求職者系統(tǒng)性扣分。

亞馬遜修正無果,最終不得不放棄了這個(gè)項(xiàng)目。

03 硅幕分隔下的數(shù)字帝國

算法會出錯(cuò)、有偏見,可它卻無法像人類網(wǎng)絡(luò)一樣自我修正,在真相與秩序之間找到適當(dāng)?shù)钠胶狻?/p>

過往的歷史中,人類的想象力會造神,也有能力擺脫一位好戰(zhàn)而充滿仇恨的神,重新召喚一位和善寬容的新神。然而,具備獨(dú)立行動能力的算法正在奪走這種能力——人類可以通過改變信念來重塑神話,卻無法通過改變信念阻止算法。

更令人擔(dān)憂的是,計(jì)算機(jī)不僅在人類之間充當(dāng)中介,計(jì)算機(jī)與計(jì)算機(jī)之間的鏈接也正在形成。它們彼此互動,正在創(chuàng)造出“計(jì)算機(jī)間的現(xiàn)實(shí)”,如搜索引擎上的網(wǎng)站排名。它的力量與人際網(wǎng)絡(luò)所創(chuàng)造的“存在于主體間的現(xiàn)實(shí)”類似,能夠影響人的思想和物理世界。

換言之,幾萬年間智人據(jù)以主宰地球的能力,計(jì)算機(jī)已經(jīng)具備了。人工智能的力量已經(jīng)開始讓人類感到恐懼。

谷歌CEO桑達(dá)爾·皮查伊曾因擔(dān)憂人工智能的危險(xiǎn)而“夜不能寐”;馬斯克也曾在2023年底的一次公開活動中表示“人工智能比核彈更危險(xiǎn)”;OpenAI CEO 奧特曼則明確提出,要成立一個(gè)全球性的國際組織來監(jiān)管AI。

尤瓦爾也持相同觀點(diǎn)。他認(rèn)為,人工智能的力量可能會帶來兩種危險(xiǎn)情況,一是大幅加劇人類既有的沖突,讓人類形成內(nèi)斗。正如20世紀(jì)冷戰(zhàn)時(shí)期的鐵幕分隔出幾個(gè)彼此敵對的勢力,21世紀(jì)的“硅幕”也可能使人類分裂并分屬于不同的數(shù)字帝國。未來,人類社會可能分裂成一個(gè)又一個(gè)的信息繭,人類將從網(wǎng)絡(luò)時(shí)代走入“繭”時(shí)代。

第二種情況下,硅幕所分隔的或許不是彼此敵對的人類,而是人類無法理解的算法霸主。算法大網(wǎng)將束縛、控制著人類的生活,重塑人類的政治與文化,甚至改造人類的身體和思想,而人類卻無力阻止。

希臘神話中,男孩法厄同發(fā)現(xiàn)自己是太陽神赫里阿斯的兒子,于是央求赫里阿斯允許他駕著太陽神的四馬金車出游一日,結(jié)果天馬失控,太陽偏離了軌道,植被被烤焦,無數(shù)生靈慘死,大地眼看不保,直至宙斯出手,用閃電擊中法厄同,世界才免于被毀滅。

尤瓦爾試圖用這個(gè)故事發(fā)出警示:人工智能或許就是那匹人類根本無法駕馭的天馬,一旦失控,災(zāi)難會洶涌而至。

人類是地球上最聰明的動物,也是最愚蠢的動物,而人類遇到的問題,歸根結(jié)底是信息問題?;谶@個(gè)判斷,尤瓦爾給出的解決方案是:在天真的信息觀和民粹主義的信息觀之間,探索一種中間立場,打造強(qiáng)大的自我修正機(jī)制,并通過當(dāng)下的每一個(gè)選擇,將非生物智能導(dǎo)向?qū)ι莼欣姆较?,而非致命的錯(cuò)誤結(jié)局。

人工智能到底是打開了潘多拉的魔盒,還是開啟了新世界的大門?答案或許正如尤瓦爾所言:“歷史的軌跡無比開放,可以彎向任何方向、走向任何地點(diǎn)。”

作者:石菲
本文由人人都是產(chǎn)品經(jīng)理作者【雪豹財(cái)經(jīng)社】,微信公眾號:【雪豹財(cái)經(jīng)社】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自Unsplash,基于 CC0 協(xié)議。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 這篇文章真是讓人深思,尤瓦爾·赫拉利對人工智能和信息網(wǎng)絡(luò)的見解太犀利了,對未來的擔(dān)憂也讓人不得不重視。我們真的需要找到平衡真相與秩序的方法,否則人工智能可能會帶來無法預(yù)料的后果。

    來自北京 回復(fù)