前言
新算法經(jīng)濟(jì)時(shí)代
反對(duì)算法裁決!
位于倫敦核心地帶,西敏寺之旁,距離世界著名的大本鐘只有一箭之地,有一條古老的街道名為大史密斯街,與泰晤士河并行。如同那條河流,這條街道見(jiàn)證了這座城市的繁榮歷程其中自然也包括了信息技術(shù)的壯麗篇章。阿達(dá)·洛芙萊斯,被尊譽(yù)為全球首位計(jì)算機(jī)程序員,于1815年12月在這片土地降生。約一個(gè)世紀(jì)之后的1912年6月,現(xiàn)代計(jì)算機(jī)科學(xué)之父艾倫·圖靈(Alan Turing),因在二戰(zhàn)中破解恩尼格瑪密碼機(jī)而聲名鵲起,同樣在這附近出生。洛芙萊斯和圖靈展現(xiàn)了算法之美及其改變世界的潛能。他們或許曾在這條充滿歷史的街道上漫步,沉浸在工作的思考中。
但在2020年8月16日的那個(gè)星期日,這條街的平靜被徹底打破。與洛芙萊斯和圖靈生活時(shí)期的寧?kù)o形成鮮明對(duì)比,那天的街道充滿了動(dòng)蕩與不安。
反對(duì)算法裁決!呼聲傳遍大街小巷。
數(shù)百名學(xué)生在大史密斯街 20 號(hào)的教育 部門(mén)前聚集,表達(dá)著他們對(duì)現(xiàn)狀的強(qiáng)烈不滿。這批學(xué)生不幸成為預(yù)測(cè)性算法的受害者,這種算法決定了他們的未來(lái),而他們堅(jiān)決不接受此種安排。
那么,究竟什么是算法?從本質(zhì)上定義,算法是一系列用于解決問(wèn)題或執(zhí)行特定任務(wù)的有序步驟。如果用日常的語(yǔ)言來(lái)描述,我更喜歡把它看作計(jì)算機(jī)執(zhí)行任務(wù)的食譜。沒(méi)有算法,計(jì)算機(jī)就失去了功能性。它們依賴算法執(zhí)行計(jì)算、做出預(yù)測(cè)、優(yōu)化流程,以及完成為人類生活帶來(lái)便利的眾多任務(wù)。有的算法簡(jiǎn)單易懂,而有的則復(fù)雜到連領(lǐng)域?qū)<乙矡o(wú)法完全掌握。
反對(duì)算法裁決!
讓我們?cè)倩氐竭@場(chǎng)發(fā)生在大史密斯街的事件。
2020年,受到疫情的沖擊,英國(guó)的學(xué)生無(wú)法參加他們的A-level和GCSE(分別相當(dāng)于中國(guó)的高考和中考)考試。這些考試對(duì)他們的未來(lái)至關(guān)重要,因?yàn)榇蟛糠执髮W(xué)都是以這些成績(jī)?yōu)殇浫∫罁?jù)的。如果學(xué)生的成績(jī)不達(dá)標(biāo),他們可能會(huì)失去進(jìn)入心儀大學(xué)的機(jī)會(huì)。
為了解決這一難題,英格蘭的資格和考試監(jiān)管機(jī)構(gòu)(Office of Qualifications and Examinations Regulation,簡(jiǎn)稱 Ofqual)決定采用一種算法來(lái)估測(cè)學(xué)生因新冠疫情缺失的考試成績(jī)。此算法的具體操作流程如下:首先,根據(jù)教師為學(xué)生預(yù)測(cè)的分?jǐn)?shù)和學(xué)生在學(xué)校的綜合排名作為輸入數(shù)據(jù)。隨后,將學(xué)校在過(guò)去3年的歷史成績(jī)分布作為參考。最終,結(jié)合學(xué)生在相應(yīng)科目之前的考試成績(jī)進(jìn)行整合和計(jì)算。這是針對(duì)學(xué)校規(guī)模較大的學(xué)生制定的算法策略。對(duì)于規(guī)模較小的學(xué)校,如果某科學(xué)生人數(shù)不超過(guò)15名,算法將僅根據(jù)教師為其預(yù)測(cè)的分?jǐn)?shù)進(jìn)行成績(jī)估算。
這種做法直接引發(fā)了學(xué)生的大規(guī)?棺h。通常在私立學(xué)校中,學(xué)生數(shù)量相對(duì)較少,這部分學(xué)生因?yàn)槭艿浇處煒?lè)觀的評(píng)估預(yù)測(cè),往往會(huì)出現(xiàn)分?jǐn)?shù)過(guò)高的現(xiàn)象:算法根據(jù)教師的預(yù)測(cè)給予了他們較高的成績(jī)。但對(duì)于其他絕大多數(shù)學(xué)生,他們受到歷史固化的影響:如果他們所在的學(xué)校過(guò)去的整體成績(jī)不佳,那么不論這些學(xué)生做出了多大的努力,他們的成績(jī)都可能會(huì)被歷史數(shù)據(jù)所限制。這種算法設(shè)計(jì)的核心是確保成績(jī)與過(guò)去幾年的分布具有一致性。因此,如果在過(guò)去3年內(nèi),某學(xué)校未有A等級(jí)的學(xué)生,那么2020年這所學(xué)校的學(xué)生同樣難以獲得A等級(jí)評(píng)價(jià)。當(dāng)Ofqual公布算法決策結(jié)果時(shí),將近36%的學(xué)生成績(jī)低于教師預(yù)期,且有3%的學(xué)生成績(jī)比預(yù)期低兩個(gè)等級(jí)。這導(dǎo)致約1.5萬(wàn)名學(xué)生失去了進(jìn)入他們首選大學(xué)的機(jī)會(huì),所以,眾多學(xué)生憤然走上街頭,表露對(duì)此的強(qiáng)烈不滿。
學(xué)生們的努力最終得到了回應(yīng)。在8月17日,也就是抗議開(kāi)始的第二天,Ofqual 宣布接受提議,決定以教師預(yù)測(cè)的分?jǐn)?shù)為準(zhǔn),而非算法計(jì)算出的成績(jī)。想象一下,無(wú)數(shù)學(xué)生的人生軌跡都將因這個(gè)決定而改變。
類似 Ofqual 這樣的組織有很多,包括小型企業(yè)、跨國(guó)公司和政府機(jī)關(guān),都試圖借助算法優(yōu)化其運(yùn)作流程。但在實(shí)踐中他們往往顯得力不從心。一個(gè)普遍的趨勢(shì)是:他們過(guò)于依賴一個(gè)尚未完善的算法,賦予它過(guò)多的決策權(quán)。
洛芙萊斯或圖靈能否預(yù)測(cè)到在21世紀(jì)人們會(huì)因?yàn)橐粋(gè)算法的冷漠和機(jī)械化處理而走上街頭?鑒于他們獨(dú)到的前瞻性,或許他們也曾有過(guò)此種預(yù)感。
當(dāng)我親眼見(jiàn)證那場(chǎng)震撼的抗議活動(dòng)時(shí),我深深感受到:算法不再只是指定計(jì)算機(jī)操作流程的簡(jiǎn)單代碼。雖然從技術(shù)維度來(lái)說(shuō),這是它們的核心功能,但其在實(shí)際生活中的影響力已經(jīng)超越了這個(gè)界定,F(xiàn)如今,算法已經(jīng)重塑了我們的日常生活、職業(yè)習(xí)慣乃至思維模式。有時(shí),它們的失誤會(huì)讓人深感失望,迫使我們重新審視其價(jià)值;但在其他時(shí)刻,它們也為我們創(chuàng)造了前所未有的便捷。它們?cè)谏顚哟紊希踔潦窃谖覀冞未完全認(rèn)識(shí)的維度上,正在重新定義我們的生活方式。我們真實(shí)地生活在算法經(jīng)濟(jì)時(shí)代。
當(dāng)我在2023年初完成這本書(shū)的初稿時(shí),全社會(huì)都在深入研究 GPT-4(另一個(gè)算法)所帶來(lái)的深遠(yuǎn)影響,它是一種表現(xiàn)出卓越智能的先進(jìn)算法。為 ChatGPT 提供動(dòng)力的正是這種算法,讓其具備與人類流暢交談、作詩(shī)、解析復(fù)雜邏輯、深入闡述抽象觀點(diǎn),乃至下棋的能力。當(dāng) ChatGPT 于2022年底正式發(fā)布時(shí),它立即受到了廣泛的歡迎,同時(shí)也引起了廣泛的關(guān)注:部分教育組織決定禁止其在所屬學(xué)校的使用,許多高校也轉(zhuǎn)向了傳統(tǒng)的紙質(zhì)考試模式,甚至一些人工智能學(xué)術(shù)研討活動(dòng)也提醒研究者應(yīng)對(duì)這種算法持謹(jǐn)慎態(tài)度。
在本書(shū)寫(xiě)作中,我使用一款先進(jìn)算法編寫(xiě)了其中零星的一兩段文字在不久之前,此類合作簡(jiǎn)直難以想象,幾乎超越了認(rèn)知。這恰如當(dāng)今社會(huì)的一個(gè)寫(xiě)照。我們?cè)絹?lái)越依賴技術(shù),允許它以更多元化的方式為我們做出決策、執(zhí)行任務(wù)。簡(jiǎn)單來(lái)說(shuō),我們正在逐漸賦予技術(shù)更多的代理權(quán)。然而,困境在于:我們對(duì)技術(shù)的這種代理性質(zhì)感到陌生,甚至有些無(wú)法適應(yīng)。作為一個(gè)種族,我們并沒(méi)有在一個(gè)需要與具有自我決策能力的工具共同進(jìn)化的環(huán)境中生長(zhǎng)。你能想象一把會(huì)自主移動(dòng)的鐵鍬嗎?如果真有這樣的工具,你可能會(huì)認(rèn)為它帶有某種神秘或是不祥之力。令人深思的是,我們對(duì)算法可能也持有類似的感覺(jué)。
如果我們僅將技術(shù)視為工具,而不是代理,那么理解這個(gè)世界似乎會(huì)變得更容易。比如說(shuō),當(dāng)我們用特定的軟件處理稅務(wù)時(shí),我們將其視為一種輔助性工具我們并不希望它在沒(méi)有我們的明確指示下自動(dòng)提交稅單,正如真正的稅務(wù)代理所做的那樣。但事實(shí)上,對(duì)有些技術(shù)我們確實(shí)賦予了廣泛的代理權(quán)。拿NASA(美國(guó)國(guó)家航空和航天局)在2020年的火星毅力號(hào)探測(cè)器為例作為太陽(yáng)系中最先進(jìn)的機(jī)器人之一,它在這顆紅色星球上探索,尋找古老生命的跡象,收集巖石和土壤樣本,并為返回地球做準(zhǔn)備。毅力號(hào)配備了能在無(wú)人指揮的情況下獨(dú)立完成任務(wù)的自主系統(tǒng)。在火星,它無(wú)疑是我們的觀察與行動(dòng)的代理人。盡管它仍然定期接收來(lái)自地球的指令,但在某些情況下,它也會(huì)依賴自己的邏輯做出決策這種獨(dú)立性質(zhì)使其成為一個(gè)代理人。
隨著科技的進(jìn)步,越來(lái)越多的設(shè)備能夠在無(wú)須人工干預(yù)的情境下自主操作。與此同時(shí),技術(shù)的復(fù)雜程度也在快速上升,有些已經(jīng)讓大多數(shù)人感到難以理解。
假設(shè)你使用了一個(gè)智能助手不論是亞馬遜的Alexa、蘋(píng)果的Siri還是谷歌助手你其實(shí)已經(jīng)讓它在無(wú)須你親自干預(yù)的情況下替你做出選擇。比如,你可能希望它在晚餐時(shí)播放自己和朋友喜歡的音樂(lè)。為此,它可能會(huì)采用所謂的推薦系統(tǒng)技術(shù),這一技術(shù)廣泛應(yīng)用于視頻流和社交媒體的應(yīng)用程序中。你能自信地說(shuō)我完全了解它為何播放了這些歌曲,我能解釋每首歌曲背后的推薦算法嗎?可能你做不到盡管我投入了多年研究,并構(gòu)建這類系統(tǒng),也一樣做不到。在大多數(shù)情況下,智能助手會(huì)基于多種維度來(lái)判斷:比如你過(guò)去的音樂(lè)播放記錄、你現(xiàn)在的可能喜好以及目前的流行曲目。甚至,它可能會(huì)隨機(jī)為你推薦些全新的音樂(lè)內(nèi)容。
同樣地,若你駕駛的是一輛具有自動(dòng)駕駛功能的車,你也未必能完全掌握它在各種駕駛場(chǎng)景中變道或減速的決策邏輯。而如果你手持一部智能手機(jī),有時(shí)可能也會(huì)感到疑惑:為何手機(jī)在白天可以準(zhǔn)確識(shí)別我的面部,但當(dāng)我剛醒來(lái)時(shí)卻不能?
明白了嗎?解釋技術(shù)背后的運(yùn)作機(jī)制通常比表面看上去的要復(fù)雜得多。英國(guó)科幻作家阿瑟·C.克拉克(Arthur C. Clarke)有過(guò)這樣的名言:任何足夠先進(jìn)的技術(shù)都與魔法無(wú)異。這就像那種仿佛可以自動(dòng)劈柴的神奇斧頭。
當(dāng)我們頻繁地使用那些我們并不完全理解的技術(shù)時(shí),它們可能會(huì)產(chǎn)生出乎意料的效果。這是否意味著我們不應(yīng)該深究所使用的算法的內(nèi)部工作機(jī)制,而僅僅期待它們總是為我們做出正確的決策?我猜你應(yīng)該已經(jīng)知道我的立場(chǎng)了,而我也覺(jué)得可以預(yù)測(cè)你的答案,因?yàn)槟阏陂喿x這本書(shū)。
在算法日益占據(jù)決策中心的這個(gè)時(shí)代,我們必須保持警惕,確保自己的決策權(quán)不被剝奪。而要做到這一點(diǎn),關(guān)鍵就是深入理解這個(gè)新興的領(lǐng)域:算法經(jīng)濟(jì)。這正是本書(shū)所要深入探討的內(nèi)容。
我們將了解算法代理如何在復(fù)雜游戲中擊敗世界冠軍,以及它們是如何決定誰(shuí)進(jìn)監(jiān)獄,而誰(shuí)又能獲釋的。我們將遇到那些被算法聘用和解雇的人,還會(huì)遇到因?yàn)樗惴ê蜋C(jī)器人的幫助,現(xiàn)在能夠從事以前難以企及的工作的人。我們將審視算法如何投資我們的資金,而它們卻因?yàn)楹?jiǎn)單的程序錯(cuò)誤使我們損失驚人的金額。此外,我們將探索算法如何構(gòu)思和設(shè)計(jì)新產(chǎn)品……同時(shí)保持我們的冰箱食物充足。
這本書(shū)中的一些故事令人振奮和樂(lè)觀:算法為包容性創(chuàng)造了機(jī)會(huì),為受戰(zhàn)爭(zhēng)影響的社區(qū)提供了組織支持,并激勵(lì)著我們。另一些則更具警示性,甚至令人不安:算法試圖破壞婚姻,拒絕向無(wú)辜公民支付社會(huì)保障金,并被用作破壞整個(gè)政治體系穩(wěn)定的武器。但請(qǐng)不要期望這本書(shū)會(huì)存在任何一個(gè)方向上的偏見(jiàn)。盡管我曾經(jīng)在硅谷的技術(shù)領(lǐng)域工作,但我不是技術(shù)狂熱者。盡管我曾見(jiàn)證過(guò)一些存在嚴(yán)重問(wèn)題的技術(shù),但我也不是技術(shù)恐慌者。我的目標(biāo)是向你呈現(xiàn)一個(gè)平衡的畫(huà)面,并讓你認(rèn)識(shí)到我對(duì)平衡的看法可能與你的不同。
無(wú)論對(duì)技術(shù)的潛在優(yōu)勢(shì)或挑戰(zhàn)持有怎樣的觀點(diǎn),我們都無(wú)法忽視算法對(duì)日常生活產(chǎn)生的深遠(yuǎn)影響。我們需努力去理解這種影響,探討我們能夠怎么做,以及應(yīng)如何應(yīng)對(duì)。
身為數(shù)字經(jīng)濟(jì)學(xué)的教授,我與全球技術(shù)領(lǐng)軍者攜手并肩二十載,并曾與硅谷那些最具創(chuàng)新精神的數(shù)字領(lǐng)域先驅(qū)們有著緊密的合作。因此,經(jīng)常有人邀請(qǐng)我分享關(guān)于算法經(jīng)濟(jì)的洞見(jiàn)。
在漫長(zhǎng)的職業(yè)歷程中,我目睹了算法如何深刻地重塑我們的生活和商業(yè)模式,并在此過(guò)程中深深影響著個(gè)體和企業(yè)。只有對(duì)這些高度復(fù)雜的工具有深入理解,我們才能充分挖掘它們的潛能,使其更好地服務(wù)于廣大社會(huì)。有些人正在積極參與算法的創(chuàng)造,而對(duì)于不直接涉及此領(lǐng)域的我們,作為用戶、消費(fèi)者和責(zé)任心強(qiáng)烈的公民,所做的選擇也至關(guān)重要。
在接下來(lái)的章節(jié)中,我們將深入探討那些生動(dòng)的實(shí)例這些實(shí)例源于我與各大企業(yè)、政府部門(mén)和各類組織的深度合作,它們呈現(xiàn)了算法如何催生或限制我們的發(fā)展步伐。這些實(shí)例生動(dòng)展現(xiàn)了我們當(dāng)前面臨的最引人注目、與算法聯(lián)系最為密切的相關(guān)問(wèn)題。部分故事宛如科幻杰作般震撼,但它們絕非空想。它們正在我們周圍持續(xù)上演。我們需要了解這些似乎不可思議的工具如何迅速地重塑著我們的世界。
我曾為眾多客戶從中小企業(yè)到如思愛(ài)普(SAP)、花旗銀行和微軟這樣的全球巨擘解讀并挖掘算法所蘊(yùn)藏的價(jià)值。我同樣也期望能為你提供有益的指導(dǎo)。在本書(shū)中,我將分享如何應(yīng)對(duì)日益變化的數(shù)字環(huán)境,以及如何借助算法的力量創(chuàng)造更加美好未來(lái)的知識(shí)、策略和見(jiàn)解。無(wú)論你是企業(yè)的決策層、領(lǐng)域內(nèi)的前沿專家,還是只想更好地了解算法在日常生活中的作用,本書(shū)都是為你精心撰寫(xiě)的。
那么,讓我們一起踏上這次的探索之旅吧!
前言:新算法經(jīng)濟(jì)時(shí)代 / 001
第一篇 我們是如何走到今天的? / 001
第一章算法的律動(dòng) / 003
早期的嘗試 / 007
黑匣子的難題 / 012
一切如何發(fā)展 / 016
未來(lái)常令人揣摩難定 / 020
第二章新的代理人進(jìn)入了經(jīng)濟(jì)領(lǐng)域 / 025
從企業(yè)經(jīng)濟(jì)到算法經(jīng)濟(jì)的演變 / 027
舊時(shí)代的余音 / 030
力量源于民眾 / 033
算法時(shí)代的新典范 / 036
收入自動(dòng)化 / 040
持續(xù)的創(chuàng)新 / 042
關(guān)系的飽和 / 042
第三章探尋數(shù)字化前沿 / 045
為何出現(xiàn)在當(dāng)下? / 047
它們確實(shí)是活的! / 048
數(shù)字編排 / 055
現(xiàn)金還是刷卡? / 059
第四章如何在冰箱上進(jìn)行精準(zhǔn)廣告推送? / 065
數(shù)字仆人 / 066
我們已經(jīng)深深地被這些算法包圍 / 070
主動(dòng)響應(yīng)算法 / 071
算法購(gòu)物的世界 / 075
算法背后的微妙之處 / 081
第五章算法是否真的能替代你的工作? / 084
自動(dòng)化崛起之路:基層創(chuàng)新引領(lǐng)浪潮 / 087
究竟是誰(shuí)在背后操控這一切? / 092
需要找經(jīng)理處理問(wèn)題嗎? / 096
對(duì)數(shù)字化的反思 / 100
第六章算法是否會(huì)夢(mèng)到電子羊? / 104
成為一名探索者 / 109
算法的革新變革 / 112
關(guān)于無(wú)人機(jī)構(gòu)的設(shè)想 / 118
那么,事情到底是怎么發(fā)展的? / 122
第三篇 算法時(shí)代的九大法則 / 129
第七章成為數(shù)字代理的主人:實(shí)現(xiàn)收入自動(dòng)化 / 131
法則 1:堅(jiān)定但有意識(shí)地自動(dòng)化 / 135
法則 2:建立一支數(shù)字仆人軍隊(duì) / 138
法則 3:賦權(quán)你的團(tuán)隊(duì) / 142
第八章永遠(yuǎn)充滿好奇:持續(xù)進(jìn)化 / 148
法則 4:推出新的價(jià)值主張 / 151
法則 5:?jiǎn)?dòng)數(shù)字化進(jìn)化 / 155
法則 6:保持好奇 / 160
第九章勇敢地保持樂(lè)觀:提高關(guān)系飽和度 / 168
法則 7:最大化客戶價(jià)值 / 171
法則 8:構(gòu)建數(shù)字生態(tài)系統(tǒng) / 174
法則 9:創(chuàng)造一個(gè)大膽的未來(lái) / 176
結(jié)論:人類的主導(dǎo)地位 / 181
致 謝 / 184