主編序

一

無(wú)論生物學(xué)意義上的自然人類(以下簡(jiǎn)稱人類)是否做好準(zhǔn)備，人工智能時(shí)代正逐步走來(lái)，而這恰恰是由人類自身所引起。

初級(jí)的人工智能或許能為人類帶來(lái)便捷，在我國(guó)，或許還能帶來(lái)規(guī)則意識(shí)，甚至法治理念的真正普及。這是因?yàn)�，人工智能的本質(zhì)就是算法，任何算法必然建立在對(duì)某項(xiàng)事物認(rèn)識(shí)的共性與常識(shí)之上。也正是在此意義上，人工智能能為人類服務(wù)，能代替自然人為人類服務(wù)。初級(jí)的人工智能，如果還沒(méi)有深度學(xué)習(xí)能力，或者深度學(xué)習(xí)能力尚不充分，它就難以進(jìn)行諸如自然人價(jià)值判斷與情感判斷的活動(dòng)，比如包含愛(ài)的交流與體驗(yàn)，難以對(duì)疑難案件作出理性裁判，對(duì)案件的漏洞填補(bǔ)與價(jià)值補(bǔ)充等。在此意義上，人工智能產(chǎn)品還主要表現(xiàn)為人工智能物，僅在有限的意義上具有自然人的屬性。但即便是初級(jí)的人工智能，在我國(guó)也具有非常重要的意義，主要表現(xiàn)為規(guī)則意識(shí)與誠(chéng)信觀念的建立。人工智能最核心的大腦就是算法，算法本身便是規(guī)則。初級(jí)人工智能對(duì)人類的服務(wù)就是規(guī)則服務(wù)；而人類要接受人工智能的服務(wù)，就必須接受算法設(shè)定的各種規(guī)則。人工智能，尤其是結(jié)合網(wǎng)絡(luò)運(yùn)用的人工智能，會(huì)促使與提升自然人的規(guī)則意識(shí)，因?yàn)闊o(wú)論自然人在線下是否遵守規(guī)則，也無(wú)論規(guī)則在線下如何難以推行與實(shí)現(xiàn)，只要自然人接受線上服務(wù)，就必須遵守線上規(guī)則；無(wú)論自然人在線下如何不守信，他在線上也必須誠(chéng)實(shí)，否則他就進(jìn)入不了虛擬世界，便也無(wú)從獲得特定人工智能的服務(wù)。在初級(jí)的人工智能時(shí)代，人類仍是核心，是世界的主宰，畢竟自然人仍是規(guī)則的制定者，是人工智能的服務(wù)對(duì)象。

而到了高級(jí)人工智能時(shí)代，即，當(dāng)人工智能能夠進(jìn)入深度學(xué)習(xí)與感情交流，可以進(jìn)行團(tuán)體合作與共同行動(dòng)時(shí)，換句話說(shuō)，當(dāng)人工智能可以改變甚至完全脫離自然人為其設(shè)計(jì)好的初始算法而創(chuàng)制新的算法時(shí)，那時(shí)的人工智能物便實(shí)實(shí)在在地變成了人工智能人。人工智能人如何改變自然社會(huì)，甚至如何引導(dǎo)與影響整個(gè)自然社會(huì)走向，已非自然人所能完全掌控與想象，恐怕也為人工智能人本身所不知。尤其是，當(dāng)人工智能人可以在虛擬世界制定規(guī)則(創(chuàng)制新的算法)，而這種規(guī)則又必然會(huì)影響到自然世界時(shí)，那時(shí)自然世界的主宰到底是人工智能人，還是自然人，或許現(xiàn)在的我們(人類)已經(jīng)難以給出確定答案。那時(shí)的人類在自然世界或虛擬世界中處于何種主體地位，現(xiàn)在的我們也不得而知。當(dāng)人工智能人有了情感交流能力并具有生物生成功能后，在自然人與自然人、人工智能人與人工智能人以及自然人與人工智能人之間的多元關(guān)系中，誰(shuí)來(lái)制定規(guī)則，為誰(shuí)制定規(guī)則，誰(shuí)是自然世界或者虛擬世界的主宰或規(guī)則主體，以及各種形態(tài)主體之間具體的生活樣態(tài)如何等問(wèn)題，可能都遠(yuǎn)遠(yuǎn)超出了我們當(dāng)下的想象，或許那時(shí)的社會(huì)狀態(tài)本身就不可想象！

正是為了認(rèn)真面對(duì)這些問(wèn)題，警惕與體味這些問(wèn)題，以便未來(lái)更好地深入研究或應(yīng)對(duì)這些問(wèn)題，上海人民出版社曹培雷副總編輯、法律與社會(huì)讀物編輯中心蘇貽鳴總監(jiān)、秦堃編輯等及本人一起探討決定編譯人工智能叢書，幫助我國(guó)讀者了解既有的人工智能研究，并以此為切入口對(duì)人工智能進(jìn)行深度了解與學(xué)習(xí)。我們篩選并翻譯了國(guó)外有關(guān)人工智能研究的較有影響力的三部經(jīng)典著作，推介給中國(guó)讀者。這三部著作便是意大利學(xué)者烏戈·帕加羅所著的《誰(shuí)為機(jī)器人的行為負(fù)責(zé)？》、美國(guó)律師約翰·弗蘭克·韋弗所著的《機(jī)器人是人嗎？》以及美國(guó)學(xué)者瑞恩·卡洛、邁克爾·弗魯姆金和加拿大學(xué)者伊恩·克爾編輯的文集《人工智能與法律的對(duì)話》。

二

《誰(shuí)為機(jī)器人的行為負(fù)責(zé)？》一書，由張卉林、王黎黎和筆者共同翻譯。該書通篇都在試圖回答一個(gè)問(wèn)題：誰(shuí)來(lái)承擔(dān)責(zé)任(Who Pays)。作者建構(gòu)了一種分析法律責(zé)任模型。他在刑法、合同法和侵權(quán)法的框架下討論了27種假設(shè)情況，例如刑法中的機(jī)器人士兵、合同法中的外科手術(shù)機(jī)器人以及侵權(quán)法中的人工智能雇員等，目的是分析在不同的情況下設(shè)計(jì)者、生產(chǎn)者、使用者和機(jī)器人之間應(yīng)當(dāng)如何分配責(zé)任。作者還討論了機(jī)器人對(duì)現(xiàn)代法學(xué)體系中的若干重要內(nèi)容帶來(lái)的挑戰(zhàn)，比如刑法中的正義戰(zhàn)爭(zhēng)理論、合同法中的代理資格以及侵權(quán)法中的責(zé)任承擔(dān)。上述問(wèn)題的討論建立在作者對(duì)法律責(zé)任和義務(wù)的概念的分析基礎(chǔ)上，討論法律基礎(chǔ)是否會(huì)受到機(jī)器人技術(shù)的影響。最后，作者討論了作為元技術(shù)的法律，即如何通過(guò)法律實(shí)現(xiàn)對(duì)技術(shù)發(fā)展的控制。

《機(jī)器人是人嗎？》一書由劉海安、徐鐵英和向秦翻譯。該書認(rèn)為，人工智能可以達(dá)到如同與真人一樣進(jìn)行語(yǔ)音交流的程度，并自主學(xué)習(xí)知識(shí)和判斷問(wèn)題。作者討論了人工智能的知識(shí)產(chǎn)權(quán)享有和責(zé)任承擔(dān)問(wèn)題。作者認(rèn)為，面對(duì)人工智能承擔(dān)法律責(zé)任，可以通過(guò)人工智能保險(xiǎn)或儲(chǔ)備基金支付賠償費(fèi)用。如何規(guī)范人工智能？作者以美國(guó)各州對(duì)自動(dòng)駕駛汽車的相關(guān)立法為例，對(duì)未來(lái)人工智能統(tǒng)一立法作出合理預(yù)測(cè)：(1)當(dāng)產(chǎn)品制造商、開(kāi)發(fā)商和人類都沒(méi)有過(guò)錯(cuò)時(shí)，不同體系的機(jī)構(gòu)將會(huì)為涉及人工智能的事故受損者建立賠償或補(bǔ)償基金；(2)至少在初期，很多形式的人工智能產(chǎn)品的使用將被要求獲得執(zhí)照許可背書；(3)在初期，往往需要對(duì)人工智能進(jìn)行人為監(jiān)督，但是最終，只有那些主要用于改善人類表現(xiàn)的人工智能才需要人為監(jiān)督；(4)盡管最初的立法將會(huì)經(jīng)常把人類作為操作者(行為人)，即使這種標(biāo)簽不適用于人工智能的類型，但最終立法會(huì)在以確定操作者責(zé)任為目的時(shí)變得更加細(xì)分；(5)立法將始終區(qū)分用于測(cè)試目的的人工智能和向消費(fèi)者提供的人工智能；(6)立法將始終要求這樣一個(gè)機(jī)制，允許人類脫離人工智能但很容易重新控制人工智能；(7)立法將始終要求在自動(dòng)化技術(shù)失敗時(shí)，人工智能產(chǎn)品能向周圍的人發(fā)出警告；(9)對(duì)采集個(gè)人信息的擔(dān)憂將會(huì)迫使法律要求披露人工智能運(yùn)作時(shí)所收集的信息。

《人工智能與法律的對(duì)話》由陳吉棟、董惠敏和杭穎穎翻譯。本書共分討論起點(diǎn)、責(zé)任、社會(huì)和道德意義、執(zhí)法和機(jī)器人戰(zhàn)爭(zhēng)5個(gè)部分，共14篇論文。其中，大部分是首次在We Robot這一跨學(xué)科會(huì)議上發(fā)布的最新論文。這些論文探討了機(jī)器人的日益復(fù)雜化以及它們?cè)诟鱾�(gè)領(lǐng)域的廣泛部署，重新思考了它所帶來(lái)的各種哲學(xué)和公共政策問(wèn)題、與現(xiàn)有法律制度不兼容之處，以及因此可能引發(fā)的政策和法律上的變化。整本書為我們生動(dòng)地展現(xiàn)了一場(chǎng)內(nèi)容廣泛、啟發(fā)深遠(yuǎn)的對(duì)話，如本書第二部分有關(guān)機(jī)器人行為責(zé)任的講述：F.帕特里克·哈伯德教授《精密機(jī)器人所致人身?yè)p害的風(fēng)險(xiǎn)分配》一文對(duì)普通法應(yīng)對(duì)技術(shù)變革的能力提供了一種樂(lè)觀的評(píng)估：普通法系統(tǒng)包含了內(nèi)部機(jī)制，能夠?yàn)閼?yīng)對(duì)機(jī)器人化的世界作出必要的相對(duì)較小的變化；而柯蒂斯·E.A.卡諾法官在《運(yùn)用傳統(tǒng)侵權(quán)法理論迎接機(jī)器人智能》一文中則提出了截然相反的觀點(diǎn)：傳統(tǒng)的過(guò)失和嚴(yán)格責(zé)任理論不足以應(yīng)對(duì)真正自主性機(jī)器人的挑戰(zhàn)。

需要說(shuō)明的一點(diǎn)是，我們從2017年9月確定翻譯書目，10月組建翻譯團(tuán)隊(duì)，到12月后陸續(xù)落實(shí)版權(quán)并著手翻譯，翻譯時(shí)間可謂十分緊張。叢書譯者多為高�；蛘哐芯繖C(jī)構(gòu)的青年科研教學(xué)人員，需要克服繁重的教學(xué)和科研壓力；加之，所譯著作內(nèi)容涉及法律、計(jì)算機(jī)和倫理等多元且交叉的學(xué)科知識(shí)，遠(yuǎn)遠(yuǎn)超出了多數(shù)譯者所在的法學(xué)學(xué)科領(lǐng)域，翻譯不當(dāng)甚至錯(cuò)誤恐在所難免，在此我們衷心懇請(qǐng)并接受各位讀者、專家批評(píng)指正。

三

2017年7月中華人民共和國(guó)國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，強(qiáng)調(diào)建立保障人工智能健康發(fā)展的法律法規(guī)，妥善應(yīng)對(duì)人工智能可能帶來(lái)的挑戰(zhàn)，形成適應(yīng)人工智能發(fā)展的制度安排�！兑�(guī)劃》為此要求開(kāi)展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等法律問(wèn)題研究，建立追溯和問(wèn)責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。但正如弗魯姆金(Froomkin)指出的，也可能是本譯叢三本書的作者們皆認(rèn)可的：(1)對(duì)于機(jī)器人和監(jiān)管問(wèn)題，現(xiàn)在還為時(shí)尚早；(2)技術(shù)問(wèn)題遠(yuǎn)比律師想象的復(fù)雜，法律、倫理和哲學(xué)問(wèn)題比工程師想象的更有爭(zhēng)議(有時(shí)也更復(fù)雜)；(3)我們要徹底解決這些問(wèn)題的唯一辦法就是擴(kuò)大和深化我們跨學(xué)科的努力。讓世界為機(jī)器人做好準(zhǔn)備的同時(shí)，使機(jī)器人也為世界做好準(zhǔn)備，這必須是一個(gè)團(tuán)隊(duì)項(xiàng)目否則它可能會(huì)變得很糟糕。由此揭示出，對(duì)于人工智能的探討與研究，即便是對(duì)于人工智能的規(guī)范性研究，并非法學(xué)一個(gè)學(xué)科所能勝任。人工智能本身就是一個(gè)具有綜合性、復(fù)雜性、前沿性的知識(shí)、智識(shí)與科學(xué)，它需要幾乎所有的理工與人文社會(huì)科學(xué)學(xué)科進(jìn)行交叉性研究，也需要研究者、實(shí)體技術(shù)者與產(chǎn)業(yè)者等各個(gè)領(lǐng)域的人配合與對(duì)話。法律人在人工智能的研究、開(kāi)發(fā)、規(guī)則制定等各個(gè)環(huán)節(jié)中是不可缺少的一環(huán)，但也僅僅是一個(gè)環(huán)節(jié)，他只有加入人工智能的整體研究與發(fā)展中去，才會(huì)發(fā)揮更大的價(jià)值。我們期待這套譯叢的出版有助于人工智能在法學(xué)及其他領(lǐng)域展開(kāi)深入討論，為跨學(xué)科的對(duì)話甚至團(tuán)隊(duì)合作提供一定程度的助益。

無(wú)論未來(lái)人工智能時(shí)代的社會(huì)生活樣態(tài)如何，無(wú)論人工智能時(shí)代的社會(huì)主體如何多元，多元的主體依然會(huì)形成他們自己的存在哲學(xué)，也許依然需要他們自己的情感系統(tǒng)。無(wú)論未來(lái)的人工智能時(shí)代多么不可預(yù)測(cè)，問(wèn)題的關(guān)鍵還是在于人類的自我與社會(huì)認(rèn)知。就像蘋果公司首席執(zhí)行官蒂姆·庫(kù)克(Tim Cook)在麻省理工學(xué)院(MIT)2017屆畢業(yè)典禮演講中指出的，我并不擔(dān)心人工智能能夠像人一樣思考，我更關(guān)心的是人們像計(jì)算機(jī)一樣思考，沒(méi)有價(jià)值觀，沒(méi)有同情心，沒(méi)有對(duì)結(jié)果的敬畏之心。這就是為什么我們需要你們這樣的畢業(yè)生，來(lái)幫助我們控制技術(shù)。是的，我們或許不知未來(lái)的人工智能是否會(huì)產(chǎn)生包含同情與敬畏的情感，但我們能夠確信的是，即便在人工智能時(shí)代，我們最需要的依然是人類飽含同情與敬畏的愛(ài)！未來(lái)的人工智能時(shí)代無(wú)論是初級(jí)樣態(tài)還是高級(jí)學(xué)習(xí)樣態(tài)，能夠讓多元的主體存在并和諧相處的，能夠把多元主體維系在一起的或許唯有愛(ài)。這個(gè)從古至今在自然世界難以找到確定含義的概念，在虛擬與現(xiàn)實(shí)共處的世界中更是難以獲得其固定內(nèi)涵，但我們唯一知道并可以確信的是，如果沒(méi)有愛(ài)，那么未來(lái)的人工智能時(shí)代就真的進(jìn)入了一個(gè)混沌而混亂的世界！

上海交通大學(xué)凱原法學(xué)院2018年7月10日