技術(shù)世界瞬息萬變。在從事簡單活動方面，機器人和計算機正更加頻繁地取代人類。只要人類僅僅將計算機當作工具，計算機和螺絲刀、汽車或電話之間就沒有任何顯著區(qū)別。但是，隨著計算機變得越來越復(fù)雜，我們開始認為，它們?yōu)槲覀兯伎肌．斢嬎銠C從思考機器(thinking machine)(被編程來執(zhí)行計算等特定思考過程的設(shè)備)進化成不加引號的思考機器(換言之，人工智能)之時，問題開始出現(xiàn)。人工智能就是機器模仿智能行為的能力。

人工智能是在計算機上模擬人類行為和認知的過程。因此，它是對整個智能思維領(lǐng)域本質(zhì)的研究。人工智能研究開始于20世紀40年代和50年代初。從那時起，人工智能實體已經(jīng)成為現(xiàn)代人類生活不可或缺的一部分，它的運行方式比其他普通工具復(fù)雜得多。這些實體會變成危險嗎？事實上，正如上述事件所證明的那樣，它們已經(jīng)成為危險。

人工智能和機器人正在進入日�，F(xiàn)代生活。目前，法院或監(jiān)管部門正面臨上述某些問題。但是，很少有文獻全面地分析并評估具有不同程度自主權(quán)的機器人、機器或軟件的責任。

涉及人工智能系統(tǒng)犯罪的責任概念尚未得到廣泛研究。先進的技術(shù)使社會面臨全新的挑戰(zhàn)，不僅包括技術(shù)挑戰(zhàn)，也包括法律挑戰(zhàn)。特定情況下，人工智能系統(tǒng)的刑事責任理念正是這些挑戰(zhàn)之一，應(yīng)當予以深入探討。其中的主要問題是，誰應(yīng)該對涉及人工智能系統(tǒng)的犯罪承擔刑事責任。答案可能包括程序員、制造商、用戶，或許還有人工智能系統(tǒng)本身。

2009年，我在美國和澳大利亞發(fā)表了幾篇具體探討該問題的文章。這些文章探討的具體內(nèi)容似乎對開啟該問題的學(xué)術(shù)討論發(fā)揮了重要作用。這些文章的主要思想是，刑法不應(yīng)該改變技術(shù)，而是應(yīng)該主動適應(yīng)現(xiàn)代技術(shù)的發(fā)展。我的文章還呼吁思考并反思對機器和軟件賦予刑事責任的理念。也許，并不應(yīng)該對機器賦予刑事責任，但是，如果刑法的基本定義沒有改變，那么這一怪異的結(jié)果卻是不可避免的。

我的每篇文章都獲得了許多評論，對此，我需要對這一理念進行限制性概括。該理念的第一個概括是，它僅限于有形機器人，這些機器人配有人工智能軟件，實施殺人罪的具體犯罪，而且并非衍生性刑事責任(derivative criminal liability)。　2013年，拙著《當機器人殺人之時》(When Robots Kill)由新英格蘭大學(xué)出版社(UPNE)和東北大學(xué)出版社在美國合作出版。盡管該書是一本學(xué)術(shù)性書籍，但它的目標受眾卻旨在涵蓋法律學(xué)者之外的廣大讀者。

這本書被認為是具有創(chuàng)新性的�！度A盛頓郵報》(Washington Post)、《波士頓環(huán)球報》(Boston Globe)、《紀事評論》(the Chronicle Review)譯者注：《紀事評論》(the Chronicle Review)是《高等教育紀事報》(the Chronicle of Higher Education)的下屬雜志，涵蓋文化、學(xué)術(shù)趨勢、出版、高等教育政策和學(xué)術(shù)生活等領(lǐng)域。和《喧囂》(the Hustle)譯者注：《喧囂》(the Hustle)是美國同名公司為政治、高等教育和非營利組織等領(lǐng)域提供的一款點對點文本消息平臺。等媒體均發(fā)表過相關(guān)書評。相關(guān)評論更是不勝枚舉。其中，一些評論呼吁對這一問題進行最終的、全面的學(xué)術(shù)概括，不局限于有形機器人，亦不局限于殺人罪，應(yīng)涉及衍生刑事責任問題。

但是，隨著機器人的使用與日俱增，更多的問題不斷涌現(xiàn)。雖然《當機器人殺人之時》已經(jīng)給出明確答案，但法律界之外的同事和科學(xué)家邀請我撰寫一部新的專著。這次是關(guān)于人工智能系統(tǒng)。于是，拙著《涉人工智能系統(tǒng)犯罪的責任》(Liability for Crimes Involving Artificial Intelligence Systems)于2015年由斯普林格(Springer)出版社在歐洲出版。

10人工智能技術(shù)界對法律問題的認識也相應(yīng)有所提高。很多學(xué)術(shù)論壇(文章和學(xué)術(shù)講座)以及學(xué)術(shù)論壇之外的其他場合(包括高科技產(chǎn)業(yè)和志同道合之士)，都邀請我解釋如何實施這些理念�，F(xiàn)在的情況似乎是，學(xué)術(shù)界之外的公眾所要求的答案，確實是官方法律系統(tǒng)無法提供的。

2016年和2017年，匈牙利布達佩斯腦吧(Brain Bar)譯者注：腦吧節(jié)創(chuàng)立于2015年，融合技術(shù)會議和音樂節(jié)的年度盛大節(jié)日，專注于自由交換思想而非單向溝通，鼓勵觀眾直接與演講者溝通，旨在創(chuàng)造一個具有挑戰(zhàn)性、智力性和包容性的環(huán)境。2018年，該活動吸引來自世界各地的10000多名參會者以及超過38000人的直播觀眾。公開節(jié)兩次邀請我就相關(guān)問題發(fā)表演講(2016年：涉及殺人罪的機器人；2017年：與機器人的愛與性)。2018年，鑒于超級智能和后生物學(xué)(post biology)的發(fā)展，羅馬尼亞布加勒斯特的特德克斯(TEDx)邀請我就思考的未來發(fā)表演講。當然，我還接受了很多其他邀請。每次，我都能感覺到人們對答案的渴望。這種渴望如此真實，它與我在美國和歐洲關(guān)于這個問題的學(xué)術(shù)講座中所感受到的學(xué)術(shù)界對答案的渴望毫無差別。

2019年，上海人民出版社邀請我向中國讀者介紹這些理念。不過，在此期間，人工智能已經(jīng)出現(xiàn)了全新的發(fā)展，它們應(yīng)當納入新的專著之中。于是，本書應(yīng)運而生。

我們所需要的是一本專業(yè)的學(xué)術(shù)教科書來解決這個問題，盡管它可能不太適合廣大公眾閱讀。這本書是對這一問題最終的、全面的學(xué)術(shù)概括。這本書表達的整體理念涉及所有類型的先進人工智能系統(tǒng)(自主運行的系統(tǒng)和遵循計劃的系統(tǒng))的所有類型的犯罪的所有刑事責任模式(直接責任和衍生責任)。涉及這些犯罪的人工智能系統(tǒng)可能是主犯、共犯，也可能僅僅是犯罪工具。本書的主要觀點之一是，或許至少目前尚不應(yīng)當賦予技術(shù)系統(tǒng)刑事責任。但是，如果刑法的基本定義沒有改變，那么這種怪異的結(jié)果則是不可避免的。

本書的目的是發(fā)展出關(guān)于人工智能和機器人刑事責任的綜合的、一般的和復(fù)雜的法學(xué)理論。除了人工智能實體本身之外，該理論還涵蓋制造商、程序員、用戶和所有其他相關(guān)實體。通過對現(xiàn)有刑法原則的確認和類比，11該理論提出在各種合理狀況下由各種自主技術(shù)承擔刑事責任的具體思維方式。

第一章包括一些基本概念的探索，本書展開的后續(xù)章節(jié)均以這些概念為基礎(chǔ)予以構(gòu)建。本書討論兩個主要問題：(1)什么可以被認為是人工智能實體？(2)追究刑事責任的必要條件是什么？

因為刑法并不依賴于道德(moral accountability)，所以關(guān)于機器道德責任的爭論與這些問題無關(guān)。雖然，有時刑事責任、某些類型的道德責任和某些類型的倫理責任之間存在重疊，但對于追究刑事責任而言，這只是巧合，而非必要。

刑法適用于機器的問題還涉及兩個相互關(guān)聯(lián)的次要問題：(1)刑事責任是否適用于機器？(2)刑事處罰是否適用于機器？

第一個問題是刑法的核心問題，是否追究刑事責任取決于是否滿足刑事責任的要求。只有滿足刑事責任的要求，懲罰即人類社會如何懲罰機器的問題才會出現(xiàn)。本書中提出的答案對這兩個問題都是肯定的。第二章至第五章研究第一個問題，第六章研究第二個問題。如果接受本書中的肯定答案，那么事實上，我們已創(chuàng)造了一個全新的社會實體，即機械犯罪人(machina sapiens criminalis)。譯者注：machina sapiens criminalis是作者原創(chuàng)詞匯，源自machina sapiens(可譯作機器智人、機械智人)。因一般在生物史學(xué)中多嚴格使用智人(sapiens)，通常語境亦可譯作人(sapiens)，另與robot(機器人)相區(qū)別，并借鑒電影《機械姬》(Ex Machina)的內(nèi)容和譯法，machina sapiens在本書中譯作機械人。machina sapiens criminalis是machina sapiens中的特殊主體，對應(yīng)于犯罪人與人，故machina sapiens criminalis在本書中譯作機械犯罪人。第一章研究機械犯罪人的出現(xiàn)。最后，本書的研究回答以下問題，即人工智能實體是否可以被認為應(yīng)對犯罪行為承擔法律責任(如果不是道德責任的話)，并應(yīng)受到刑事處罰。

本書聚焦于人工智能實體的法律責任，故而并未正式涉足倫理(包括機器人倫理)和道德的相關(guān)領(lǐng)域。然而，本書中關(guān)于刑事責任的討論為深入考慮相關(guān)倫理問題奠定了基礎(chǔ)。鑒于日常生活中人工智能實體數(shù)量不斷增加，這些探討將是必要的。對此，本書構(gòu)建了一個應(yīng)有的框架，有助于對這些問題進行具體性和功能性的探討。

我非常感謝上海人民出版社邀請我向中國讀者介紹這些理念。另外，我非常感謝陳萍博士將書稿翻譯成中文。最后，我非常感謝我的女兒們哈蕾爾和阿里爾，感謝她們一直以來與我展開碩果累累的探討。

以色列奧諾學(xué)院(Ono Academic College)法學(xué)院教授加布里埃爾·哈列維 推薦序 非常高興看到《審判機器人》的中文翻譯能夠成功出版。人工智能的刑事責任問題是我最早關(guān)注并將其作為重點研究主題的。近年來，本人的相關(guān)論作在國內(nèi)外學(xué)術(shù)界業(yè)已形成一定規(guī)模、特色和影響。本書作者哈列維教授的很多論證和觀點與我不謀而合，閱讀本書時，頗有惺惺相惜、相見恨晚之感。

第一，關(guān)于人工智能社會風(fēng)險的刑法應(yīng)對。我的主要觀點是，面對人工智能技術(shù)現(xiàn)在已經(jīng)帶來和將來可能產(chǎn)生的風(fēng)險，刑法應(yīng)發(fā)揮為社會穩(wěn)定健康發(fā)展保駕護航的作用。對于智能機器人的研發(fā)者和使用者的行為，以及智能機器人產(chǎn)生獨立意識和意志之后自主決定并實施的嚴重危害社會的行為，刑法的干預(yù)和刑罰的設(shè)置應(yīng)保持適當?shù)南薅�，既不能讓濫用人工智能技術(shù)的行為破壞社會的穩(wěn)定發(fā)展，又不能讓刑法的過度干預(yù)阻滯人工智能技術(shù)的創(chuàng)新。哈列維教授也持相似觀點，他在書中表達的整體理念涉及所有類型的先進人工智能系統(tǒng)(自主運行的系統(tǒng)和遵循計劃的系統(tǒng))的所有類型犯罪的所有刑事責任模式(直接責任和衍生責任)。書中的核心觀點是也許目前尚不應(yīng)當賦予人工智能實體獨立的刑事責任，但隨著人工智能技術(shù)的突飛猛進，將來讓人工智能實體獨立承擔刑事責任這一結(jié)果是不可避免的。

第二，關(guān)于智能機器人的刑事責任主體地位。我的主要觀點是，在弱人工智能時代，智能機器人在設(shè)計和編制的程序范圍內(nèi)實施嚴重危害社會的行為，實際上是研發(fā)者或使用者行為的延伸，應(yīng)當由研發(fā)者或使用者承擔刑事責任。與傳統(tǒng)犯罪相比，研發(fā)者或使用者之間的刑事責任分配會隨著智能機器人智能的增長而有所不同。智能機器人智能的增長還會影響對行為人量刑的輕重，甚至可能影響對行為人行為的性質(zhì)判斷。智能機器人在自主意識和意志的支配下超出設(shè)計和編制的程序范圍實施嚴重危害社會的行為時，應(yīng)將其作為刑事責任主體進行刑罰處罰。對此，哈列維教授從犯罪事實要素和心理要素要求的角度，分別論證(1)強人工智能實體(即自主運行的人工智能系統(tǒng))不但能夠符合犯罪事實要素(行為、情節(jié)、后果)的要求，同時也能夠符合心理要素(故意、過失、嚴格責任)的要求，應(yīng)當獨立承擔刑事責任。在此基礎(chǔ)上，哈列維教授還進一步探討了一般抗辯對人工智能系統(tǒng)的適用性問題。(2)弱人工智能實體(即不能自主運行的人工智能系統(tǒng))由于不具有犯罪所要求的形成心理要素的能力，不能獨立承擔刑事責任。對此，人工智能實體和自然人共同犯罪時的責任分配，哈列維教授認為可以適用間接正犯、可能的后果責任等理論。

第三，關(guān)于智能機器人刑罰處罰的機制配置。我的主要觀點是，我國現(xiàn)有刑罰體系是由生命刑、自由刑、財產(chǎn)刑和權(quán)利刑構(gòu)成，刑罰處罰對象及刑罰處罰方式均無法也不能涵括智能機器人。重構(gòu)我國刑罰體系并將智能機器人納入刑罰處罰的范圍符合刑罰的目的，同時也符合人工智能時代發(fā)展的需要且并未違背基本法理。建議增設(shè)能夠適用于智能機器人的刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰處罰方式，并在條件成熟時增設(shè)適用于智能機器人的財產(chǎn)刑或者權(quán)利刑等刑罰處罰方式。哈列維教授則是從現(xiàn)有的死刑、監(jiān)禁、緩刑、公共服務(wù)和罰金等刑罰制度出發(fā)，論證這些刑罰適用于人工智能實體的可行性。

本書中，哈列維教授對每章的論述都契入了人工智能現(xiàn)實應(yīng)用場景中可能發(fā)生的犯罪案例，并提供了各個案例的理論解答。這種論證方式使得原本稍顯晦澀的教科書類學(xué)術(shù)書籍，更加活潑生動，更加便于理解，也更加適合非專業(yè)的廣大讀者。

總體而言，本書的整體論證全面而系統(tǒng)，理論構(gòu)建深入而細致，引用案例豐富而經(jīng)典。我相信，這本譯著的出版十分有助于推動國內(nèi)學(xué)者對哈列維教授理論的認知，十分有助于拓寬國內(nèi)學(xué)者對人工智能與刑法關(guān)系問題的研究視野，十分有助于促進國內(nèi)外有識之士學(xué)術(shù)互動的進一步深入。人類社會正處于承舊時代在前、啟新時代于后的弱人工智能時代，回顧、梳理、展望人工智能與刑事責任的昨天、今天與明天，不僅可能，且意義重大。

本書譯者陳萍博士在南京大學(xué)法學(xué)院連續(xù)接受法學(xué)本科、碩士和博士教育，具有牢固的法學(xué)理論基礎(chǔ)，同時，兩次赴法深造，精通英語和法語，能夠潛心鉆研學(xué)術(shù)。我是陳萍博士的博士后合作導(dǎo)師，經(jīng)過這兩年的師生交流，我對她的學(xué)術(shù)能力和學(xué)術(shù)態(tài)度非常肯定。她的翻譯行文流暢、邏輯分明，顯示出良好的遣詞造句功力，我深以為可。期待她能以本次翻譯為契機，繼續(xù)深度拓展人工智能與刑法關(guān)系問題的研究。

是為序。

劉憲權(quán)華東政法大學(xué)刑事法學(xué)研究院院長，教授，博士生導(dǎo)師2019年5月20日于上海