人工智能在為人類生活帶來便利的同時，對社會提出了新的挑戰(zhàn)。著名理論物理學(xué)家霍金曾說過：“發(fā)明AI（人工智能）可能會成為人類歷史上最大的災(zāi)難，如果管理不善，會思考的機器可能會為（人類）文明劃上句號?！?/p>

人工智能的研究、開發(fā)、應(yīng)用涉及社會多個方面，也沖擊著法律與社會倫理，該以何種恰當(dāng)形式進行合理規(guī)范和引導(dǎo)，以便將這些技術(shù)真正推向前行并最終服務(wù)于全人類？

法律界人士認為，從法律視角考察人工智能發(fā)展和應(yīng)用，關(guān)鍵是主體性與歸責(zé)方式。主體性，即是否有必要在法律上承認人工智能應(yīng)用主體（通俗意義的機器人）的法律主體地位；歸責(zé)方式，即到底誰該為智能機器人的非人為預(yù)期的行為負責(zé)。比如利用醫(yī)療智能機器人發(fā)生醫(yī)療事故、自動駕駛造成交通事故、智能交易引發(fā)重大失誤等問題，該歸咎于技術(shù)故障、操作不當(dāng)、設(shè)計缺陷，還是機器制造者的失誤、主觀故意，甚至是智能機器人的自主意識？法律該如何約束智能機器人的研發(fā)、制造與應(yīng)用？又該如何判定機器人的法律責(zé)任？人工智能在未來是否可以替代理性思考者，比如法官？

近年來，上海學(xué)者率先對人工智能的相關(guān)法律問題開展研究，形成了一批有影響的研究成果。人工智能與法律領(lǐng)域“獨角獸法學(xué)精品·人工智能”叢書，涵蓋人工智能、大數(shù)據(jù)、區(qū)塊鏈、算法等與法律交叉領(lǐng)域的最新學(xué)術(shù)前沿內(nèi)容。該叢書即將在今年上海書展期間推出第三輯，包括《數(shù)據(jù)的邊界：隱私與個人數(shù)據(jù)保護》《馴服算法：數(shù)字歧視與算法規(guī)制》《人工智能與法律的對話2》三本譯著。

7月9日至11日，世界人工智能大會2020云端峰會將在上海舉辦，“法治”正是分論壇主題之一。圍繞法治分論壇主題“人工智能的權(quán)利義務(wù)與法治實踐”，本月，上海人民出版社發(fā)起“人工智能與法治”專題月讀書會，以“讓人民在每一個司法案件中都能感受到公平正義”“人工智能、大數(shù)據(jù)與社會治理”為題的兩場讀書會，7月3日、4日分別舉辦。

如何讓人民群眾在每個司法案件中感受到公平正義？經(jīng)過三年時間努力，上海政法系統(tǒng)以一套軟件的投入使用回答了這一問題?！吧虾Ｐ淌掳讣悄茌o助辦案系統(tǒng)”（簡稱“206系統(tǒng)”）的誕生，是運用人工智能新技術(shù)破解司法難題、推動司法改革的成功實踐，《人工智能與司法現(xiàn)代化》一書記錄了這一推動司法現(xiàn)代化實踐的全過程。

“206系統(tǒng)”依托大數(shù)據(jù)、云計算等現(xiàn)代科技手段，充分運用圖文識別（OCR）、自然語言理解（NLP）、智能語音識別、司法實體識別、實體關(guān)系分析、司法要素自動抽取等人工智能技術(shù)，實現(xiàn)對刑事案件證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則的統(tǒng)一指引和對證據(jù)進行校驗、把關(guān)、提示、監(jiān)督。上海市法學(xué)會黨組書記、會長，二級大法官崔亞東指出，盡管“206系統(tǒng)”的智能性使其從工具變成了助手，但并不能替代民警辦案、法官判案。人工智能的發(fā)展需要法治作為保障，建立人工智能法治體系。目前階段，將這套輔助辦案系統(tǒng)由刑事推廣至民商事、行政領(lǐng)域，在民法典頒布實施的背景下，意義深遠。只有主動擁抱新科技、運用新技術(shù)，走好融合發(fā)展的道路，才能促進司法文明與公正。

人工智能會給政府治理帶來革命性影響，可稱之為“政府效率革命”。長遠來看，人工智能大量應(yīng)用會減少行政成本，但短期來看卻未必，新基礎(chǔ)設(shè)施的投入使用會造成數(shù)據(jù)存儲成本和運行成本的增加。華東政法大學(xué)人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦提出了一個問題：數(shù)據(jù)是否越多越好？“不僅僅是企業(yè)之間，政府各部門間也存在某種意義上的數(shù)據(jù)競爭。數(shù)據(jù)集中有利于效率，但太過集中可能會導(dǎo)致權(quán)力的濫用；數(shù)據(jù)分散則會形成一定的平衡，但可能會造成彼此‘扯皮’。”

盡管目前的人工智能尚是一種弱人工智能，但并不意味著沒有治理風(fēng)險。上海交通大學(xué)凱原法學(xué)院副教授、上海數(shù)據(jù)治理與安全產(chǎn)業(yè)專業(yè)委員會專家何淵分析了人工智能的五大治理風(fēng)險：隱私保護、數(shù)據(jù)泄露、倫理問題、數(shù)據(jù)戰(zhàn)爭和國家能力。消費者在入住酒店時發(fā)現(xiàn)“同房同天不同價”，實際上是酒店根據(jù)消費者數(shù)據(jù)形成的用戶畫像，提供了不同價格。這就是涉及數(shù)據(jù)倫理的典型例子。此外，基于數(shù)據(jù)的算法推薦會使人們看到的世界變得片面、不完整。

當(dāng)數(shù)據(jù)成為一種財富，企業(yè)之間、國家之間的數(shù)據(jù)爭奪戰(zhàn)屢見不鮮。何淵提出，國家數(shù)據(jù)能力是未來國家不可或缺的治理能力。要避免互聯(lián)網(wǎng)公司的數(shù)據(jù)技術(shù)能力替代國家的認證能力，假使互聯(lián)網(wǎng)沒有法律的約束，個人隱私將不復(fù)存在；若無監(jiān)管，互聯(lián)網(wǎng)公司恐會變成國家無法控制的“巨獸”。