2月15日，河北省秦皇島市海港區燕大西苑社區小朋友體驗學習機器人科普知識。曹建雄攝/光明圖片

【法眼觀天下】

編者按

智能型機器人、自動駕駛、AI創作、語音識別……當前，人工智能的應用越來越廣泛，由此也產生了一系列法律問題，尚沒有達成廣泛共識。科技是一把雙刃劍，人工智能技術概莫能外。本期法治版特刊發三篇專家文章，探討如何從法理、法律方面對人工智能的發展和應用予以回應，讓人工智能能夠在法律的規范下健康發展并造福人類。

智能型機器人的出現和廣泛應用無疑是21世紀的一個重大事件，不但會引起新的工業革命和社會變革，而且會顛覆許多傳統的社會結構和人類觀念。早在1942年，著名科幻小說家艾薩克·阿西莫夫在其科幻小說《環舞》中就提出了著名的機器人三原則：第一，不得傷害人類;第二，服從人類命令;第三，盡可能地保護自己。筆者以為，這不但是機器人設計中應當遵循的基本原則，而且也是機器人立法中必須充分考慮的原則。面對以人工智能為代表的飛速發展的現代科學技術，人類必須高度關注技術對社會關系和社會觀念所帶來的巨大沖擊，同時充分利用法律的引導、規制和促進功能，實現法律與技術進步的良性互動。

利用良好的法律制度促進科技發展

法律不僅承擔著行為調控、沖突解決、社會控制、公共管理等功能，而且負有促進社會發展，引導社會生活的使命。良好的機器人法律制度應當是既能夠充分調動社會主體的創造熱情、促進社會經濟發展的社會財富創造法，又能夠在發明創造和財富創造之間搭建起便捷轉換通道的市場經濟催化法。

為此，一方面，要應用良好的制度設計滿足機器人發展的客觀要求，積極利用機器人解放人的功能，實現人的全面發展，并積極改善人與自然、人與社會的關系。另一方面，要充分發揮法律對科學研究的價值引領功能。從發展經驗來看，并非所有的技術成果都能夠造福于人類。因此，不是所有的科學活動都會得到法律鼓勵(典型的如克隆人技術、換頭技術等)。我們在充分肯定人工智能對解放人類生產力所帶來的重大便利的同時，也必須高度重視人工智能對傳統的社會機構、社會關系、人倫關系所帶來的顛覆性影響，嚴格劃定人工智能作用(活動)的禁區。由于目前對機器人活動可能對人類帶來的負面影響還缺乏必要的實踐數據，加之人類還沒有完全做好與機器人和諧相處的精神準備，因此在早期的機器人立法中，對機器人的自主性活動應作較多限制。隨著人工智能技術的日趨完善和自然人與機器人相處能力的逐步增強，可以通過不斷修改法律逐步放寬對機器人行為的限制。

確立人類優先和安全優先原則

現代國家確立了以人為本的立法理念。這就要求一切立法都應圍繞改善人的生存條件和生存環境，增進人類福祉，促進人的全面發展而進行。這既是文明立法的本質要求，也是良法善治的應有之意。這里的良法，首先要求必須具有公正性，其次要求必須是能夠滿足大多數人的需要，最后必須符合社會公眾對法律的預期，符合公序良俗的基本要求。

具體到機器人立法，由于機器人的應用不但會帶來深刻的社會變化，而且也會影響到人類自身的發展，影響到對人本身的認知，甚至會危及人的生存。誠如霍金所說：“人工智能的真正風險不是它的惡意，而是它的能力。一個超智能的人工智能在完成目標方面非常出色，如果這些目標與我們的目標不一致，我們就會陷入困境。因此，人工智能的成功有可能是人類文明史上最大的事件，但人工智能也有可能是人類文明史的終結!”因此在相關立法中必須確立人類優先的原則和理念，以尊重人的存在、人的生命健康、人的利益、人的安全為根本旨歸。

同時，相關立法絕不能僅僅關注機器人的技術性內涵，而更應當關注其文化內涵，相關的制度設計不應是僅具有程序性操作意義的技術性規范，而應是充滿人文關懷和倫理精神的技術性與道德性完美融合的法律。一方面，我們要堅決把違背公序良俗和有可能挑戰人類倫理底線的人工智能技術產品，排除在法律的保護之外，另一方面，通過政策或法律，對那些有可能影響人類倫理的技術進行嚴格的管控和必要的限制，對風險不明的技術應用必須留下足夠的安全冗余度，防止因技術的失控可能給人類帶來的毀滅性打擊。

謹慎承認機器人的法律主體資格

機器人出現之后，其身份和主體資格受到高度重視。2017年，機器人索菲亞(Sophia)被沙特授予公民身份。美國律師約翰·弗蘭克·韋弗于2015年出版的《機器人也是人——人工智能將如何改變法律》一書提出，由于機器人已經具備自然人的很多能力，如思維能力、辨別能力、有目的的活動能力和一定的判斷能力與自主決策能力，因此應當賦予機器人以和人相同的法律地位。實際上這已不是第一次對人的排他性主體地位提出質疑，早在機器人出現之前就已經被多次提出，其中最為典型的是對動物主體地位的爭議。

從目前的發展進程來看，機器人雖然已具備人的很多要素，但還不足以達到和人分庭抗禮的地步。機器人雖然可能會有思維，但卻并沒有上升到有生命的狀態，不具備生命所要求的能夠利用外界物質形成自己的身體和繁殖后代，按照遺傳的特點生長、發育并在外部環境發生變化時及時適應環境的能力。因此從理論上說，機器人作為一種工業設計，只具有使用壽命而不具有自然生命，當然也不享有以生命為載體的生命權。

機器人是按照人類的預先設計而生產出來的，因此就其本質來說具有可預知性、可復制性和可分類性，而可預期的活動是無法用傳統的法律行為進行解釋和規范的。此外，機器人沒有自然人所具有的道德、良心、良知、倫理、宗教、規矩和習慣，只有功能的強弱。因此機器人不可能有道德感，只有基于程序的反復和預先設計而總結出的規律，從而也就沒有民事主體所必備的基于內心感知(良知)所做出的善惡評判和行為選擇。法律也無法通過對其行為進行否定性評價而實現抑制或矯正其非法行為的效果。最后，機器人并不具有與周圍環境交互影響的內在感知能力，其改造自然的活動均是在人的設計、命令和指揮下完成的，從這個意義上說機器人并不是人，充其量僅是準自然人而已。機器人也無獨立的財產能力和責任能力，機器人對人類造成傷害之后，只有通過懲罰其實際控制人(設計人、使用人)的方式，才能真正實現懲罰與保護并重的目的。

充分尊重社會公眾的知情權

人工智能技術及其應用不僅是簡單的技術創造，也是一個對人類未來影響深遠且關涉每一個人切身利益的重大歷史變革。面對功能強大的機器人，每一個行業、每一個領域的自然人的就業機會都有可能被剝奪，每一個生命個體的生存空間都有可能被嚴重擠壓。公眾對于信息、知識的獲取，不但是其融入公共生活的一個條件，也是維護自身合法權益的必然要求。因此，每一個自然人都應當對人工智能技術享有充分的知情權，都有權知道機器人被廣泛應用之后對自己意味著什么。

在相關立法中，必須充分保護社會公眾的知情權和參與權，重大人工智能技術的應用應廣泛征求公眾的意見并進行科學的論證，應強調任何人工智能產品的開發和應用都不能以損害自然人利益為代價，不能以損害社會公共利益為代價。同時必須有效平衡各方利益，特別是平衡生產者和普通社會公眾之間的利益。相關的制度設計一方面要充分保護研發者的創造積極性，鼓勵其發明出更多更高質量的人工智能產品，另一方面應保證社會公眾能夠更多地分享因科學技術的進步而產生的社會經濟利益和其他人類福祉。

建立符合國情的人工智能法律制度體系

法律是為社會服務的，任何法律都必須根植于特定的土壤才能發揮其最大效用。制定符合中國需要的人工智能法律，一方面必須充分尊重人工智能技術發展水平，在尚無充足實踐經驗指導的情況下，我們暫時無法設計出具有世界引領意義和示范作用的完備的人工智能法律體系;另一方面也應看到，發展人工智能技術既是搶占世界新興技術制高點的需要，也是世界社會經濟發展的大勢所趨。

因此，我們的法律必須積極回應人工智能技術的發展需要，通過良好的制度設計滿足人工智能技術的發展要求。同時，必須積極借鑒國外在人工智能領域的立法經驗和司法實務經驗，盡快完善相關的法律設計。當務之急是盡快制定人工智能基本法、人工智能產業促進法等法律法規，明確我國對人工智能和機器人產業發展的基本態度，同時出臺人工智能產品倫理審查辦法、人工智能產品設計指南等規章，未雨綢繆，提前用立法防范因機器人應用可能帶來的社會問題。

(作者：趙萬一，系中國法學會商法學研究會副會長、西南政法大學教授)

關鍵詞：