7 月 6 日消息，在舉行的 2024 世界人工智能大會法治論壇上，由上海市法學會牽頭制訂，國家地方共建人形機器人創(chuàng)新中心、上海市人工智能行業(yè)協會、上海市人工智能標準化技術委員會、上海法院數字經濟司法研究及實踐（嘉定）基地聯合簽署的《人形機器人治理導則》正式發(fā)布。

　　官方表示，這是業(yè)界首個以開放簽署方式發(fā)布的人形機器人治理規(guī)則文件，旨在促進人工智能科技和產業(yè)的健康發(fā)展，確保人形機器人的設計、開發(fā)和應用合乎人類道德和倫理價值，持久保障人類使用人形機器人的權益和安全，為全人類帶來更多福祉和便利。

　　《人形機器人治理導則》分為目標愿景、基本遵循、創(chuàng)新發(fā)展、風險管理、全球治理和附則六個部分，共 30 條規(guī)則。

　　上海市法學會還表示會定期更新《人形機器人治理導則》并公開完善情況，借此機會建立起一個規(guī)則共建的機制，不斷探索，為形成標準化法律文件做準備。

　　IT之家附《人形機器人治理導則》原文：

　　第一章目標愿景

　　第一條支持人工智能科技向善發(fā)展，通過廣泛凝聚共識和明確治理導則，推動人形機器人技術創(chuàng)新和進步，促進全球人工智能技術發(fā)展和應用。

　　第二條確保人形機器人的智能化設計和應用符合人類倫理，及時制定人形機器人應遵守的倫理準則和道德規(guī)范。

　　第三條確保人形機器人的智能化設計和應用不會威脅人類安全，切實保障人類尊嚴和安全。

　　第四條倡導人機共生理念，促進人機共生發(fā)展，推動人形機器人更好地服務于人類社會的發(fā)展。

　　第五條推動科技與人類社會共同發(fā)展，以法治捍衛(wèi)人類福祉，讓包括人形機器人在內的科技發(fā)展真正助推人類命運共同體的構建，有效防止科技濫用。

　　第二章基本遵循

　　第六條人形機器人的智能化設計、制造應當遵循人類價值觀和倫理原則，不得危害人類的生命、尊嚴和自由。

　　第七條應當持續(xù)優(yōu)化人形機器人所用人工智能算法模型的透明度和可解釋性，促進其決策和行為可被理解和有效管控。

　　第八條人形機器人技術的發(fā)展應用應當注重社會責任和可持續(xù)性，推動人形機器人技術的包容性發(fā)展。

　　第九條人形機器人技術的發(fā)展應用應當遵守法律法規(guī)，建立安全預警和應急響應系統，加強對人形機器人技術相關濫用行為的監(jiān)測和治理，確保技術應用的安全性和合法性。

　　第三章創(chuàng)新發(fā)展

　　第十條倡導各國政產學研機構加大對人形機器人產業(yè)的投入和示范應用，以發(fā)展新質生產力為導向，推動發(fā)展未來產業(yè)，促進人形機器人技術創(chuàng)新和產業(yè)升級。

　　第十一條倡導建立開放、包容的人形機器人產業(yè)合作機制，推動人形機器人產業(yè)鏈的互聯互通，建設全球共建共享共治的人形機器人產業(yè)生態(tài)。

　　第十二條倡導投入更多科技資源和研發(fā)力量，加強機器人關鍵技術研究，支持創(chuàng)新成果及時有效轉化，推動人形機器人技術的發(fā)展和應用落地。

　　第十三條加強技術標準和規(guī)范建設，建立統一的人形機器人技術標準和規(guī)范體系，促進產業(yè)規(guī)范化發(fā)展，提升產品質量和安全性。

　　第十四條構建完善的知識產權保護體系，保障研發(fā)者權益，推動人形機器人技術革新，維護市場秩序。

　　第十五條注重人才培養(yǎng)和交流，支持多學科交叉研究和協同創(chuàng)新，促進在倫理、法治、安全等多個維度的價值對齊，為產業(yè)發(fā)展提供理論和技術支持。

　　第十六條引入全球人形機器人產業(yè)生態(tài)合作伙伴計劃，推廣全球人形機器人示范用戶行動，全面推動人形機器人產業(yè)的健康可持續(xù)發(fā)展。

　　第四章風險管理

　　第十七條人形機器人的研發(fā)者、制造者、銷售者、使用者依法依規(guī)承擔相應義務，鼓勵建立人形機器人的倫理研究和合規(guī)審查機構，確保人形機器人的生產使用符合安全標準和倫理要求。

　　第十八條人形機器人用戶應當接受相關培訓和教育，合理使用機器人，不得將其用于違法活動或危害社會安全、違反倫理道德的行為。

　　第十九條人形機器人的應用應當遵守事先設定的規(guī)則和程序執(zhí)行任務，不得擅自改變任務目標或執(zhí)行方式。

　　第二十條人形機器人的設計、制造、應用應當加強隱私和數據保護功能的要求，處理數據應符合相關法律法規(guī)和技術標準要求。

　　第二十一條構建人形機器人違法應用的系統性風險預警與應急處置機制，防范生產者、使用者利用人形機器人從事違法活動。

　　第二十二條研發(fā)者應設置風險預警程序和后臺中斷程序，應對使用者無法控制人形機器人可能或正在出現的違背法律、倫理狀態(tài)時，實現其對人形機器人的中斷控制。

　　第五章全球治理

　　第二十三條建立健全適應人形機器人發(fā)展階段的全球治理體系，倡導發(fā)展人形機器人治理的多雙邊機制，凝聚科技界、產業(yè)界和法律界等各方力量，共同維護人形機器人技術的發(fā)展應用始終符合全人類共同價值。

　　第二十四條推動人形機器人治理基于共識的行動，鼓勵相關各方先行制定一定范圍內適用的規(guī)則、標準、法律及其實施體系，維護人形機器人技術的發(fā)展應用的法治秩序。

　　第二十五條建立人形機器人全生命周期管理制度，加強設計和制造階段的安全評估和認證、使用階段的定期維護和安全檢查，以及報廢階段的環(huán)保處理和資源回收，保障人形機器人全生命周期的安全性、可靠性和可持續(xù)性。

　　第二十六條定期發(fā)布《全球人形機器人安全評估報告》，向全社會廣泛公開相關信息，明確公眾反饋意見、參與監(jiān)督的渠道和方式，保障公眾知情權和監(jiān)督權。

　　第二十七條構建人形機器人用戶安全風險教育機制，推廣人形機器人技術應用的通識教育，對齊全社會對人形機器人的基本認知和合理使用技能，避免用戶出現不適當的情感依賴，有效減少人形機器人用戶的誤用濫用。

　　第二十八條推動全球人形機器人治理規(guī)則的整合同步和開放共享，建立全球人形機器人治理智庫和案例庫。

　　第六章附則

　　第二十九條本導則由世界人工智能大會法治論壇組織發(fā)布和后續(xù)修訂完善。

　　第三十條本導則向全球人形機器人技術研究、制造、應用及治理相關機構開放聯合簽署，由各簽署方自愿執(zhí)行。