第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。曾有从业者将阿西莫夫科幻“机器人三大定律”作为人工智能出发点，世界智能大会也关注了相关问题。

　　6月24日，第六届世界智能大会“人工智能伦理高峰论坛”在天津举办。论坛以“人工智能的伦理挑战与治理策略”为主题，邀请人工智能领域内具有代表性的院士、专家、学者，深入探讨人工智能的伦理挑战、伦理治理、安全可靠可控人工智能的构建等方面问题，积极探索人工智能伦理的建设目标、重点任务、实现路径和制度保障，推动形成人工智能伦理治理的生动实践。

　　专家指出，人工智能是引领新一轮科技革命和产业变革的基础性、战略性、先导性技术，其面向经济社会的辐射性、渗透性、扩散性、颠覆性特点日趋鲜明，正驱动经济社会新变革。人工智能在造福人类的同时，对劳动就业、社会伦理、个人隐私等带来前所未有的风险与冲击，人工智能、大数据伦理备受关注，亟需建立全新治理模式。他提出四点建议，一是整合多学科力量，开展人工智能伦理治理的跨学科研究，聚焦信息推荐、数据隐私、自动驾驶、虚拟现实、元宇宙等热点领域，推动跨领域协同。把握人工智能发展规律，探索研究伦理新问题，协同解决治理新难题，实现人工智能技术和产业健康发展。二是完善伦理治理机制，集成更广泛的社会力量，推进协同共治。鼓励相关全国学会成立人工智能伦理与治理相关分支机构，引导负责任的人工智能研发与应用。推动领军企业成立内部伦理治理委员会，塑造科技向善的企业文化。三是推进伦理科普教育。及时宣传人工智能前沿成果和发展趋势，普及人工智能伦理的有关政策信息、治理规则和治理成效，促进公众全面客观准确地理解人工智能前沿科技可能带来的益处与风险。四是促进伦理治理国际交流合作，为全球伦理治理贡献中国智慧、中国方案，分享中国伦理治理最佳实践。引导人工智能伦理与标准规范的发展方向，提出解决国际问题的有效对策，推动达成共识性规则与倡议，推动全球人工智能治理体系朝向更加公平合理的方向发展。

　　专家表示，科技伦理是科技创新活动中人与社会、人与自然和人与人关系的思想与行为准则，规定了科技工作者及其共同体应恪守的价值观念、社会责任和行为规范，并指出科技向善的根本意义是“让科技更好增进人类福祉”。当前加强科技伦理工作，需要“制度规范与自我约束相结合”。科技工作者和科研机构、团体要树立和提升的伦理意识，将伦理意识内化于心，进行自我约束。科技人员的科技伦理行为是与其科技价值观紧密关联的。科技人员应在人类共同价值和社会主义核心价值观的引领下，树立正确的科技价值观和内化于心的伦理原则，才能真正做到科技向善。

　　专家指出，人工智能在数字化技术中扮演着至关重要的角色，是产业数字化的创新引擎。人工智能安全面临硬件可能被攻击、软件存在漏洞、协议可以被篡改、算法可能被欺骗、数据可以被污染、应用上可能危害人类利益、社会伦理上可能超出现有规范等七重挑战。同时，人工智能也为解决数字安全风险提供了新的技术手段，如AI数据分析，AI情报处理，AI智能防御。

　　专家提出，人工智能在算法、数据、基础设施和应用等方面存在隐患，需要发展可信安全的人工智能，统筹考虑人工智能与人类之间的协同性、共生性、规范性和公平性，最终实现以人为本、服务于人的目标。为此提出四点建议：一是要以多学科交叉理念推动人工智能“勇闯无人区”、以应用为导向的路径来解决人工智能发展面临的瓶颈问题；二是要积极开展可信、安全和鲁棒性的模型算法基础理论研究，完善安全性评估、验证和监督的准则和体系；三是要针对人工智能社会属性和技术属性相互结合的鲜明特点，未雨绸缪加强人工智能伦理与法规建设的规划；四是要加强国际合作和信息技术分享，建立开放创新发展平台。

　　论坛还从AI发展现状、应用领域、演进过程与问题类型出发，提出了解决AI伦理问题的七个思路。一是要健全人工智能伦理与安全的治理体系；二是推进法律法规、标准规范的落地实施；三是建立多主体参与的对话机制，跟踪技术发展前沿，发现新的安全和伦理问题；四是建立人工智能前沿研究和应用的伦理评估、预警及管控机制；五是加强对人工智能研究及应用各相关利益主体的伦理教育，提高伦理意识；六是积极培育健康的智能文化与数字人文思想；七是加强人工智能前沿进展的科学传播和伦理普及，提高公众的认知水平。

　　此外，专家们还围绕人工智能面临的挑战，加强人工智能伦理规范和治理，构建更可信赖、更负责任的人工智能等主题进行了深入研讨沟通，并回答了观众的问题。

　　本场高峰论坛由中国科协和天津市人民政府主办，世界工程组织联合会前任主席、中国新一代人工智能发展战略研究院执行院长龚克作主旨报告。360集团创始人周鸿祎，中国工程院院士，重庆大学党委副书记、校长王树新，清华大学苏世民书院院长、清华大学文科资深教授薛澜作特邀报告。来自天津市党政机关、高等院校、科研院所、高技术企业等单位的近50名代表参加线下活动。