人工智能设计伦理
人工智能设计伦理
5万+ 人选课
更新日期:2026/10/12
开课平台智慧树
开课高校浙江大学
开课教师潘恩荣
学科专业
开课时间2026/07/21 - 2027/01/20
课程周期27 周
开课状态开课中
每周学时-
课程简介
世界新一轮科技革命与产业变革(第四次工业革命)对人工智能伦理提出了新要求,一方面要推动负责任的人工智能研究与实践,另一方面要探索与创造未来社会的新伦理准则和哲学思想。本课程强调“面向技术本身的”人工智能伦理,目标是训练学员基本的伦理技能、突破传统的应用伦理思维,探寻新型“人与机”关系及其伦理准则。课程主要内容包括:人工智能伦理谱系、伦理研究方法、“人与机”关系反思、案例研究等。
课程大纲

在线教程

章节简介教学计划
人工智能与伦理
登录后可预览视频
●
为什么需要人工智能,它能做什么
潘恩荣
●
人工智能是什么?
潘恩荣
●
人工智能伦理是应用伦理吗?
潘恩荣
人工智能伦理谱系
●
为什么需要人工智能伦理谱系
潘恩荣
●
伦理谱系根目录
潘恩荣
●
机器“质变”决定人工智能伦理层级
潘恩荣
●
人群“变迁”塑造人工智能伦理谱系
潘恩荣
人工智能伦理研究与设计方法
●
方法简介
潘恩荣
●
伦理是一种功能指标
潘恩荣
●
人工智能伦理的设计过程
潘恩荣
人工智能如何以人为本
●
“以人为本”伦理准则的地位
潘恩荣
●
“人”的概念比较——“人”之四象模型
潘恩荣
●
人工智能“以人为本”伦理准则可行吗?
潘恩荣
应用场景与伦理
●
人工智能应用场景
潘恩荣
●
为什么是自动驾驶?
潘恩荣
●
自动驾驶诉讼角色扮演
潘恩荣
●
矛盾分析与解决思路
潘恩荣
数据伦理与隐私保护
●
为什么数据如此重要?
潘恩荣
●
数据的自然属性
潘恩荣
●
数据的伦理冲突与化解
潘恩荣
算法与伦理
●
算法引发的伦理挑战
潘恩荣
●
道德算法设计
潘恩荣
●
伦理矛盾与案例分析
潘恩荣
算力与伦理
●
算力与人工智能“体力”
潘恩荣
●
机器换人及其担忧
潘恩荣
●
智能机器如何换人才是合理的?
潘恩荣
  • 第一章人工智能与伦理

    人工智能伦理问题需在工业革命背景下进行考量。在第四次工业革命背景下:人工智能伦理不是应用伦理,不是解伦理难题。人工智能伦理是探索与创造新哲学思想,指向新伦理革命。与人工智能的“自主性”一道,人工智能伦理为工程师争取更多“自主”。

  • ●1.1为什么需要人工智能,它能做什么

    人工智能背后是第四次工业革命历史机遇的争夺,我们需要人工智能推动新的工业革命,抓住新的历史发展机遇。另外也需要预防人工智能给人类社会带来不良影响。

  • ●1.2人工智能是什么?

    人工智能在工业革命的背景下会带来经济、社会、伦理道德上的重构,人工智能专业是一个综合性的专业。

  • ●1.3人工智能伦理是应用伦理吗?

    人工智能伦理涉及使用伦理和设计伦理,传统的应用伦理学无法满足人工智能伦理的发展要求。作为专业技术人员,人工智能伦理是专业技能而不仅仅是素养。

  • 第二章人工智能伦理谱系

    人工智能伦理:弱人工智能机器对应的伦理3.0版本,强人工智能机器对应的伦理4.0版本。

  • ●2.1为什么需要人工智能伦理谱系

    繁杂混乱的状况,已经对人工智能伦理的研究和教育造成困扰。

  • ●2.2伦理谱系根目录

    人工智能伦理的核心在于“人与机”关系,以此为根目录可建立一个人工智能伦理谱系。

  • ●2.3机器“质变”决定人工智能伦理层级

    机器“质变”是划分人工智能伦理谱系层级的根本因素。

  • ●2.4人群“变迁”塑造人工智能伦理谱系

    由于不同人群加入人工智能发展,带来了不同的利益诉求和价值诉求,因而产生了不同类型的人工智能伦理问题。

  • 第三章人工智能伦理研究与设计方法

    伦理问题主要是“价值”之间出现矛盾。伦理问题作为系统的有害功能——负向伦理。伦理收益作为系统的有用功能——正向伦理。人工智能伦理研究与设计方法:确定AI系统功能与伦理目标;找出伦理问题;找出伦理矛盾;根据分离原理,找出可能方案;确定最终方案。

  • ●3.1方法简介

    工程设计伦理方法是现代技术哲学方法、TRIZ方法、伦理谱系方法的综合。涉及经验转向和价值论转向和矛盾解决理论。

  • ●3.2伦理是一种功能指标

    技术人工物具有结构和功能两种属性。人类活动场景会影响技术人工物,因此需要考虑人工智能伦理问题的双面性,即存在正向伦理和负向伦理。引入理想解的概念可以寻找出最佳的功能设计。

  • ●3.3人工智能伦理的设计过程

    伦理矛盾是人工智能伦理研究的核心,解决伦理矛盾是人工智能伦理的根本任务。

  • 第四章人工智能如何以人为本

    古今中外均有以人为本的思想,引入“人”之四象模型,从孔子、近代西方、马克思的角度进行探讨,中国更有希望实现人工智能的以人为本,最终以“人机平权”促进“以人为本”。

  • ●4.1“以人为本”伦理准则的地位

    古今中外均有以人为本的思想。

  • ●4.2“人”的概念比较——“人”之四象模型

    智能系统算法的设计必须意识到它们是一个更大系统的一部分。以人为本的人工智能分成两个关键能力:理解人类、帮助人类理解人工智能系统。可分为自然人、抽象人、具体人、社会人,孔子、近代西方、马克思有不同的想法。

  • ●4.3人工智能“以人为本”伦理准则可行吗?

    以人为本的实质是指在特定应用场景中,在人与“超人”的人工智能机器之间,凡事均“以(凡)人为中心”是否可能?以及如何可能?西方式现代化中的“以人为本”思想本质上是“人类(种族)中心主义”思想,人工智能以人为本不可行。但是孔子的以人为本思想可行,且影响中国深远,因此人工智能以人为本在中国可行。

  • 第五章应用场景与伦理

    自动驾驶是最大的人工智能应用场景。自动驾驶的革命性特征是“人手离开驾驶过程”,生命交给机器。自动驾驶伦理的核心是“人的生死是否可以由机器决策”。

  • ●5.1人工智能应用场景

    人工智能的发展需要考虑应用场景,这符合科学路径和现实情况。

  • ●5.2为什么是自动驾驶?

    自动驾驶是最大的人工智能应用场景。涉及人的生死,伦理矛盾激化。

  • ●5.3自动驾驶诉讼角色扮演

    从不同的角色角度对自动驾驶事故进行判决,思考其中的伦理问题。

  • ●5.4矛盾分析与解决思路

    自动驾驶存在问责难题,可以考虑TRIZ冲突解决理论,注意区分AI与IA。

  • 第六章数据伦理与隐私保护

    数据伦理与隐私保护

  • ●6.1为什么数据如此重要?

    数据伦理问题众多且频发,更能引发国家数据安全问题。

  • ●6.2数据的自然属性

    数据是数字经济的石油、货币,数字化的基础,智能化的原料和燃料,……个人隐私是数字世界的货币,甚至是“硬通货”“一般等价物”。元宇宙的货币以“个人隐私”为锚定物,与(国家)主体信用、(区块链)稀缺性、黄金或“石油”做货币锚定物同性质。

  • ●6.3数据的伦理冲突与化解

    根据“人”之四象模型对四种人的数据进行分级保护,符合解决伦理悖论的分离思路。“大数据”最后就是个数学问题。

  • 第七章算法与伦理

    算法会引发伦理挑战,要有道德算法设计思路并试图解决。

  • ●7.1算法引发的伦理挑战

    技术集成会引发变性效应和死神效应,最终引发社会风险。

  • ●7.2道德算法设计

    道德算法是指在特定的人工智能应用场景中,包含了某种特定价值,或可以达到特定目的的算法,且该价值或目的在场景中是道德可接受的。可以学习设计思路和治理方式应对算法的伦理挑战。

  • ●7.3伦理矛盾与案例分析

    罗尔斯算法存在最大最小化原则和无知之幕原则。对于不同的矛盾类型要有不同的解决思路和实现方式。

  • 第八章算力与伦理

    算力是人工智能的“体力”。长期发展存在机器换人担忧,需要思考其合理性。

  • ●8.1算力与人工智能“体力”

    算力是工业革命的推动力。

  • ●8.2机器换人及其担忧

    机器换人存在背景、需求,不同的人有不同的态度,也可能引发众多伦理问题。

  • ●8.3智能机器如何换人才是合理的?

    机器换人有近忧和远虑,注意区分人与机器的能力区别,可以把“人机对立”转向“人机互补”,解决伦理问题。

  • 开始学习
  • 第一章  作业测试
    第一章 人工智能与伦理

    1.1 为什么需要人工智能,它能做什么

    1.2 人工智能是什么?

    1.3 人工智能伦理是应用伦理吗?

    视频数3
  • 第二章  作业测试
    第二章 人工智能伦理谱系

    2.1 为什么需要人工智能伦理谱系

    2.2 伦理谱系根目录

    2.3 机器“质变”决定人工智能伦理层级

    2.4 人群“变迁”塑造人工智能伦理谱系

    视频数4
  • 第三章  作业测试
    第三章 人工智能伦理研究与设计方法

    3.1 方法简介

    3.2 伦理是一种功能指标

    3.3 人工智能伦理的设计过程

    视频数3
  • 第四章  作业测试
    第四章 人工智能如何以人为本

    4.1 “以人为本”伦理准则的地位

    4.2 “人”的概念比较——“人”之四象模型

    4.3 人工智能“以人为本”伦理准则可行吗?

    视频数3
  • 第五章  作业测试
    第五章 应用场景与伦理

    5.1 人工智能应用场景

    5.2 为什么是自动驾驶?

    5.3 自动驾驶诉讼角色扮演

    5.4 矛盾分析与解决思路

    视频数4
  • 第六章  作业测试
    第六章 数据伦理与隐私保护

    6.1 为什么数据如此重要?

    6.2 数据的自然属性

    6.3 数据的伦理冲突与化解

    视频数3
  • 第七章  作业测试
    第七章 算法与伦理

    7.1 算法引发的伦理挑战

    7.2 道德算法设计

    7.3 伦理矛盾与案例分析

    视频数3
  • 第八章  作业测试
    第八章 算力与伦理

    8.1 算力与人工智能“体力”

    8.2 机器换人及其担忧

    8.3 智能机器如何换人才是合理的?

    视频数3
  • 期末考试
App 下载
关注我们