浙摄影版（2020） 六年级上册 人工智能安全与伦理 课件（19PPT）

(共19张PPT)
《终结者》
《生化危机》
人工智能安全与伦理
Question
人工智能存在什么安全问题？
Answer
自动驾驶
Answer
漏洞和黑客
Answer
用户画像
AI换脸
……
Question
人工智能存在什么伦理问题？
人与人的关系和处理这些关系的规则
Answer
女友机器人
Question
机器人可以伤害人吗？
Question
机器人在人的指令下可以伤害人吗？
Question
机器人在人的指令下可以伤害自己吗？
Question
机器人在人的指令下可以伤害自己吗？
Question
同学们可以想出解决的对策吗？
人与人的关系和处理这些关系的规则
Answer
机器人三定律：
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管
第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
Answer
李宏彦AI伦理：
第一，AI 的最高原则是安全可控；其次，AI 的创新愿景是促进人类更加平等地获得技术能力；第三，AI 存在的价值是教人学习，让人成长，而不是取代人、超越人；
最后，AI的终极理想是为人类带来更多的自由和可能
Answer
李宏彦AI伦理：
第一，AI 的最高原则是安全可控；其次，AI 的创新愿景是促进人类更加平等地获得技术能力；第三，AI 存在的价值是教人学习，让人成长，而不是取代人、超越人；
最后，AI的终极理想是为人类带来更多的自由和可能
Answer
霍金：
我不认为人工智能的进化必然是良性的......我们需要确保人工智能的设计符合道德伦理规范，保障措施到位。
Answer
埃隆马斯克：
担心人格化的人工智能会毁灭人类，特斯拉创始人传奇企业家埃隆马斯克不断对人工智能发出警告，认为这是一场灾难。