单元3第三节第二课人工智能带来的伦理与安全挑战（川教版）七年级下

1核心素养目标3新知讲解5拓展延伸7板书设计2新知导入4课堂练习6课堂总结课后作业8

01核心素养目标信息意识计算思维数字化学习与创新信息社会责任能够在使用人工智能技术时，要遵守相关法律法规，尊重他人的知识产权和隐私权。能够利用人工智能技术进行自主学习和创新，例如通过在线平台进行编程学习或使用AI工具进行创意写作。能够利用人工智能工具进行数据分析和问题解决，例如在学习和研究中使用AI辅助决策。能够对人工智能技术潜力和风险的认识，使他们能够理解人工智能在不同领域的应用及其对社会的潜在影响。

03新知讲解单元导读学习目标1.畅想语言大模型在更多场景中的应用。2.了解人工智能带来的伦理与安全挑战，能正确使用人工智能。

03新知讲解科学家们在对人工智能的未来充满希望的同时，也抱有警惕与忧虑。一、人工智能带来的伦理与安全挑战

03新知讲解一、人工智能带来的伦理与安全挑战

03新知讲解发展人工智能系统，必须考虑它的可靠性和安全性。人工智能在自动化、图形图像等领域的发展已经引发了一些安全性问题。一、人工智能带来的伦理与安全挑战

03新知讲解随着技术发展，互联网上涌现出各种仿冒的照片、视频等数据，Deepfake(深度伪照)技术，让诈骗行为变得更难鉴别。一、人工智能带来的伦理与安全挑战

03新知讲解Deepfake诈骗寻找真实视频使用AI替换声音使用AI同步口型一、人工智能带来的伦理与安全挑战

03新知讲解2024年，诈骗分子利用Deepfake技术，通过公开渠道获取了某公司的视频资料，伪造了公司高层管理人员的形象和声音，在网络会议中骗取到该公司财务人员的信任，最终财务人员将2亿港元转账给了骗子。一、人工智能带来的伦理与安全挑战

03新知讲解诈骗分子制作伪冒视频，造成多人参与视频会议的假象，其实会议中只有财务人员是真实人物，他没有对这个会议产生怀疑，所以上当。一、人工智能带来的伦理与安全挑战

03新知讲解了解人工智能产品和技术的安全性和可靠性，尽可能安全地使用工具，并意识到任何技术都可能存在缺陷。一、人工智能带来的伦理与安全挑战

03新知讲解一辆由A公司精心研发的自动驾驶汽车，正搭载乘客B平稳驶向既定目的地。在遭遇突发紧急状况时，为全力保护乘客B的安全，该汽车迅速而智能地偏离了预设的行驶路线。然而，这一紧急避险措施却不幸导致路人C与D的意外受伤。一、人工智能带来的伦理与安全挑战思考活动二

03新知讲解你认为事故中的责任该如何认定:制造商（A公司）责任和软件开发商责任：一、人工智能带来的伦理与安全挑战思考活动二你这样认为的原因是:测试不足：如果制造商未能充分测试自动驾驶系统在各种条件下的性能，导致未能发现潜在的故障模式，制造商可能需要承担责任。在某些情况下，责任可能不完全落在制造商或软件开发商身上。例如，如果用户未能按照制造商的指示正确使用自动驾驶功能，或者在维护和更新软件方面存在疏忽，用户也可能需要承担一定的责任。

03新知讲解在开发和使用人工智能系统时，必须考虑到个人隐私和数据安全的保护。我国也在逐步规范对人工智能工具的使用，2024年国家互联网信息办公室发布关于《人工智能生成合成内容标识办法(征求意见稿)》公开征求意见的通知。一、人工智能带来的伦理与安全挑战

03新知讲解我们在享受人工智能带来的便利的同时，也应该了解其潜在的风险，并学会负责任地使用这些工具，成为数字时代的合格公民。请和同学讨论:一、人工智能带来的伦理与安全挑战思考活动三

03新知讲解加强监管：各国应设立有能力在其境内监测和应对人工智能事故与灾难性风险的部门。各国监管部门应协同合作，制定应对重大人工智能事故与灾难性风险的全球应急计划。长远来看，各国应建立国际监管机制，以防止出现可能带来全球灾难性风险的模型。一、人工智能带来的伦理与安全挑战思考活动三1.你认为应该采取哪些措施，以确保人工智能技术的快速发展能够更多地带来正面影响?

03新知讲解建立监管机构：各国政府需建立可快速行动的AI监管机构，并为这些机构提供资金。AI领域需要更严格的风险评估并制定可执行的措施，而不是依赖一些不甚明确的模型评估。风险评估：要求AI研发企业优先考虑安全性，并证明其系统不会造成伤害，AI开发人员要承担起证明安全性的责任。一、人工智能带来的伦理与安全挑战思考活动三2.查询资料，看看目前科学家们为避免人工智能潜在的危险，已采取了哪些措施，效果如何?

03新知讲解一、人工智能带来的伦理与安全挑战思考活动三3.你的思考与建议:伦理指导持续研究持续进行人工智能安全性研究，确保技术发展与风险控制同步。公众教育提高公众对人工智能潜在风险的认识，教育用户如何安全地使用AI技术。制定人工智能伦理准