新产业
如何构建可信赖的系统
文/吴叶凡
近期，国内外一些人工智能（AI)产品问答什么是可信赖的AI系统？构建可信赖的AI
内容价值导向错误的新闻频上热捜。随着AI技系统有哪些路径？记者就以上问题采访了相关
术的发展，AI的价值导向问题逐渐引发广泛关专家。
注，“构建可信赖的AI系统”的呼声越来越高。
曰前在2024年世界科技与发展论坛期间发布的可靠稳定是关键
《2024年人工智能十大前沿技术趋势展望》，就
列入了“人机对齐：构建可信赖的AI系统”。随着AI在社会生活和各个行业中渗透程度
2024年世界互联网大会乌镇峰会也聚焦AI,释的加深，其决策和行为的影响范围也日益扩大。
放清晰信号?一拥抱以人为本、智能向善的数例如，在医疗、交通、金融等高风险领域，AI
字未来。系统的决策影响着人们的生命、财产与福扯，
90中国科技财富2024年第12期I
新产业
一些错误决策可能直接威胁到人类生命或财产人机对齐是前提
安全。康奈尔大学约翰逊商学院讲席教授丛林
介绍，AI在金融领域的应用主要包括资产管理、那么，如何确保AI系统可信赖？王翔认为，
资产回报预测、资产定价等。“我们希望金融领人机对齐与构建可信赖的AI系统之间关系密切。
域的A〖要准确。我们并不需要它有发散思维或“只有具备人机对齐特质的AI系统，才能进一步
特别有创造力，而是希望它能给我们准确的答实现可信赖的特性。”他说。
案，或是具有一定的稳健性。”他说。从概念上看，人_齐是指确保AI系统在
“确保AI系统可信赖，已经成为AI发展不执行任务、进行决策时，其行为、目标和价值观
可忽视的要求。这不仅是技术层面的改进，更能够与人类保持一致。“这就是说，AI系统在自
是社会伦理与责任的体现。”中国科学技术大学我优化和执行任务过程中，不仅要高效完成任务，
人工智能与数据科学学院教授王翔认为，可信还要符合人类的伦理和价值体系，不能偏离人类
赖AI系统不仅能让技术更好地满足人类需求，设定的目标或带来不良的社会影响。”王翔进一
还能有效防范AI误判和偏见可能引发的负面效步解释，“尤其是在涉及社会伦理和安全的场景
应。可信赖的AI系统不但要有优秀的预测、生成、中，确保AI输出内容与人类的价值观和道德准
决策等业务能力，而且在透明度、公平性、可贝湘符，是人机对齐的核心意义。”
解释性、安全性等方面也要符合用户预期。如果AI系统没有经过人机对齐的过程，即
其中，可解释性是指用户应能够理解AI的使具备强大的功能和智能，也可能因不符合人类
行为和决策流程，以便增强用户对AI的信任,的期望和价值观而导致信任危机或负面影响。“因
并更好地加以利用。公平性要求AI的决策不应此，确保AI系统在目标和行为上与人类保持一
受到偏见影响，避免形成对不同群体的歧视。致是构