PAGE

PAGE1

《某银行AI模仿人类语气致老人误以为真人的情感操纵伦理争议》

第一章研究背景与意义

1.1研究背景与问题提出

1.1.1现实背景分析

随着人工智能技术的飞速发展，金融银行业正处于数字化转型的关键时期，智能客服系统已大规模替代传统人工客服，成为银行降低运营成本、提升服务效率的核心工具。当前，部分商业银行为了提升用户体验与亲和力，开始在AI客服系统中引入情感计算技术，使其具备模仿人类语气、情绪识别与共情回应的能力。然而，这种技术进步在提升交互自然度的同时，也引发了新的伦理风险，特别是针对老年群体，高度拟人化的AI语音极易导致认知混淆，使其误以为正在与真人交流