A构建I负安责任全且可：靠的系统;引言;AI安全的关键利益相关者;3.企业负责人和运营者
一旦AI系统为实施准备就绪，企业负责人和运营者将承担起将这些系统安全地整合到其业务中的责任。在企业层面上，AI安全需要实施负责任的AI系统管理以及与提供者的开放式沟通。
角色：部署和维护支持AI的系统。
责任：
建立用户测试和红队测试工作流程，以评估模型的安全性。
与模型构建者分享反馈，以长时间持续改进模型。
保护用户数据隐私，确保AI使用方面的透明度。;;第1阶段：发展;9;10;;AI训练数据最佳实践
无论AI数据的来源如何，遵循以下最佳实践都有助于开发出优先考虑AI安全性的强大基础模型。
透明的数据供应链：
了解数据的来源对于实现安全和符合伦理道德的AI开发至关重要。对数据源坚持高标准，例如确保众包工作者的福祉和公平薪酬，不仅能提升数据集的质量，还能促进公平和多样化的数据实践。透明的数据供应链有助于在内部和外部建立信任与责任感。
具有代表性的数据集：
使用反映最终用户现实情况和预期用例的数据集来训练模型，更可能提高模型安全性和优化性能。例如，从目标人群的母语使用者那里采集LLM训练数据，可以提高模型的准确性，并减少部署后对最终用户造成意外伤害的风险，例如忽略文化敏感性或强化有害偏见。一个具有良好代表性的数据集能够使模型在不同场景中有效泛化并以符合伦理道德的方式运行。
人机协作：
将AI战略性地整合到数据流程中，可以在不影响AI数据质量的前提下提升效率。通过使用LLM作为评判工具或采用AI辅助数据标注技术，并结合人类监督，可以大幅减少创建高质量数据集所需的时间和资源。人类专业知识与AI能力的结合，确保了数据生产的准确性、道德性和可扩展性。;;第2阶段：部署;15;人机协作：与合成数据类似，人机协作可以通过多种方式提高AI系统的准确性和效
率。例如，LLM可以预标注原始数据供人工标注员审查，检查建议标签的准确性，并通过添加必要的文化背景和细微差别来增强数据集。这种人机协同标注策略可以在不影响数据质量或模型性能的情况下节省时间和成本。;;第3阶段：应???;19;20;;风险管理策略
AI部署后仍将持续存在安全挑战和机遇，这使得风险管理成为AI生命周期的关键组成部分。相对于孤立地应对风险，企业应采取整体策略，培养安全至上的理念。通过及早识别潜在漏洞并实施主动的风险管理策略，企业可以增强AI系统，应对不断变化的威胁，并确保其长期可靠性。
有效的风险管理需要持续监控、人类监督，以及AI系统与现实世界数据的灵活交互。在开发者和运营者之间建立结构化的反馈机制，可以及早发现诸如模型崩溃、安全漏洞或合规挑战等新兴风险，从而及时采取干预措施。在AI的整个生命周期中整合这些保障措施，不仅能提高模型的可靠性和性能，还能确保部署过程符合伦理标准和监管要求，从而实现负责任的部署。;23;;;26;27;28;29