IBM等八家公司自愿承诺管理人工智能风险

　　【预警资讯】

　　当地时间2025年9月12日，美国八家人工智能公司签署了白宫关于人工智能的协议，承诺采取自愿监管措施管理AI技术开发风险，包括在推出产品前进行内外部安全测试、将数据安全作为搭建系统的首要考虑、添加水印系统以确保用户知情权等。此前，另外七家人工智能公司也签署了类似协议，承诺采取自愿监管措施管理AI技术风险。（资讯分类：境外，科学研究和技术服务业，数据和隐私保护；资讯来源：美国白宫）

　　【预警提示】

　　美国政府基于安全（safe）、保障（security）和信任（trust）三大原则构建的自愿性框架包括八项具体承诺，这些承诺对我国企业在人工智能开发中的风险管理具有重要的参考价值和借鉴意义。一是建议企业持续关注人工智能模型本身的安全性问题，通过开展内外部安全测试、加强模型权重保护、构建第三方报告系统漏洞机制等措施，有效防范基础性、系统性的人工智能风险；二是建议企业采用数字水印等技术手段对人工智能生成内容进行标记。在人工智能生成的内容中添加数字水印，有助于用户对生成内容保持谨慎判断，减少生成内容错误和人工智能滥用对用户带来的消极影响；三是建议企业强化与各方的信息交流与沟通，一方面企业可以主动与监管部门、专家学者分享最前沿的实践信息和经验成果，以推动人工智能相关立法的完善；另一方面通过主动向用户报告人工智能系统的功能、局限性、不适用领域等内容，帮助用户全面认识和正确使用人工智能系统，建立负责可靠的社会形象。

[ 期号：20250911-20250917]