提高人工智能安全治理水平

党的二十届三中全会提出：“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。在当今科技飞速发展的时代，人工智能作为引领未来的战略性技术，正以前所未有的速度改变着我们的生活、工作和社会发展模式。然而，随着人工智能的广泛应用，其安全问题也日益凸显，如数据隐私泄露、算法偏见、智能系统被恶意攻击等。对此，提高人工智能安全治理水平已成为当务之急，对于保障国家利益、社会稳定和人民福祉具有至关重要的意义。

完善法律法规框架，奠定人工智能安全治理基石。提高人工智能安全治理水平，首先要在法律法规层面建立健全相关制度框架。随着人工智能技术的不断发展，其对社会的影响越来越深远，对此，进行有效的法律监管势在必行。一是制定人工智能领域的专门法律法规。当前，全球范围内关于人工智能的法律法规尚处于初步探索阶段。应加快人工智能领域专门法律法规的制定，明确人工智能的法律地位、伦理规范以及安全使用要求。通过立法，明确人工智能技术在研发、应用、管理等各环节的权责边界与行为规范，为人工智能的健康发展提供法律保障。二是建立数据安全和隐私保护的法律机制。数据是人工智能发展的基础和核心，确保数据的安全性和隐私性是人工智能安全治理的重要内容。应进一步完善数据安全和隐私保护相关法律法规，健全数据治理制度，严格规范数据的采集、存储、使用和共享，防止数据滥用和隐私泄露，为人工智能发展营造安全可信的环境。三是强化算法的透明性与可解释性要求。人工智能算法的“黑箱”问题使得其决策过程难以理解和预测，增加了潜在风险。应在法律层面明确要求人工智能系统的算法透明性和可解释性，确保算法决策过程符合伦理道德和社会价值。通过法规约束，避免人工智能技术在应用中出现偏见、歧视等问题，确保其在社会中的公平应用。

强化技术监管能力，提升人工智能安全防护效能。技术监管能力的提升是提高人工智能安全治理水平的关键所在。在快速发展的人工智能领域，单靠传统的监管方式已难以有效应对新技术带来的复杂安全挑战，亟须通过技术手段加强安全监管。一是构建人工智能安全检测与评估体系。在人工智能技术研发和应用过程中，安全检测和评估至关重要。应建立一套完善的人工智能安全检测和评估机制，对人工智能系统进行全方位的安全评估，尤其是对可能带来安全风险的算法模型进行严格审查。通过持续监测和评估，及时发现和消除潜在的安全隐患。二是研发并应用前沿的人工智能安全防护技术。人工智能技术本身也可以用于提升安全防护能力，如通过开发智能监控系统、自动威胁检测工具等，提高对人工智能系统的安全防护能力。特别是在应对网络攻击和数据泄露等安全威胁时，应充分利用人工智能技术提升防护水平，构建智能化的安全防御体系。三是推动安全标准与技术规范的制定与实施。制定统一的人工智能安全标准和技术规范，有助于规范行业行为，提升整体安全水平。应加快人工智能安全标准和技术规范的研究和制定，涵盖人工智能系统的设计、开发、测试、部署等各个环节。同时，推动这些标准和规范的实施，确保人工智能技术在实际应用中的安全性和可控性。

深化国际合作与标准对接，共建全球人工智能安全治理网络。人工智能的安全治理是一个全球性挑战，需要各国携手合作，共同构建全球人工智能安全治理体系。通过推动国际合作与标准制定，为人工智能安全治理提供更加广泛的支持和保障。一是加强国际合作，推动人工智能安全治理全球共享。人工智能技术的跨国界特性决定了其安全治理需要全球范围的合作。应积极参与国际人工智能安全治理合作，与其他国家和国际组织共同探讨和制定全球人工智能安全治理的框架和机制，形成广泛的国际共识，共同应对人工智能带来的安全挑战。二是参与制定标准，增强我国在国际规则中的话语权。目前，全球范围内尚无统一的人工智能安全标准。应积极参与国际人工智能安全标准的制定，在国际标准化组织等平台上发挥积极作用，推动制定符合国际社会共同利益的安全标准。通过参与国际标准制定，既可以提升我国在全球人工智能安全治理中的话语权，也有助于国内企业更好地融入国际市场。三是增进跨国界数据合作管理，构建互信互利的国际数据生态。数据的跨国流动对人工智能的发展至关重要，但也带来了数据安全和隐私保护的挑战。应在国际层面推动建立数据跨境流动的安全框架，确保数据在全球范围内的安全共享与使用。同时，加强国际执法合作，打击利用人工智能进行的跨国犯罪活动，维护全球网络空间的安全与稳定。

培育安全文化与人才梯队，支撑人工智能安全治理长远发展。安全文化与人才梯队是确保人工智能持续健康发展的关键所在。在人工智能技术飞速发展的今天，其安全治理不仅依赖于法律法规和技术手段，更需要深厚的文化土壤和强大的人才支撑。一是提升公众、企业及政府的安全意识与素养。人工智能技术的广泛应用使得其安全问题日益凸显，而公众、企业及政府作为人工智能的主要应用者和监管者，其安全意识与素养直接关系到人工智能安全治理的成效。通过举办讲座、研讨会、在线课程等多种形式，普及人工智能安全知识，提升社会各界的安全意识，形成全社会共同关注、共同参与人工智能安全治理的良好氛围。二是建立多层次、多领域的人工智能安全人才培养体系。人才是人工智能安全治理的核心力量。为了应对日益复杂的安全挑战，我们需要建立涵盖高等教育、职业培训、实践锻炼等多个层次的人工智能安全人才培养体系，培养一支具备扎实理论基础、丰富实践经验和高度责任感的专业队伍，为人工智能安全治理提供坚实的人才支撑。三是搭建产学研用平台促进技术成果转化与应用。创新是推动人工智能安全治理不断向前发展的动力源泉。鼓励科研机构、高校、企业和政府部门之间的紧密合作，搭建产学研用平台，推动人工智能安全技术的研发与应用，促进技术成果转化，为人工智能安全治理提供源源不断的创新动力。

文章来源：  《重庆科技报》   https://www.zzqklm.com/w/qt/35273.html