周鸿祎两会提案:鼓励兼具“安全和AI”能力的企业解决通用大模型安全问题

2024-03-04 16:26:38 来源:陕西消费网

2024年全国两会大幕开启,全国政协委员、360集团创始人周鸿祎正式进入履职的第七年。作为安全科技领域的委员代表,周鸿祎两会提案关注通用大模型安全问题,建议制定通用大模型安全标准体系,鼓励兼具“安全和AI”能力的企业解聚焦攻坚,承担重担。

当前,人工智能引领的全球新一轮科技革命和产业变革加速演进,通用大模型作为推动技术变革的核心,是时代发展的关键引擎,在国家的高度重视下,我国通用大模型发展迅速。然而,安全问题随着技术的发展愈发凸显。安全与发展是一体之两翼,驱动之双轮,通用大模型的安全意义重大,关系到技术研发落地全产业链的安全,微小的安全问题便有可能引发系统性的安全风险,因此更需要国家和企业重点应对和保障。

周鸿祎将通用人工智能技术引发的复杂安全风险分为技术安全、内容安全和人类安全三个方面。其中,技术安全主要涉及大模型技术本身引发的安全问题,如网络、数据和生成内容的安全;内容安全则是对大模型的控制、滥用、误用和恶意应用等问题;而人类安全问题则是大模型强大后带来的安全可控问题。他在提案中特意加以说明,称通用大模型的发展已不是单纯的科技之争,更是国运之争,影响深远,中国应尽早未雨绸缪,重视大模型安全。

为此,周鸿祎提出三点建议。首先,他指出目前国内的大模型安全问题不容乐观,建议有关部门采用揭榜挂帅等方式,鼓励并扶持兼具“安全和AI”能力的企业,更好发挥其解决通用大模型安全问题的重要作用。

其次,周鸿祎认为,现阶段将安全模块作为大模型外挂的做法已不可行,安全需要贯穿通用大模型的整个构建过程,确保安全措施在系统的整个生命周期中得到充分考虑和实施。建议国家研究制定保障通用大模型安全的标准体系,推动通用大模型开展安全评测、接入安全服务,降低通用大模型安全风险。

最后,相比民营企业以及其他各类组织,政府、央国企对通用大模型的应用具有更高的安全标准,不仅关涉商业安全,更关涉国家安全。因此,他建议政府、央国企与兼具“安全和AI”能力的企业在大模型安全领域展开深入合作,发挥此类企业在人工智能安全领域的优势作用,为国家安全贡献力量。

[责任编辑:田园]