发展大模型的一个重要方向是借助产业和场景优势,将大模型与业务流程、产品功能相结合,寻求多场景应用、垂直化和产业化落地,助力加快形成新质生产力

王炸级Sora之后,全国政协委员周鸿�t三项人工智能提案提到什么?

标点财经研究员  李�懦�

2月中旬,OpenAI正式对外发布人工智能文生视频大模型Sora――只需输入文字,便可生成一段长达60秒的高清视频。这款王炸级的文生视频大模型再次让世界感受到了人工智能的强大,同时,立即在国内引起高度关注和热议。

标点财经研究员获悉,作为互联网行业资深老兵,全国政协委员、360集团创始人兼董事长周鸿�t向今年全国两会提交的三份提案,均是围绕人工智能领域。三份提案分别着力在人工智能多场景应用、通用大模型安全、数字安全云化服务等话题。



图为全国政协委员、360集团创始人兼董事长周鸿�t。

大模型在垂直领域大有可为

中美在人工智能领域的竞争,一方面是对抗 Open AI 的通用大模型基础战;另一方面是差异化、特色化的大模型应用战。当前,中国在通用大模型核心技术上赶超美国还需要时间,但在大模型应用方面,2024 年是大模型应用场景元年,中国完全可以走出一条具有中国特色的大模型发展之路。

周鸿�t在《关于深化人工智能多场景应用,支持大模型向垂直化、产业化方向发展的提案》中指出,在许多垂直领域,其实不需要千亿规模的大模型,百亿大模型足够赋能百行千业,中国发展大模型的一个重要方向应该是借助产业和场景的优势,将大模型与业务流程、产品功能相结合,寻求多场景应用、垂直化和产业化的落地,助力加快形成新质生产力。   

周鸿�t认为,“通用大模型在企业级场景中无法直接应用,发展垂直化和企业化的大模型可以更好地满足企业的个性化需求,提高生产效率和服务质量,促进产业升级。”

在他看来,中国发展垂直化、产业化大模型有5项必要性。具体而言,一是通用大模型是“通才”,但缺乏行业深度,试图用一个大模型解决企业所有问题不现实;二是通用大模型与组织内部业务结合不紧密,不能满足企业级应用场景的垂直性、专业性问题;三是通用大模型存在数据安全隐患,易造成企业内部数据泄露;四是通用大模型存在“幻觉”,无法保障内容真实可信、有据可查;五是垂直大模型相较通用大模型,调试和部署成本更低,训练时间更少,性价比更高,同时垂直大模型所需要算力更小,有助于应对当前算力卡脖子的问题。

基于上述对发展垂直化和企业化的大模型的认识,周鸿�t提出三项建议。首先,他认为,场景很重要,大模型在垂直领域大有可为,建议政府、央国企率先提供更多应用场景,聚焦“小切口,大纵深”,推动大模型垂直化、产业化落地。

周鸿�t表示,企业用大模型不能冒进,而是要用 AI 逐步改造业务,循序渐进,积小胜为大胜。在实践中要拆分场景具体分析,在业务流程上找准切入点,选择与大模型成熟能力匹配的业务环节切入,切入点虽小,但纵深推进,对业务影响很大,改造收效更大。

值得注意的是,近期,国资委召开中央企业人工智能专题推进会,十家央企率先倡议社会开放应用场景。对此,周鸿�t建议政府和央国企持续提供更多应用场景,为发展垂直化、小型化、低成本的大模型开放更多“小切口、大纵深”的落地机会,助力百行千业数字化转型,实现数转智改。   

其次,周鸿�t认为,知识很重要,基于“暗知识”的垂直大模型能更好解决企业问题。他建议鼓励企业在定制 AI 前,做好知识管理,将企业大数据平台升级为企业知识平台。

大模型的数据、知识只是人类知识的冰山一角,企业还有大量的“暗知识”,如战略规划、产品设计图等企业具有的独特知识,只存在于特定企业中,在互联上难以找到。建议鼓励企业构建知识平台,将“暗知识”汇总起来,打造企业专属知识库,做好管理,在此基础上,通过垂直训练,深入企业级场景,满足企业需求。

第三,业务融合很重要,周鸿�t建议鼓励和引导企业将大模型与数字化业务系统深度结合,同业务流程相结合,充分发挥大模型价值。大模型像发动机,不是用来秀的,而是要与业务相结合,特别是传统制造业,大模型是推动数转智改的利器。

周鸿�t强调,“大模型与业务场景的融合,关键是智能体应用与企业数字化系统的连接打通。”

他进一步指出,企业层面,通过打通组织、人员、业务、流程,构建业务协作平台,促进与大模型的全面融合。国家层面,鼓励企业拿出一至两个业务场景与大模型融合,创造大量可落地推广的与业务紧密融合的大模型,推动这些大模型与数字化系统融为一体,这将对中国的产业数字化、新型工业化产生巨大作用,本质上成为新质生产力的重要部分。

通用大模型安全需重点应对和保障

全球新一轮产业技术变革加速来临,通用大模型作为人工智能发展的核心引擎,正引发一场全新的工业革命。过去一年,国家高度重视通用大模型发展,各部委加速行动,在算力、算法、数据等大模型发展关键领域持续发力、取得进展。   

但伴随人工智能的影响日益扩大,安全问题也愈发凸显,周鸿�t在今年提交的题为《关于鼓励兼具“安全和 AI”能力的企业解决通用大模型安全问题的提案》对此提出了针对性建议。

在提案中,他指出,“安全是一切发展的基石和底线,通用大模型的安全,是保障人工智能技术可持续发展、实现广泛应用的重要基础,对确保人工智能系统的可靠性和安全性意义重大,更需国家和企业重点应对和保障。”

一方面,AGI(通用人工智能)的进步速度超乎想象,OpenAI 系列模型工具发布后,AGI 加速实现,将引发更加复杂的安全风险,主要包括技术安全、内容安全和人类安全三个方面。技术安全主要涉及大模型技术本身引发的安全问题,如网络、数据和生成内容的安全;内容安全则是对大模型的控制、滥用、误用和恶意应用等问题;而人类安全问题则是大模型强大后带来的安全可控问题。

另一方面,美国国防部加速与 OpenAI 在“网络安全”等领域展开合作,OpenAI 为此删除了“禁止用于军事用途”条款,使得生成式 AI 军事化的趋势愈发显著。通用大模型的发展,已不是单纯的科技之争,更是国运之争,影响深远。中国应尽早未雨绸缪,高度重视大模型安全,以避免在未来的国际竞争中受到限制。

基于解决通用大模型安全问题的必要性和紧迫性,周鸿�t建议可以从三个方面发力。首先,国家更加重视通用大模型安全问题,给予兼具“安全和 AI”能力的企业专项扶持政策,更好发挥其解决通用大模型安全问题的重要作用。

通用大模型深刻影响经济社会的方方面面,安全问题至关重要,而目前国内的大模型安全问题不容乐观。一方面,国内大模型企业不熟悉内容安全、数据安全、科技伦理、网络安全等人工智能带来的安全挑战;另一方面,大部分安全公司又很少真正有能力深入大模型研究,上述两方面原因导致国内大模型安全领域成为整个产业链的薄弱环节。   

周鸿�t建议国家有关部门采用揭榜挂帅等方式,鼓励并扶持兼具“安全和 AI”能力的企业,给予专项扶持政策,支持企业担起大模型安全重担,聚焦攻坚,为解决通用大模型安全问题提供坚实保障。

其次,国家研究制定保障通用大模型安全的标准体系,推动通用大模型开展安全评测、接入安全服务,降低通用大模型安全风险。

现阶段,将安全模块作为大模型外挂的做法已不可行,安全需要贯穿通用大模型的整个构建过程,确保安全措施在系统的整个生命周期中得到充分考虑和实施。周鸿�t建议国家在内容安全、数据安全、科技伦理、网络安全等细分领域,牵头研究制定安全检测标准,在规范的安全标准体系下,推动通用大模型的安全评测工作,通过接入安全服务来保障大模型的安全。

第三,鼓励政府、央国企与兼具“安全和 AI”能力的企业在大模型安全领域展开深入合作。政府、央国企对通用大模型的应用,具有更高的安全标准,不仅关涉商业安全,更关涉国家安全。

周鸿�t建议政府和央国企加强与兼具“安全和 AI”能力企业的合作,尤其针对被美制裁的企业,放宽与此类企业的市场准入条件,在政策和招投标条件上,给予更多合作机会,发挥此类企业在人工智能安全领域的优势作用,为国家安全贡献力量。

以“安全即服务”的理念破解难题

近年来,网络安全工作在习总书记 “4・19”讲话精神及总体国家安全观的指引下,取得了长足进展,国家网络安全法规制度及保障体系日益完善,网络安全防护及应急能力不断加强,网络安全产业发展迅速。在全国相关单位和行业的共同努力下,形成了独具特色的“数字安全中国方案”,并有效应对了针对我国国家机关及关键头部企业的境外高级网络攻击。

然而,数字化程度越高,由数字化网络攻击引发的安全风险越大。从我国数字安全能力整体水平看,行业间大中小型单位数字安全发展水平极不均衡、地方间区域差异明显,且有逐年拉大的趋势。随着国际形势的日益复杂,国家级对手对供应链、产业链、生态链以中小微单位为代表的薄弱环节作为突破口的攻击使得安全形势更加严峻。

周鸿�t在今年提交的《关于全面建设安全云、推广数字安全云化服务的提案》表示,改变传统安全堆砌产品的模式、尽快弥补广大普通单位的数字安全能力差距已成为当务之急。他认为,数字安全中国方案建设成本高、运营难度高、人员要求高,然而受限于资金、人才、数据等因素,导致该方案难以直接适用于广大普通单位。

为体系化缩小数字安全能力差距,周鸿�t建议借鉴国内外成功经验,以“安全即服务”的理念破解数字安全难题:首先,建设国家级、行业级、城市级 “安全云”作为“数字安全公共服务基础设施”。通过其将数字安全相关必要的大数据、安全专家、安全平台、人工智能等资源进行云化集中,将传统堆砌安全产品构成的本地分散能力集中在“安全云”上,解决安全投入产出效率问题。

同时,安全的本质是人与人的对抗。精通各行业的安全专家团队可利用“安全云”基础设施,以“云化安全服务”的方式个性化满足不同形态安全需求。机关企事业单位可通过采购云服务或直接托管给专业机构运营安全,自身只需关注安全效果即可,解决缺乏专业团队问题。

在周鸿�t看来,利用数字安全基础设施提供的“云化安全服务”,既减小了数字安全能力的获取难度,又降低了建设运营成本,进而提升国家整体数字安全水平。通过该模式将数字安全产业发展为现代生产性服务业,促进传统网络安全产业的数字化转型升级,为新质生产力提供体系性安全保障。

周鸿�t提出了三项具体建议:一是统筹建设数字安全公共服务基础设施,集中数字安全能力。建议国家发改委等相关部委牵头指导,建设数据安全、防国家级攻击、人工智能安全、数字城市安全等一系列以提供云化安全服务为目标的“安全云”基础设施。

二是改变重建设轻效果的思路,鼓励各单位购买数字安全云化服务,作为传统网络安全建设的升级路径。建议财政部等相关部门明确指导“数字安全云服务”的可列支科目。建议相关部委研究出台配套标准和指导意见。

三是鼓励网络安全企业积极转型,以安全即服务的方式来为国家整体数字安全水平提升做出贡献,尤其是鼓励具备核心技术的被美制裁的龙头企业发挥更大作用。建议财政部、国资委在招标采购相关的法律法规及相关政策流程中给予一定力度支持。