大模型只是开端,行业应用才是未来,腾讯云MaaS来了!

猎云精选邵延港2023-06-20 10:44 大公司
大模型的沃土在真实的行业场景中。

大厂正在大模型战场激战,而腾讯却认为不能操之过急。在百度、阿里、商汤等互联网和人工智能厂商们发布大模型后,腾讯终于公布了其大模型进展,但与通用大模型不同的是,腾讯此次打算将自己擅长的事情做到极致。

6月19日,腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会上,首次公布腾讯云行业大模型研发进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS一站式服务,助力客户构建专属大模型及智能应用。

来源:腾讯云

腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示:“就模型而言,比起通用大模型,企业更需要针对具体行业的大模型,并结合企业自身的数据进行训练和精调,以打造出更实用的智能服务。”

大模型掀起AI浪潮,行业参与者也在不断探索其商业化可能性。腾讯云发现产业场景则是大模型的最佳练兵场。腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声认为,依托腾讯云的高性能计算、行业大模型能力,以及腾讯多年深耕产业互联网积累的行业经验,腾讯希望为客户和伙伴,打造一站式的行业大模型精选商店,加速大模型在产业领域的创新实践。

基于各个产业场景的多样性和复杂程度,具体的行业大模型最终将展现出丰富的个性。腾讯MaaS服务也将催生出行业大模型生态。


大模型的普惠应用


大模型的发展,对数据和算力产生了巨大的挑战,也加大了企业应用大模型的成本。AI新纪元下,比起通用大模型,企业更需要针对具体行业的大模型,并结合企业自身的数据进行训练和精调,以打造出更实用的智能服务。企业对提供的专业服务要求高且容错性低,因此使用的大模型必须具备可控、可追溯和可修正的特点,并经过反复充分地测试。

企业在应用大模型时,常常面临计算资源少、数据质量差、投入成本高、专业经验少等挑战。对企业在大模型应用实践的路径探索,吴运声表示,腾讯云将通过TI平台,面向客户全面输出MaaS能力,可以满足客户模型预训练、模型精调、智能应用开发等多样化需求,让客户可根据自身业务场景需求,定制不同参数、不同规格的专属模型。

此外,汤道生称,大模型最终要在真实场景落地,要达到理想的服务效果,往往需要把企业自身的数据也用起来。因此,腾讯云推出了推出基于TI平台的行业大模型精调解决方案。

据了解,腾讯云TI平台行业大模型精调解决方案,具备完整大模型精调工具链,支持客户加入自己独有的场景数据,进行精调训练,客户可根据自身业务场景需求,定制不同参数、不同规格的专属模型。

值得注意的是,腾讯云打造了一站式行业大模型精选商店,内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、教育等多个行业场景。兼容支持多模型训练任务,企业可以按需取用。

腾讯云以文旅场景为例进行现场演示:通过加入文旅行业垂直场景数据、接入文旅客户API接口后,大模型不仅可以为用户制订细致的旅行攻略,提供非常人性化的服务体验,也让智能客服系统,实现服务商业化的闭环。未来,随着更多高质量数据的增加,模型的精调效果还会更好。

目前,腾讯云已经携手传媒、文旅、金融、政务、教育等行业的头部企业,在十余个行业探索了超50个行业大模型的应用解决方案。在此基础上,企业不仅可以加入独有的场景、数据,快速精调生成专属模型;也可根据业务场景需求,按需定制不同参数、规格的模型服务。

汤道生认为,企业所需要的是在实际场景中真正解决了某个问题,而不是在100个场景中解决了70%-80%的问题。有行业针对性的行业大模型,对与企业智能化升级更具有普惠价值。


腾讯云MaaS加速行业大模型落地


与发布通用大模型产品相比,腾讯云则直接跨越至大模型的行业应用环节。主要是通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。此外,通用大语言模型的训练需要大量计算资源和漫长的训练周期,同时,安全和合规也是必要的考量因素。

从腾讯云MaaS全景图可以看到,腾讯云加大了大模型基础设施建设。

来源:腾讯云

在技术底座方面,今年4月14日,腾讯云发布新一代HCC高性能计算集群,采用最新一代星星海自研服务器,搭载NVIDIA H800 TensorCoreGPU,基于自研网络、存储架构,带来3.2T超高互联带宽、TB级吞吐能力和千万级IOPS。实测结果显示,新一代集群算力性能较前代提升3倍。

此外,腾讯云即将推出向量数据库(Tencent Cloud VectorDB),源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适用于AI运算、检索,数据接入AI的效率也比传统方案提升10倍。

在平台层面,腾讯云TI平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、工业等多个行业场景,企业可以结合自身场景数据可按需定制精调,也可以根据自身需求开展多模型训练任务,大幅降低大模型应用门槛。用户也可以通过TI平台以及模型的私有化部署、权限管控和数据加密等方式,让企业用户在打造模型与使用模型时都更放心。

同时,腾讯云TI平台提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。同时,由TI-ACC升级的“太极Angel”提供更优的训练和推理加速能力。在传统CV、NLP算法模型的基础上,新增了对大模型的训练和推理加速能力,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升30%+。

再次,TI平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论,同时支持MLOps的体系及工具,保障客户需求的顺利交付。


腾讯ToB新引擎


在腾讯一季度财报电话会上,腾讯公司总裁刘炽平就表示,腾讯对AI一直有所布局,AI 及大模型对于腾讯整个业务来说是一个增长的扩大器。如今,腾讯云MaaS将成为腾讯ToB业务的新增长极。

基于腾讯云MaaS的能力,腾讯的腾讯企点、腾讯会议、腾讯云AI代码助手等三大SaaS应用全面智能升级。

新一代的腾讯企点智能客服,基于行业模型,结合客户业务需求进行训练与精调,客服机器人可以提供更精准、更详细的回答,甚至调用业务系统来提供实时数据。对比上一代智能客服的机械回答,用户体验有很大的提升。

腾讯会议即将推出覆盖会议全流程场景的智能小助手。通过简单自然的会议指令,协助用户进行日程安排、会管、会控等一系列操作。会后可以自动生成智能总结摘要,还能基于智能录制的能力,帮助用户高效回顾,提升用户开会和信息流转效率。值得注意的是,腾讯会议基于行业大模型的智能录制功能,已经以付费的形式面向会员、商业版和企业版用户全量开放。

新一代AI代码助手,用AI加持来重塑开发体验和团队能力,让开发者通过全新的人机协作,达到高效创作。AI代码助手支持多种编程语言和主流开发框架、以及常用开发环境;覆盖开发关键流程,包括沟通、编码、排错、评审和调优,高效承接机械性工作,释放开发者时间和精力来专注代码创作,实现开发全面加速。同时也可以基于正负反馈,不断训练调优代码生成过程,实现工具持续改进。

不过,行业大模型需要“大模型”更懂行业,才能更易落地。未来要拓展更多行业大模型的应用时,行业生态不可避免。

来源:腾讯云

在6月19日的发布会上,腾讯云联合来自金融、文旅、传媒、政务、教育等数十个行业的22家客户正式启动行业大模型共建合作,未来将依托腾讯云领先的行业大模型能力,构建垂直行业模型及应用。并携手17家生态伙伴共同发起了“腾讯云行业大模型生态计划”,致力于共同推进大模型在产业领域的创新和落地。

在行业大模型标准体系方面,腾讯云联合中国信通院共同启动了“行业大模型标准体系及能力架构”研究,该研究涵盖模型行业能力、模型工程化性能、模型算力网络、模型安全可靠等方面,未来将为行业大模型的建设和应用提供完备的能力和标准体系。

生态共建是AI发展的有效路径。汤道生表示,“今天,我们再一次站在数字科技革命的奇点上,大模型只是开端,AI与产业的融合,将绽放出创造力的未来。”

【本文为合作媒体授权博望财经转载,文章版权归原作者及原出处所有。文章系作者个人观点,不代表博望财经立场,转载请联系原作者及原出处获得授权。有任何疑问都请联系(联系(微信公众号ID:AppleiTree)。免责声明:本网站所有文章仅作为资讯传播使用,既不代表任何观点导向,也不构成任何投资建议。】

猜你喜欢