|
腾讯集团副总裁、腾讯云与智慧产业事业群COO、腾讯云总裁邱跃鹏认为，云和AI大模型是密不可分的，二者正走向深度融合。具体体现在以下几个方面：大模型依赖云进行训练与输出：云是大模型的最佳载体，高性能的云上算力是大模型的最佳助推器，大模型需要在云上利用强大的计算资源进行训练。例如腾讯通过升级云的基础设施，基于星星海服务器降低了GPU服务器故障率，借助星脉网络支持大规模训练集群，还提升了存储写入速度，让万亿参数模型一轮训练可在4天内完成。同时，搭载大模型能力的应用，也通过云服务的方式落地，无论是训练大模型还是使用大模型，都离不开云。云借助大模型提升产品效能：云产品通过与大模型的深度融合，能力得到显著增强。例如基于混元大模型打造的腾讯云AI代码助手已覆盖腾讯集团内部超50%的程序员，编码时间平均缩短40%。腾讯云风控大模型也因大模型能力加持，泛化能力变强，可在两天内形成风控模型。云为大模型提供全套支持能力：腾讯云建立起了围绕大模型的全套能力，包括高性能算力集群、云原生数据湖仓和向量数据库等数据处理引擎，以及模型安全、支持模型训练和精调的工具链等。企业、开发者可根据需求灵活选择产品，降低大模型训练成本，如百川智能、智谱科技等企业都借助腾讯云打造大模型。推出相关产品与解决方案促进融合：腾讯推出了性能更强、性价比更高的MoE模型腾讯混元Turbo，并上线腾讯云，其推理效率提升1倍，推理成本降低50%。同时，全新的AI基础设施AI infra品牌“腾讯云智算”登场，它是集算存网一体的高性能智算底座，能为AI创新输出性能领先、多芯兼容、灵活部署的智算产品能力。此外，腾讯云还发布了RAG解决方案，帮助企业结合自身信息知识快速打造大模型应用。
|
|
|周边二手车|手机版|标签|xml|txt|新闻魔笔科技XinWen.MoBi - 海量语音新闻!
( 粤ICP备2024355322号-1|
粤公网安备44090202001230号 )|网站地图
