源于产业、服务产业 。言犀大模型融合70%的通用数据与30%京东数智供应链原生数据,这一千亿级参数的大模型,具有“更高产业属性、更强泛化能力、更多安全保障”优势,面向知识密集型、任务型产业场景 , 推理提速6.2倍,模型迭代部署提效超10倍 。言犀AI开发计算平台,以低代码和API降低开发门槛,提供100多种训练和推理优化工具,可节约90%推理成本 。
基础设施:极致降本造就技术基石
看不见的技术基石 , 在背后稳定地提供数智支持,实现极致降本 。
混合多云技术,每年帮京东省数亿元 。京东的算力集群由72个大型数据中心、近百个边缘数据中心、海量的边缘加速节点、组成 。京东云通过云原生技术 , 将海量异构算力设施容器化,构建了“全球最大的容器集群” 。京东云混合多云操作系统云舰 , 对这些容器集群完成超千万核资源秒级调度和高效复用,3年将处理器运算效力提升超100%,每年可节省数亿元 。同时,支持大模型训练+微调+推理混合部署,将算力利用率提高70% 。
存算分离技术,少买硬盘多省钱 。基于存算分离架构,京东云把存储资源池化,构建了京东云云海的新一代分布式存储系统,成功将磁盘利用率提升至90%,做到千万级IOPS,延迟低至百微秒,可广泛应用于音视频存储、图片存储、数据报表等传统场景 , 以及存算分离、高性能计算、AI训练等新兴场景,对计算和存储资源实现解耦,可为客户节省整体基础设施成本超30% 。
软硬虚拟化一体技术,榨干硬件能力实现真便宜 。虚拟化是云计算的底座技术,但这个“底座”会造成服务器的额外开销 。京东自研了软硬一体虚拟化引擎“京刚”,将物理服务器的虚拟化损耗降至零 , 榨干每台服务器的全部算力 。11.11期间,京刚托起了云主机、裸金属云主机、云原生容器,最大化释放云计算低成本优势 。
离在线混部技术,靠“复用”省钱 。像618、11.11这样的购物节 , 服务器的访问量激增,常规做法是添置新服务器,但峰值节点后,服务器会闲置将带来巨大浪费 。京东云“离在线混部技术”,作为复用技术,把对延迟不敏感的离线计算任务和对延迟敏感的在线服务,部署到同一集群上运行 , 先满足重要的在线服务需求,相对次要的离线任务,填到空闲资源中去 , 以复用操作,实现降本增效 。
向量数据库,既要超高性能也要极致降本 。京东自主研发向量数据库Vearch,平稳支撑京东百亿级向量数据高性能检索,将延迟控制在毫秒级 。用于大模型预训练,可优化模型推理效率,相比传统方式推理成本降低80% , 目前,Vearch已经实现大规模落地实践,服务超100家大中型企业 。
向下夯实技术基石,向上做活智能应用,AIGC正成为引发生产力变革的关键力量之一 。据艾瑞咨询预测,2023中国AIGC产业规模约为143亿元 。2028年,将达到7202亿元 。2030年 , 则有望突破亿万元,达到11441亿元 。
当数智创新的温度传导为“企业降本增效、消费提质扩容、产业高质量发展”发展的正循环 。人们不难发现,以11.11为节点的电商大促接近尾声,以“大模型+小应用”为引擎的AIGC正蓄势待发 。
未来,科技服务将着眼何方?
以AIGC践行技术长征,京东云如是回答 。
【“大模型+小应用” 京东云激发AIGC生产力】
推荐阅读
- 绿萝总“黄叶”,用“它”泡水浇,30天就能“绿”回来,好用!
- 你的睡眠质量达标吗?看看这些“好眠”指标
- 超八成受访者感觉“第一学历”的重要性在招聘中被过度放大
- 如何解决“程序正常初始化失败”
- 沪指哪里
- 小米10变焦多少倍,小米10光学变焦多少倍
- 梳子清洗小妙招 梳子清洗小妙招有哪些
- 土豆去电水壶水垢小妙招 7个妙招搞定电水壶水垢
- 谢霆锋喜当爹!54岁王菲现身机场,小腹隆起疑有喜,9年努力终怀孕
- 晒诱人身材!TVB小花公开与富贵未婚夫婚照,爱情长跑7年终成人妻
