京东言犀大模型率先布局产业应用
■ 郑大海 7月13日,2023京东全球科技探索者大会暨京东云峰会在京召开。京东推出了言犀大模型,还发布了全新升级的优加DaaS和言犀智能两大服务平台,以及面向零售、金融、城市、健康、物流五大领域的行业解决方案。 与通用大模型相比,这一源于产业、服务产业的大模型,融合70%通用数据与30%数智供应链原生数据,具有 “更高产业属性、更强泛化能力、更多安全保障”的优势,致力于深入零售、物流、金融、健康、政务等知识密集型、任务型产业场景。 京东集团CEO许冉表示:“京东的大模型技术演进,遵循了京东的技术追求:成本、效率、体验、可信、普惠、突破。成本、效率和体验是从京东的经营理念传承而来,也是零售的第一性原理。可信、普惠和突破则是技术服务于产业和社会的承诺。” 用产业数据和专业技能创造价值 “大模型真正实现自己的价值,一定是在产业应用中。”许冉表示,“从产业端切入大模型,如同从北坡攀登技术珠峰,道路虽然更加艰难,却有更波澜壮阔的风景。” 京东作为一家新型实体企业,自身发展就来自产业场景历练,拥有包括零售、物流、科技、健康、工业、产发等丰富的产业布局。这为京东积累下每年数百亿条优质交互数据,训练言犀大模型的数据库,就由70%通用数据和30%供应链原生数据组成。由此训练的言犀大模型天然具有 “产业基因”,此外,还具有行业泛化能力,能够保障客户在云上云下安全使用。 “数智供应链训练了产业大模型,而大模型则依托供应链深入产业”,京东集团技术委员会主席、京东云事业部总裁曹鹏如是说。 对于大模型的应用实践,京东明确了 “三步走”规划。目前,京东云已经基于内部实践构建了通用大模型;今年将通过高复杂场景大规模锤炼,迭代出扎实的产业服务;预计在2024年初,将大模型能力向外部严肃商业场景开放。 “某种意义上,我们的大模型相当于既做了通识教育,又读了四年专业性的本科教育”,京东探索研究院院长、京东科技智能服务与产品部总裁何晓冬表示。“大模型的难点不在技术追赶,而是产业突破。” 构建 “训练营”和 “弹药库” 京东从很早就开始布局大模型。2021年,就推出十亿级模型K-PLUG,2022年推出百亿级模型Vega,本次大会则展示了千亿级模型。 正是京东发展战略的未雨绸缪,让京东形成了一套大模型的完整工具链,包括支撑大模型研发的基础设施——言犀AI开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等核心产品。 言犀AI开发计算平台能够为客户和行业应用开发提供定制化解决方案。它既具备行业知识库,沉淀了京东的零售、物流、健康、金融等行业专业技能,又具备100多种训练和推理优化工具,能将通用模型迅速转化为专业模型。 京东健康发布的京医千询大模型,就是建立在京东言犀通用大模型基础之上,能快速完成在医疗健康领域各个场景的迁移和学习,从而实现产品和解决方案的全面AI化部署,能为远程医疗服务提供坚实的技术底座。 此外,京东还展示了金融领域AI营销运营平台。使用者通过简单的对话,就能一站式生成营销活动,覆盖运营策略制定、营销任务调度编排、搭建活动页面、批量生成营销文案和素材、数字化投放等方面。 在电商内容营销平台也大有作为。从一张商品图片出发,它能够理解商品特征,快速胜场电商运营需要的商品主图、营销海报图和商品详图等,满足商家快速开店和营销的需求。目前,京东机构基金代销系统已经上线言犀有方模块,给机构客户提供更便捷的基金筛选和投研分析功能。 如果说言犀AI开发计算平台是大模型的“训练营”,向量数据库则是大模型的 “弹药库”,是大模型使用数据的桥梁。 京东从2019年开始研发向量数据库,历经电商大促场景磨练,向量数据库Vearch已经能支撑百亿级高性能检索,延时降低到毫秒级,可用性达到99.99%,已经服务超过100家大中型企业用户。京东将向量数据库用于大模型预训练,将推理成本降低了80%。 对大模型所需的计算资源,京东也做出了充分的准备。在重庆太阳岛,京东超算中心天琴α集群日夜不停地运转,推理速度较过去提升6.2倍,推理成本节约90%,成为技术创新背后强大的算力支撑。 京东云还升级了三个核心产品:其一是混合多云操作系统 “云舰”,将GPU/NPU的资源成本降低50%,并提供行业最高的业务连续性承诺。其二是高性能存储平台云海,将单集群每秒读写性能提升5倍,达到千万级;时延降低50%,达到百微秒级;使用成本则降低30%。其三是软硬一体的虚拟化引擎京刚,将虚拟化卸载到智能网卡中,虚拟化损耗降至0,网络性能提升高达4倍,并支持100GbVPC网络,云硬盘单实例性能突破百万IOPS。 升级场景方案 满足产业需求 伴随技术进步,产业应用已经从流程驱动和数据驱动,进化到知识驱动阶段。京东也升级了两个能够积累高质量行业数据的平台:全新的优加DaaS和言犀智能服务,来支撑产业应用对数据的新需求。 全新升级的优加DaaS具备三个优势:更多维,既包括企业自身的数据,也能实现企业和京东及生态数据的安全互通和融合;更易用,大幅提高交互体验、降低使用门槛,用简单描述即可生成答案;更简单,串联数据开发平台、数据服务平台、数据可视化平台等的原子能力,将原本复杂系统间的操作简化。 言犀智能服务平台升级后,具备了更丰富的交互渠道,覆盖从智能客服到直播间,从移动终端到线下智能端;更生动的交互效果,支持语音、视频、文字等方式;更专业的交互内容,生成的专业领域交互内容更加可控、可用。目前,它已经服务于12345热线、银行数字员工、专家诊断等场景。 技术要实现产业价值,供应链是重要的抓手。京东云深入全渠道一盘货、供应链金融科技、产业协同、数据中台、数字仓库等20多个数字化场景,已经服务100座城市、2500多家大型企业、944家金融机构和超250万家中小微企业。这些千行百业的数字化实践,成就了最懂产业的云。 “智能化不会一蹴而就,要以数字化积累为支点,产业智能优先在数字化领先的场景发生。”京东集团副总裁、京东科技产品与解决方案总裁高礼强表示。 京东在零售、金融、城市、物流等多个场景,分别发布了全新的智能化解决方案,借助大模型能力实现服务能力的升级。 过去人工智能的发展历程,曾经数次达到应用爆发的边缘,但很多都没有创造出很大的价值,技术没有在产业端形成扎实的应用是重要的原因之一。而京东服务于实体经济,在大模型的产业应用过程中,凭借扎实的产业数据积累,勾画了一条以实助实的产业价值创造路径。
|