GPU云计算深度学习平台

使AI实现真正的普惠CharlesWu2019/12/19ImmersiveExperienceAIoTInternet3DPrintingTransgeneSuperconductivityRemoteSensingBiologicalInformationRecognitionNLPNuclearEnergyLaserCloudComputingDigitalTwinQuantumComputationAIDeepLearningUnmannedDrivingGPSNeuralNetworksChipCloudtotheEdgeBlockchainInfraredStemCellsIntegratedCircuitNanometerBioengineeringBigData5GBIGDATAIOTCLOUDAISECURITY人工智能信息安全物联网云计算大数据在数字经济时代中,数据是资产,AI是能力,安全是基础,物联是连接云计算是产业操作系统京东,一家"以零售为基础的技术与服务公司"15年间交易额增长17万倍,年均复合增长率接近140%,成为"国内最大的零售商"服务覆盖中国10亿多用户,联手腾讯打造全球独有的社交电商新模式坚持正品行货、正道成功的原则【1】数据统计:行业内主要友商的近似统计方式下京东GMV数据.
GMV:GrossMerchandiseVolume,商品交易总额.
[1]京东集团历年交易额(单位:亿元)15303040606720132014201520162017201817000939213000700万+企业客户精选21万+商家驻入10亿+用户智能物流超级电商超级零售超级云智能供应链智能城市智能金融智能教育智能农业智能医疗智能零售超级电商成就超级云超级云+超级AI能力云边端京东云+AI开放平台实现AIforEveryone京东用AI在产业里创造的价值AI以图搜图、精准推荐、智能卖场、数据预测、智能客服…金融智能投顾的风控和反欺诈;无人审核下的授信和放款业务…物流以无人仓、无人机和无人车为支柱的智能物流体系…零售物联网围绕智能家庭、车联网等场景,提供语音控制、远程管理、场景联动等智能服务保险智能保险顾问精推荐产品,通过图像识别远程查勘定损…城市为城市环境、交通、规划、能耗、商业、安全、医疗、电子政务等领域定制智能解决方案健康医疗利用机器学习做医疗影像、精准医疗…普惠性AI开放平台API&SDK解决方案硬件产品语音及声学视觉语义对话知识表示推理机器学习京东AINeuHub开放平台从0到1从1到N从N到∞创造一些以前从来没有过的技术能力打磨技术到体验让技术在迭代中提升赋能体验到价值通用平台赋能无穷场景京东内部自研第三方生态伙伴AI+消费AI+服务AI+供应链AI+城市智能客服智慧门店智慧入口电话机器人AIRSAI零售解决方案智能C2BNeuScreen虚拟形象交互屏羚珑智能设计NeuCRM客户管理NeuGlass智能眼镜NeuScan智能结算台创新应用解决方案NeuAdvisory法律咨询机器人闪电智能内容创作平台NeuCozy心灵休息舱NeuHost虚拟主播NeuCall电话机器人NeuHive蜂巢机器人NeuBot京灵机器人地狼搬运AGV天狼穿梭车飞马分拣机器人室内运送机器人智能可穿戴仿生手NeuCam智能摄像机NeuPass人脸门禁机房巡检机器人轨道巡检机器人NeuFoundry一站式AI开发平台开发平台数据标注模型开发模型训练服务发布生态市场商品理解内容审核语音技术知识图谱文字识别自然语言处理图像及视频理解人体识别人体关键点检测人体检测人像分割行人重识别细粒度人像分割通用图片识别身份证识别行驶证识别增值税发票识别银行卡识别营业执照识别垃圾分类车辆检测菜品识别实例分割风格迁移智能填充视频换脸视频摘要视频内容分析词法分析句法分析情感分析短文本相似度文本分类评论观点抽取短语挖掘智能写作拍照购通用商品识别酒标识别商品图搜索商品命名实体识别开放能力智能鉴黄特定人物识别药学知识图谱语音识别语音合成声纹识别语音和生成声音定制京东AI:开放能力版图QuickAI模型训练平台AI开发提效AI在线服务聚焦泛零售场景的AI能力开放平台,无须专业AI基础,自助式AI能力服务手工模型训练,支持算法构建/调整,参数调整,分布式资源调度.
提供多种交互方式:终端方式:Jupyter、Apictl,拖拽方式:Pipleline界面操作:数据管理、模型管理、实验管理、组件管理、参数设置等无须编码,鼠标点击,自动模型训练,一站式模型训练和服务发布编写算法模型训练调参校验发布多次迭代面向人群:算法工程师面向人群:寻求业务与AI结合点的应用开发者京东内部自研第三方生态伙伴API&SDK解决方案硬件产品京东云智能+:NeuHub开放平台应用场景图像分类文本分类TTS定制语义分割物体检测声音分类单据识别商品识别商品分类自助结算……打标签手势扫面向人群:AI业务应用开发者,根据自有数据集需求定制AI能力GPU硬件加速计算提供卓越计算性能配置本地临时SSD盘,极低访问时延提供OpenAPI及控制台两种方式管理GPU云主机同时支持控制台VNC及远程SSH两种方式登录GPU云主机进行环境配置支持包年包月和按配置计费两种价格模型https://www.
jdcloud.
com/products/gpu-vmp.
n1p40、p.
n1p40h系列提供NvidiaTeslaP40GPU,搭配使用IntelXeonE52683v4处理器及DDR4内存.
GPU单精度浮点运算峰值最高可达48TFlops,Int8整数运算峰值最高可达188Topsp.
n1v100系列提供NvidiaTeslaV100GPU,搭配使用IntelXeonE52650v4处理器及DDR4内存.
GPU单精度浮点运算峰值最高可达64TFlops,双精度运算峰值最高可达28TFlopsGPU云主机实例标准型:p.
n1p40、p.
n1p40h、p.
n1.
v100系列实例规格GPUvCPU内存(GB)本地存储(GB)p.
n1p40.
3xlarge1*NvidiaP4012481*960SSDp.
n1p40.
7xlarge2*NvidiaP40281102*960SSDp.
n1p40.
14xlarge4*NvidiaP40562204*960SSDp.
n1p40h.
3xlarge1*NvidiaP4012481*1200HDDp.
n1p40h.
7xlarge2*NvidiaP40281102*1200HDDp.
n1p40h.
14xlarge4*NvidiaP40562204*1200HDDp.
n1v100.
2xlarge1*NvidiaV1008441*6000HDDp.
n1v100.
5xlarge2*NvidiaV100201102*6000HDDp.
n1v100.
10xlarge4*NvidiaV100402204*6000HDDGPU云主机灵活便捷提供多种实例规格,支持弹性规格变更,支持VPC,云主机,镜像功能等所有云主机功能性能卓越搭配4块NvidiaTeslaP40/V100GPU,采用设备直通技术,提供无损的GPU运算性能当今大部分AI头部企业都在做通用能力的普惠化,而企业需要的却是针对具体场景的定制化能力,借助AI一体机,企业可以基于自身场景和数据,开发自己的AI能力.
痛点分析需求多样化、重复开发、开发成本高、效率低企业联网,存在数据安全问题AI人才有限,培养周期长人工智能开发门槛高如何保持企业智能化建设技术先进性构建智能中台,灵活应对前台业务,降本提效本地化部署、软硬适配的一体机,数据不用出企业一站式AI开发工具,专家服务,加速企业构建自己的AI人才建设AI开发模块化组件,内置模块训练的自动化流程,降低AI开发门槛通过平台部署经过京东最佳实践的前沿技术复制到企业1234512345JDCloudSystemAI一体机JDCloudSystemAI平台核心应用场景「基于NeuFoundry核心功能为中心的四个核心场景赋能:零售KA品牌商和服务商、金融(银行、保险、税务)、大型国企及央企(如能源、烟草等)、市政产业平台」零售KA品牌商和服务商大政府行业平台金融大型国企及央企精选AI配套服务-赋能企业快速应用落地京东云智能+平台京东集团及泛零售大生态的赋能出口API&SDK场景组件/解决方案硬件产品NeuHub——人工智能开放平台京东AI自研语音及声学对话语义计算机视觉机器学习知识图谱零售医疗客服市政京东集团内AI应用生态伙伴AI应用活动期间,总计生成10000小时视频,相当于6000部电影的长度.
国庆期间,由人民日报新媒体联合京东AI、京东云推出的名为《70年,我是主角》的H5换脸应用引发网络热议.
网友只要上传正脸照片,就能通过AI换脸技术化身微电影主角,重温新中国70年的峥嵘岁月.
微电影从新中国成立开始讲起,借助一列穿梭时空的飞驰列车,串联起改革开放、北京奥运、汶川地震等重大历史事件.
巧妙的创意、精美的画面,让网友直呼"感动""热血沸腾".
1.
上传照片,检测人脸2.
根据用户人脸生成5张海报3.
根据用户人脸生成一段视频人民日报:70年,我是主角业务场景复杂瓶颈点已经不在模型运算上,而在其他业务逻辑,如IO操作,CPU预处理等关键资源GPU利用率不高系统流量大千万级的页面浏览量和百万级的独立访问量生成了约200万个换脸视频生成了约1000万个海报视频处理的独特性一个70秒视频,包括男主700+张、女主500+张图片视频生成、压缩、上传都要消耗时间复杂的业务场景资源投入:2000+张GPU卡,1000+台高配云主机累计上传照片个数:2,176,414累计生成海报张数:8,965,050累计生成视频段数:1,778,770生成海报峰值:301张/秒产生视频峰值:65段视频/秒浏览量(PV):1000万+京东云弹性调度、高性能和高可用的运维方案,保证千万级的页面浏览量GPU集群:人脸检测、特征识别和视频换脸CPU集群:海报换脸CDN:负载均衡、内容分发与调度支持,降低网络拥塞从上传照片到换脸完成,整个流程不超1分钟!
高性能云计算平台充分使用京东云云端资源和服务快速部署服务500台GPU服务器和1000台CPU服务器使用DevOps(初期)和容器化(后期)快速部署更新节点海报和视频存放于OSS,并使用CDN加速模型部署优化GPU服务器负责人脸检测、特征识别和换脸视频;CPU服务器负责换脸海报.
理想方案:GPU服务器只部署需要使用GPU运算的部分;视频生成优化业务高峰期间,随机从6段15~20秒的视频中选择一个生成业务低峰,生成完整的70秒视频根据需求调整视频帧数,并在不影响观看效果的情况下,对视频做压缩《70年,我是主角》-京东AI携手京东云AI开放平台未来要迎接的挑战与机遇京东AI发展的全价值链电商+物流+金融=高价值数据链质:强逻辑性和关联性完整数据链量:线上线下、无界零售带来的海量数据顶尖人才引入顶级高校/科研机构合作京东业务的全面性海量应用场景+算法产生新数据应用场景算法技术数据链AI以图搜图、精准推荐、智能卖场、数据预测、智能客服…金融智能投顾的风控和反欺诈;无人审核下的授信和放款业务…物流以无人仓、无人机和无人车为支柱的智能物流体系…零售物联网围绕智能家庭、车联网等场景,提供语音控制、远程管理、场景联动等智能服务保险智能保险顾问精推荐产品,通过图像识别远程查勘定损…城市为城市环境、交通、规划、能耗、商业、安全、医疗、电子政务等领域定制智能解决方案健康医疗利用机器学习做医疗影像、精准医疗…京东云,最具产业属性的云智能厂商天津铜梁重庆十堰大同鄂尔多斯怀化滁州湘潭衡水福清南通北海玉溪济南济宁西安东营眉山肇庆鹤壁仙游铜川新余聊城北票丽水吉林客户遍及外企、互联网企业、传统企业、中小微企业以及政府部门,业务涵盖制造、政务、房地产、电商、教育、能源、传媒、大数据、贸易、品牌商、软件等多领域.
为不同客户打造定制化的云服务方案.