政策导读

前瞻政策:AI技术发展趋势与行业应用

AI技术与企业业务场景呈现出深化融合发展的新态势。中国信通院发布的《2022人工智能白皮书》深度剖析计算机视觉、机器学习、知识图谱、智能语音与对话式AI、自然语言处理各项AI技术在各个行业的应用场景,探讨AI技术赋能企业业务发展的新趋势。

网络研讨会

汤禹尧
  • 聊天
  • 问答
  • 管理员

    直播结束,大家稍后可在视频区观看回放视频。获奖的观众请注意接听电话确认收件信息,感谢您的参与。

    管理员

    直播结束,大家稍后可在视频区观看回放视频。获奖的观众请注意接听电话确认收件信息,感谢您的参与。

    joyce

    签到!

    Cloud Zhang

    签到

    杨君峰

    签到

    须成浩

    签到

    韩学军

    已登录。

    赵春阳

    冯智杰

    Qiandao

    李文静

    签到

    陈树国

    戴尔科技自身的工厂用了哪些新的AI技术?

    吴跃

    在Dell工厂,我们现在有多个AI项目应用于我们的生产和运营。比如,我们在国内工厂已经使用全自动化生产线在生产我们的存储阵列产品;我们正在应用机器视觉技术进行笔记本电脑的表面缺陷检测;我们的供应链团队在通过AI机器学习算法进行库存优化和智能补货,等等。

    龙清洁

    戴尔科技的服务器优势有哪些?集成了哪些AI技术?

    吴跃

    戴尔服务器目前提供的一款CloudIQ软件,就是AI与产品运维结合的代表,它通过智能传感器的数据采集,集合AI算法技术,对于设备运行状态可以进行主动检控,对于设备运行的潜在故障进行主动的分析与告警。

    邱绍刚

    签到

    彭莉莉

    除了AI应用,目前制造业还需要哪些技术来实现数字化转型?

    吴跃

    工业互联网,大数据,边缘计算,IoT这些技术,未来都是可以和AI结合,助力在智能制造的应用场景中。

    李文静

    戴尔的AI用在哪些场景呀?

    吴跃

    AI是跨行业的应用技术,我们现在不同行业的用户都有在使用AI技术进行场景化落地,比如制造行业的产品缺陷检测、厂区安全监控、工艺参数优化等,金融行业的智能客服、智能风控、智能投顾,零售行业的商品识别、货损防控,等等。

    李亚琴

    针对制造业对于数字孪生解决方案的需求,VMware提供哪些优化解解决方案?

    韩鹏

    数字孪生的基础支撑技术,包括统一建模、CAD、CAE、产线准实时数仓、IoT、CEP、SPC、数据科学等。 VMWare的解决方案除大家熟悉的VMWare Cloud Foundation(vSphere, vSAN, NSX)之外,包括:VMWare Data Solutions, 数据科学服务及数据集成专业服务, IoT侧虚拟化解决方案(上位机虚拟化),以及VMware Tanzu Kubernetets, VMware Tanzu Application Platform。

    骆安琪

    制造业AI服务器采购成本是不是更高?哪些场景需要高成本的服务器?

    玉瑞

    戴尔现在有ChatGPT的服务吗?

    吴跃

    在生成式AI领域,Dell主要提供生成式AI模型训练和部署所需要的平台和基础设施解决方案。我们也在尝试使用类似ChatGPT生成式AI技术在我们的内部生产、运营和客服业务上。

    陈志明

    签到

    唐隷

    AI应用方面的优势是什么?

    吴跃

    AI应用并不是完全为了替代人工,而是更好进行人机结合,帮助企业实现降本增效,比以往的人力或者自动化方式实现更好的效率和结果的准确性。

    高同海

    DPU 部署的话,会在哪些方面有帮助?

    吴跃

    DPU目前可以工作在如vSphere8虚拟化场景以及其他的应用场景下,卸载在网络通信以及存储I/O阶段的计算消耗,提高吞吐性能,降低CPU的负载。

    张瑞程

    签到

    魏秋实

    VMware针对AI对于CPU的消耗压力,有什么解决方案可以提供么?

    韩鹏

    AI包括三个分支,包括符号计算与形式推理、专家系统、机器学习。推测您提到的AI对于CPU的消耗压力,大概指得是机器学习中的深度网络学习部分,除了通过GPU运算卸载计算压力外,也有些应用的CPU压力是与IO等待相关的,如果是存储IO压力,可以考虑NVmeSSD,如果是网络IO压力,可以考虑DPU及与其搭档的vSphere 8.0中的Distributed Services Engine.

    李智杰

    AI对CPU的消耗有什么压力吗

    吴跃

    在GPU服务器架构下,AI的主要计算负载是由GPU来承担的,但是仍然是有一部分计算任务需要运行在CPU上,比如多数场景下图像、语音、文本的数据预处理任务,强化学习场景的一些函数计算操作等。

    贾志远

    苏睿灵

    在服务器供应链方面,戴尔科技目前的优势是什么?

    吴跃

    在我大学研究生的供应链管理课程中,Dell的供应链管理就是作为一个研究案例。库存管理和需求预测,我们的供应链团队在这个领域有着很深的积累。

    赵南君

    仿真训练等对服务器硬件有哪些要求?

    吴跃

    仿真属于HPC科学计算领域,有CPU仿真和GPU仿真,取决于不同应用软件。

    吴永杰

    大语言模型这种通用人工智能,对于VMware来说,机遇在哪里?

    韩鹏

    大语言模型会泄密、会撒谎, 这就需要私有部署,以及依靠分布式多模数据库对问答进行事实约束。 大语言模型还需要基于container的GPU并行计算,VMware Tanzu Kubernetes Grid是最稳定可靠的私有部署Kubernetes版本。 另外,我们还提供搭建基于开源大语言模型和分布式向量多模数据库的问答服务的专业支持。

    高同海

    降功耗现在越来越重要,咱们有什么主要的方法?

    吴跃

    在降低计算功耗上,有很多的研究和工作可以来做。我们目前在实施的技术包括:1. 通过Dell OpenManage可以对服务器运行功耗进行实时检测,并生成碳排放报告;2. 服务器内部散热优化设计:包括T型主板设计、高效率电源和风扇选型及设计、多矢量散热技术进行风扇转速及其他声学特性的智能条件、针对不同业务负载的BIOS配置优化模版 等;3. 采用液冷散热技术,提高散热效率,降低数据中心的PUE。

    赵春阳

    在视觉检测中,这边能提供什么优化?

    吴跃

    在工业AI视觉检测领域,Dell既可以为我们的用户提供满足工业AI视觉检测的基础架构平台解决方案,我们也在联合制造行业AI ISV,正在为我们像光伏等行业的用户提供AI视觉检测包含算法和软件平台在内的整体解决方案。

    冯智杰

    有什么能帮助更好的地收集、存储和分析生产过程中产生的大量数据的解决方案么?

    吴跃

    PowerScale是Dell目前针对海量大数据集中存储、访问与共享的解决方案,我们目前单一文件系统可以支持180PB的存储容量。

    徐劲春

    针对算力消耗大的场景,戴尔科技在优化方面有哪些建议?

    吴跃

    对于高算力需求的计算场景,目前我们有几种应对方案:1. 针对可以支持并行计算的软件应用,可以采用HPC多机集群的超算架构;2. 如果是不能进行并行拆分的应用,可以采用如Dell四路服务器,提供单节点更强的计算力,随着制程工艺的提升,目前单机的CPU与内存性能也越来越高;3. 就是像今天讨论的AI计算场景,采用如GPU、AI专用加速芯片这样的异构计算架构。

    牛紫薇

    边缘计算,戴尔科技的方案有什么?

    吴跃

    针对边缘计算,Dell有专门设计与优化的边缘计算服务器XR系列,它对于机房环境、温度、抗震等有更强的适应能力,同时我们在今年的DTW Dell用户大会上,也发布了Dell针对边缘计算场景的软件平台架构。

    程娜

    绿色是一个热门话题,在低碳节能方面,戴尔服务器有什么特色

    周雅瑄

    降低服务器芯片功耗有怎样的创新

    吴跃

    服务器芯片设计本身,现在也在做很多的低功耗设计,如采用更先进的制程工艺,Chiplet技术等,我们在服务器配置上也在BIOS提供一些低功耗的BIOS选项。

    魏钟季

    VMware支持异构计算吗?还是说必须应用在通用服务器上?

    韩鹏

    VMware的vSphere 8.0新增的Distributed Services Engine,支持DPU异构计算。

    曹佳诺

    针对如何利用AI技术提升生产线的自动化和智能化,您 有什么建议?

    马集楷

    戴尔科技如何解决AI对于CPU的消耗压力?

    吴跃

    除了CPU本身的性能提升外,我们在AI 服务器目前支持的GPU Direct RDMA和GPU Direct Storage技术,也可以减少在网络传输和存储I/O过程中的CPU性能开销。

    许泽瑞

    汽车行业目前物联网技术主要应用在哪里?

    张牧川

    汽车行业物联网主要应用在生产线的数据分析,也就是工业互联网,通过收集产线的数据,可以进行预测性维护,质量检测等工业应用。

    凌松萍

    戴尔科技在机器视觉领域,有哪些创新解决方案?

    吴跃

    Dell本身就是工业视觉检测的实践者,我们对外提供AI质检的基础设施平台解决方案,以及与AI应用合作伙伴一起帮助用户实现场景化AI应用落地。

    赵春阳

    目前有集成chatGPT之类的服务么?

    吴跃

    我们的硬件设备目前还没有,在营销和服务领域我们正在做这样的探索和尝试。

    常楠华

    针对大语言模型通用AI应用,戴尔服务器有哪些核心能力?

    吴跃

    Dell可以提供满足生成式AI、AI大模型计算所需要的GPU计算服务器,AI GPU分布式训练的整体解决方案和参考架构。Dell与NVIDIA合作的面向生成式AI的平台解决方案,Project Helix也将在今年下半年正式上市。

    安凯尔

    工业互联网方面戴尔提供哪些解决方案?

    张淑玲

    在计算视觉领域的数据采集、存储和处理过程中,哪些环境对算力消耗最大?

    吴跃

    模型训练对算力要求最高,其次是产线推理环节,数据采集和治理环节对计算力要求相对偏低。

    高同海

    RDMA咱们怎么应用的?

    吴跃

    GPU Direct RDMA,在AI领域主要是应用于多机多卡GPU分布式训练,大模型训练计算场景下。

    朱翠华

    嘉宾提到数据存储湖,目前戴尔在数据湖的统一管理方面的产品价值在哪里?

    吴跃

    我们可以提供不同应用下数据的集中存储、统一管理和数据保护;支持不同协议的数据访问;实现对应用透明的动态分层存储;采用横向扩展的架构,存储容量和性能可以按需扩展,动态进行数据重分布;存储平台可以提供完善的向下兼容性。

    刘文洋

    在加速制造业自动化和智能化生产方面,VMware提供哪些解决方案?

    韩鹏

    上位机虚拟化、海量数据的准实时BI和敏捷AI解决方案、数据集成和科学服务。

    方向华

    戴尔AI服务器在处理非结构化数据方面的优势?

    吴跃

    AI目前主要处理的就是非结构化数据的应用场景,如图像、视频、语音、文本,Dell可以能够提供包含计算、存储、网络在内的非结构化数据处理和知识发现的基础设施整体解决方案。

    白帆

    嘉宾提到的边缘服务器是戴尔的哪款产品?

    吴跃

    XR系列是Dell专门针对边缘计算场景设计和优化的计算平台,它目前是我们PowerEdge服务器家族中的一个子产品线,包括多款产品型号,比如XR4000、XR11、XR12等。

    魏秋实

    想了解,制造业在研发和制造阶段,针对数字化转型这块,是研发主导,还是生产主导?

    候泽

    高性能计算和AI服务器的应用场景有何异同?

    吴跃

    从计算的角度看,您也可以认为AI计算属于高性能计算的一个应用场景的大类,因为AI特别是AI大模型对计算力有很高的要求,特别是模型训练过程中多数都是采用GPU集群计算架构。不过和传统的科学计算相比,AI计算还是有些明显不同,比如计算精度,很多HPC超算采用的是FP64双精度,AI普遍采用单精度、半精度甚至更低的计算精度;HPC超算很多是使用CPU计算,当然GPU比重也在提升,AI计算基本都是采用异构计算架构;在存储I/O上也有些差异,比如AI计算以读IO为主,HPC会有大量的写IO操作。

    严继

    企业应该如何根据自身业务来搭配边缘计算和私有云?

    吴跃

    主要还是取决于业务的要求和目标,比如计算响应的延迟要求,边缘场地和数据中心之间的连接带宽,以及数据安全和法规要求,比如是否可以允许数据上传等,来决定计算是发生在边缘侧还是云端。

    苏子阳

    AI服务器未来会不会成为市场主流?

    吴跃

    随着AI产业化的不断发展,AI计算在商业计算中的整体占比已经在不断提升。

    赵春阳

    在AI方面,主要针对哪些场景有创新研究?

    吴跃

    目前AI在各行业的应用场景已经比较多了,像智能驾驶,制造业的产品质检和良品率提升,零售的商品识别和货损防控,金融的风控和投顾,医药和材料领域的虚拟分子筛选等。

    汤禹尧

    请问哪些场景需要用到私有部署的K8S?

    吴跃

    很多客户目前是采用容器化来部署AI应用,通过K8S作为容器的编排平台,在企业中应用已经比较多,NVIDIA也提供针对K8S的GPU plugin插件。

    微笑

    会议介绍

    • 吴 跃

      戴尔科技集团AI企业技术架构师
      全球CTO大使

    • 韩 鹏

      VMware首席解决方案架构师

    • 张牧川

      北汽蓝谷信息CTO

    • 王聪彬

      至顶网总编助理

    随着AI、大数据、云等新技术、新应用的广泛应用,各个行业在数字化转型过程中产生了海量数据,要让数据赋能业务形成新的竞争力,既需要具备海量数据存储的管理能力,同时还需要对海量数据进行分析的AI能力。

    那么包括制造、金融等重点行业的业务场景和AI应用呈现什么特点?面向海量数据管理有哪些挑战?如何加速数据价值挖掘?我们将邀请领先的科技厂商戴尔科技集团、VMware、行业专家以及媒体观察员共同就相关话题进行深入探讨。

    扫码立即参会

    • 数据和AI应用趋势探讨
    • AI应用与数据增长带来哪些新价值
    • 如何应对AI应用与数据增长带来的新挑战

    14:00-15:07 海量数据新价值,AI算力加速度

    • 吴跃——戴尔科技集团AI企业技术架构师, 全球CTO大使
    • 韩鹏——VMware首席解决方案架构师
    • 张牧川——北汽蓝谷信息CTO
    • 王聪彬——至顶网总编助理(主持人)

    15:08-15:35 戴尔科技分享:构建面向企业级用户的生成式AI平台

    • 吴跃 —— 戴尔科技集团AI企业技术架构师, 全球CTO大使

    互动有奖

    欢迎积极参与直播提问,我们将从互动中选出8位精彩提问的用户赠送JY机甲战士蓝牙音箱RSK-W17-DT,奖品以收到的实物为准。

    AI 算力加速度 - 全新Dell PowerEdge 服务器推荐

    • Dell PowerEdge R760

      根据需要提供出色性能和多功能性,以满足苛刻的应用程序需求

      白皮书链接 >
    • Dell PowerEdge R760xa

      适用于密集型 GPU 应用程序的高性能、可扩展的服务器

      白皮书链接 >
    • Dell PowerEdge R860

      用高密度计算为业务关键型核心工作负载提供支持

      白皮书链接 >
    • Dell PowerEdge XR7620

      浅深度且加速的数据中心级计算,专为边缘而构建

      白皮书链接 >
    • Dell PowerEdge T560

      专门构建的办公友好型服务器,通过GPU 选项更大限度地利用新一代技术,在远程或分支办公室位置实现企业级性能。

      白皮书链接 >
    • Dell PowerEdge 全新一代服务器手册

      跨越核心数据中心、大规模公有云和边缘位置加速计算性能和提供更好的可靠性,为各类工作负载提供强大的算力。

      白皮书链接 >

    获奖名单

    恭喜获得JY机甲战士蓝牙音箱RSK-W17-DT 1个

    会后请注意接听电话,我们会有客服人员与您电话联系,核实邮寄地址并邮寄奖品。

    © 北京第二十六维信息技术有限公司版权所有.
    京ICP备15039648号-7 京ICP证161336号 京公网安备 11010802021500号