【深圳】源创会：5.26下午、轰趴馆等你

探讨大模型技术在终端的应用

分享编程语言对端侧代码生成实现的优化

以及 Serverless  推理引擎对于大模型推理效能的提升作用等

活动时间：5 月 26 日（周六） 14:00-18:00
活动地点：深圳 福田区岗厦北地铁站15号口满纷轰趴馆
报名方式：点击文末“阅读原文”

 主题介绍

议程设置

演讲嘉宾：姚逸璠，昇思 MindSpore 大模型高级工程师
议题：昇思 MindSpore 大模型训练技术分享

议题简介：

以大模型、大数据、大算力驱动的超大规模 AI 正成为下一代人工智能的突破口，也是迈向通用强人工智能最有潜力的技术方向之一。昇思 MindSpore  构建了多维度混合并行、多维度内存优化、图算融合等关键技术，支撑了 20+ 大模型的训练。并在 2021 年联合高校及科研院所协同创新，发布了鹏程盘古 NLP 大模型、中科院紫东太初图文音多模态大模型、鹏程神农蛋白质结构大模型、武大珞珈遥感大模型等。本次分享分享基于昇思 MindSpore 的大模型的最新进展和成果，介绍昇思 MindSpore 超大规模 AI 训练、微调、压缩、部署全流程关键技术，如何使用这些关键技术在昇腾大集群上训练大模型，以及昇思 MindSpore 上的大模型如何助力产业发展。

演讲嘉宾：郑重阳-讯飞开放平台产品
议题：星火大模型+智能硬件的应用创新

议题简介：智能硬件行业面临产品同质化、创新乏力的痛点，导致内卷激烈、利润稀薄。AI 大模型的出现，将极大推动千行百业的智能化进程，也将极大地丰富智能硬件的应用创新。本次议题将通过对手表、键鼠和电脑 PC 行业的应用分享，期望共同开拓更深的场景创新、更多的行业应用。

演讲嘉宾：费浩祥，IDEA 基础软件中心高级工程师
议题：端侧代码生成：以 MoonBit 为例

议题简介：

IDE 作为开发者的主要工具，它能够实时响应用户对输入、在离线情况下工作、对检索代码库进行智能提示和补全。这次分享将以 MoonBit 为例，介绍端侧模型在代码生成中的优势，以及 MoonBit IDE 对于端侧代码生成实现的优化。

演讲嘉宾：林家桢-Gitee AI 专家顾问、清华大学高性能计算所
议题：使用 Serverless 推理引擎 提升大模型推理效能

议题简介：大模型原生应用正在爆发，未来推理算力的需求可能将达到训练算力需求的数十余倍，据Gartner数据，2023年70%的AI应用基于 Serverless 技术开发。在实际生产中，越来越多的AI业务，比如自动驾驶、NLP等，也正在转向容器化部署。云原生理念是是否有机会帮助大模型降本增效？在这个过程中又遇到了哪些挑战？