Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

飞桨框架3.0实测季-官方带队实测,阶梯式解锁飞桨框架3.0能力新特性,轻松上手! #69471

Open
Daeshiyao opened this issue Nov 18, 2024 · 0 comments
Assignees

Comments

@Daeshiyao
Copy link

Daeshiyao commented Nov 18, 2024

🤗 非常开心的告诉大家,我们将依托飞桨框架3.0开展实测活动,由飞桨官方团队亲自带大家应用飞桨框架3.0!活动将在 11 月 18 日 正式上线,具体参与方式请见文末!🔥

活动背景

🌟飞桨框架3.0助力用户构建大模型时代核心生产力!
飞桨新一代框架3.0是面向大模型、异构多芯进行专属设计,向下适配异构多芯,充分释放硬件潜能;向上一体化支撑大模型的训练、推理。同时具有动静统一自动并行、编译器自动优化、大模型训推一体、大模型多硬件适配四大能力,全面地提升了服务产业的能力。获得了产学各界的诸多关注。有了好的技术,如何真正上手,将其技术能力用起来,成为大家当下最实际的诉求。

🎯 利刃在手,如何找到功法,应用自如?实践出真知!
技术知识的一切问题,代码会给你答案!为了让大家能具体的理解飞桨框架3.0的几大新特性,并且实际上手用起来,GitHub20万星Al项目团队——飞桨官方研发团队亲自带练,携手产学界资深用户共同打磨了本次实测带练营,活动详情如下。

活动亮点

🎰 游戏式实测
无痛上手本次带练活动结合飞桨框架3.0版本的新特性,打磨了一套内容完整、层次丰富的实测任务。任务涵盖最基础的环境安装、编译优化等底层框架能力、模型的自动并行训练技术、高性能推理部署技术、科学计算、大模型辅助编程六大板块,以帮助不同需求的用户使用框架。让大家在逐步解锁一个个小技术任务的过程中,自己动手实际感知飞桨框架3.0的用法和性能,游戏式解锁其超强新能力。

🧑‍💻 现场coding带练,包教包会
对于相对较底层的神经网络编译器和基于PIR的Pass开发技术,以及热度较高的模型自动并行训练技术、高性能推理部署技术,我们准备了三场单独的直播课程。以实用技术概念补充+核心代码逐行解析+现场拆解技术任务并coding实现的方式,为产学用户提供高密度知识课堂!

❤️‍🔥 框架老粉助攻用户最懂用户
今天的难点卡点,明天的经验心得。在技术探索的过程中,老用户往往是最好的领路人。本次活动邀请了从飞桨框架早期就一路相伴的初代产业级PPDE担任助教,无论你是企业工程师还是高校师生,他们都能站在你的角度引导你梳理问题、给予经验,帮助你高效通关。

💰️ 丰富奖励,证书奖金礼品全都配齐
百度飞桨官方证书、奖学金、高刷显示器、Apple系列新款,成就感、实用性拉满。解锁Peaceful、Easy、Normal、Hard四类不同难度的关卡,获取对应分值,角逐积分奖项!

image

实测任务详情

🥳 稳扎稳打 六个板块逐一带练
以下任务涵盖日常开发常用板块,可根据自己实际需求选学。另外,除**少量开放性任务外,其余实测任务均配套参考代码并会对核心代码进行讲解,全程开卷+实时答疑。**不必太担心难度,只要想学,跟着练即可解锁以下阶梯式实测任务!(任务详情及提交方式如下,带练课程信息及答疑服务请滑至文末加入官方课程群):

技术方向 赛题描述及难度标注 参考文档或代码
环境安装实测 【peaceful】(1-5分)题目1:安装飞桨框架3.0在任一设备上,在任一硬件上完成安装成功得1分,在n个不同型号硬件上安装成功得n分,n上限为5(pip安装的参考教程list请见附录;本题不限制硬件:GPU、CPU均可。)
✍️ 作业要求:提交安装成功的截图(手机拍照或电脑截图截全屏)
支持常见环境下的 Pip 安装(Linux、macOS、Windows),支持Conda 安装、Docker 安装以及从昆仑芯、昇腾、寒武纪等新硬件的源码编译。
真人演示安装视频/复制链接在微信打开

安装文档
底层框架实测 【normal】题目2(3-13分):基于飞桨框架3.0在GPU环境下完成以下任务
2-1(3分):编译优化:基于一个子图,跑通编译器全流程
2-2(5分):PIR pass开发:基于PIR 实现并跑通一个替换类pass(即自己写个新的pass)(提pr可以合入的部分+5分)
2-3(5分):整体串联,实现性能提升。
【hard】题目3(10分):组合算子-基于飞桨框架3.0在GPU环境下优化改造一个算子的拆分逻辑,并跑通。
✍️ 作业要求:log文件+截图
作业参考代码
PR示例
模型训练实测 【normal】题目7(10分):多硬件题(此处意指新硬件):基于飞桨框架3.0在任一加速卡上完成任一模型训练
【normal+hard】题目8:自动并行策略体验
【normal】8-1(5分):实现一个transformer模型中常见的FFN结构(两层MLP),并跑通。
【hard】8-2(10分):基于FFN,使用自动并行API将其改写为,在8卡上2路数据并行+2路模型并行+2路流水线并行的三维混合并行,并跑通。
【hard】8-3(5分):跑通PaddleNLP中的自动并行llama 13B模型。
✍️ 作业要求:8-1和8-22题提交代码文件,log文件和运行截图;8-3题提交log文件和运行截图。
示例代码

官方文档
推理部署实测 【easy】题目9(3-9分):基于飞桨框架3.0在任一设备上跑通基础推理,即在任一硬件上部署成功并完成一次推理(含生成结果)即可得3分。每在一种架构上成功完成该任务得3分,能在n个不同硬件上部署成功得n*3分(n上限为3)(限定Ampere / Ada / Hopper架构)。
【normal】题目10(6分):跑通更高阶的优化项(如Fp8量化推理、 4Bit量化推理、 Block Attention 多batch 推理等等)
✍️ 作业要求:推理结果截图+log文件(NLP任务:下载ShareGPT数据集并输出公开测评效果 / 文生图任务: 自定义Prompt生成图像)
【hard】题目11(20分):在支持的列表之外又新增了模型并且跑通(如LLaMA3.2 / Qwen2-VL等)
✍️ 作业要求:推理结果截图+log文件+源代码的py文件
参考代码1

参考代码2
大模型辅助编程实测 【easy】题目12(5分):生成题-将代码生成能力用在自己日常使用的代码中。
✍️ 作业要求:提交每次交互过程的提问-回答(交截图)以及 最终修改完后的可运行代码和结果(跑通的截图+交py文件)
【normal】题目13:转换题-从以下的示例项目中选一个,完成代码转换。
13-1(10分):转换成paddle版本的代码,并跑通 (转化过程的交互截图+跑通的截图+交py目录(github或文件包等形式都可以))
13-2(10分):验证结果一致
先:跑通pytorch版本,拿到结果(参照线);再:用刚才的参考线与paddle版本做比对,验证结果一致。
即将更新
额外加分项 【peaceful】题目14(3-10分):基于飞桨框架3.0学习及使用体验,沉淀本人真实体验后的学习经验/测评报告/体验感受/使用tips/场景应用实例等内容,并在任一技术网站发布。
(3分):真实有效且内容完整:标题明确、内容完整、表述清晰。
(10分):高质量、对其他开发者有实际借鉴意义,如:分享原创高质量代码、学习经验等,降低大家上手门槛。或者分享产业实际落地经验:基于飞桨框架3.0解决/增益实际场景问题。稿件包含明确标题、要解决的场景问题描述、解决方案、结果展示,经验分享。
✍️ 作业要求:提交文章网址
科学计算实测 【peaceful】题目4(3分):基于飞桨框架3.0在任一设备上实现矩形薄板挠曲方程(四阶方程)求解。基于官方参考代码跑通并进行一次求解(备注:直接在代码里生成数据并进行求解即可。)
✍️ 作业要求:AI Studio项目链接
【normal】题目5(2-8分):基于自己工作/学习中的实际问题,利用PaddleScience进行求解(得分分值由官方综合评定)。
✍️ 作业要求:AI Studio项目链接
【hard】题目6(4-10分):参与快乐开源或黑客松等其他官方开源项目,收获双份收益。
示例代码

快乐开源

黑客松
额外加分项 【peaceful】题目15(1-5分):秀出你的户外/运动记录,即可获得官方加分!
🏃‍♀️ 越来越多研究佐证了运动户外对效率提升的积极作用。最近超火的“公园20分钟效应”也体现着类似的观点。因此我们鼓励大家在工作学习之余也能到户外动一动,爬山、游泳、公园发呆都可以,用你喜欢的方式!每天最多加1分,累计最高5分。
特别提示:征服喜马拉雅VS公园发呆20分钟,对应分值相同。只希望大家一起去户外放松,适合自己的就是最好的!
✍️ 作业要求:任一可体现你户外放松记录的证据
活动节奏 说明 备注
带练直播课 11月18日(周一)20:00 lesson1:实测带练开营及底层框架实测
11月20日(周三)20:00 lesson2:模型训练实测带练/含基础训练及自动并行策略实现
11月21日(周四)20:00 lesson3:模型推理实测/含基础推理部署、语言大模型及多模态大模型的推理部署
持续更新中
作业提交方式 点击此处提交作业
提交截止时间 本次活动分两个赛道:
结业奖:12月02日(周一)20:00截止提交
积分奖:12月9日(周一)20:00截止提交
点击此处提交作业
全程开卷 实时答疑 欢迎提问
张榜结营 12月11日(周四)群内发榜,结营直播请关注群通知

活动海报及报名二维码

**👇️ 扫码:报名进群+获取直播开课提醒+官方团队实时答疑 **
image

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants