大数跨境
0
0

448期 开放夜 | 探索半块RTX4090玩转700亿(70B)大语言模型的极限挑战

448期 开放夜 | 探索半块RTX4090玩转700亿(70B)大语言模型的极限挑战 蘑菇云创客空间
2024-05-27
2
导读:本周开放夜,我们特别邀请了B站知名科技UP主AlphaArea,他将现场展示如何流畅运行并测评包括llama3-70B, Qwen1.5-72B在内的多个开源AI大模型。

AI大模型测评

DATE:2024.05.30

        19:00--21:00

在人工智能的浪潮中,开源大语言模型(LLM)持续引领着技术创新的潮流。本次开放夜,我们将深入探索AI大模型与高性能显卡的结合,特别是在本地运行大型AI模型的能力。


01

探讨话题

随着AI技术的飞速发展,本地化部署AI模型的需求日益增长。为了满足这一需求,我们特别邀请了B站知名科技UP主AlphaArea,他将携带整套设备,现场展示如何流畅运行并测评包括llama3-70B, Qwen1.5-72B在内的多个开源AI大模型。

专业测评:AlphaArea将现场测评AI大模型运行性能。

模型体验:深入体验Llama3-70B, Qwen1.5-72B等开源AI模型的运行。

技术深度:分享如何通过有限预算满足AI大模型的显存和算力需求。

并行技术:探讨如何充分利用多卡算力加速AI运行。

成本分析:展示如何以较低成本实现高性能AI模型运行的解决方案。

互动体验:现场观众将有机会近距离观察和体验AI模型的运行过程。

02

分享嘉宾

AlphaArea_


03

活动信息

时间:5月30日  周四  19:00-21:00

地点:上海市浦东新区郭守敬路498号 

        浦东软件园 4号楼1楼 蘑菇云创客空间

扫码报名:


出行建议:

  1. 开车出行

    园区内不对外开放停车,驾车来访的朋友们请将车辆停在居里路的划线停车位,沿居里路步行至郭守敬园西门进入园区。

  2. 公共交通

    请从地铁2号线金科路站的3号出口出站(十字路口过两次马路),沿金科路步行10分钟即可抵达郭守敬园的5号门进入园区。


入口识别标志:卷帘门

蘑菇云创客空间大门入口位于4号楼面向8号楼的街道位置,门头是具有创客风格的卷帘门。

END

【声明】内容源于网络
0
0
蘑菇云创客空间
蘑菇云是一个位于张江高科技园区的开放式创客空间,无论你是骇客,硬件高手,艺术家,设计师,DIY爱好者,在这里都能找到属于自己的一片天地。
内容 1081
粉丝 0
蘑菇云创客空间 蘑菇云是一个位于张江高科技园区的开放式创客空间,无论你是骇客,硬件高手,艺术家,设计师,DIY爱好者,在这里都能找到属于自己的一片天地。
总阅读1.9k
粉丝0
内容1.1k