探索几何之美：KDD 2025双曲几何基础基础模型/大模型Tutorial
在人工智能快速发展的今天，大模型、基础模型已经渗透到我们生活的方方面面。然而，传统的欧式几何下的基础模型在处理复杂关系、复杂推理和大规模数据时仍面临诸多挑战。8月4日，一场关于双曲基础模型的Tutorial将在KDD 2025大会上呈现，欢迎感兴趣的老师、同学关注和参与！
时间地点
-
📅 日期：2025年8月4日 -
⏰ 时间：下午1:00-4:00（加拿大当地时间） -
📍 地点：KDD 2025大会现场
为什么选择双曲几何？
传统的深度学习模型主要基于欧几里得空间，但现实世界中的许多数据结构具有固有的层次性和无标度特性。双曲几何为这些复杂结构提供了几何先验：
-
层次结构建模：双曲空间能够更好地表示树状和层次化的数据结构 -
无标度网络：在建模社交网络、知识图谱等复杂网络时具有天然优势 -
表示学习效率：在相同维度下提供更丰富的表示能力
Tutorial内容
第一部分：基础与动机（35分钟）
-
欧几里得基础模型概述 -
双曲几何与黎曼流形简介 -
将双曲几何融入基础模型的动机和优势
第二部分：双曲神经网络构建模块（40分钟）
-
双曲神经网络操作（特征变换、残差连接、归一化） -
各类双曲神经网络模型（RNN、MLP、CNN、GNN）
第三部分：双曲基础模型（60分钟）
-
双曲Transformer和大语言模型：架构设计、训练技巧、实际应用 -
双曲视觉基础模型：ViT、CLIP等模型的双曲扩展 -
双曲多模态模型：多模态表示
第四部分：未来方向与挑战（35分钟）
-
双曲预训练模型的发展前景 -
双曲基础模型架构 -
双曲深度学习工具和库 -
开放问题
团队介绍
主讲人：
-
Neil He：伊利诺伊大学香槟分校博士生，耶鲁大学本硕，专注几何深度学习 -
Menglin Yang：香港科技大学（广州）助理教授，耶鲁大学博士后，专注双曲几何学习 -
Rex Ying：耶鲁大学计算机科学系助理教授，专注几何深度学习
贡献者：
-
Hiren Madhu：耶鲁大学博士生，专注生物数据的几何深度学习 -
Ngoc Bui：耶鲁大学博士生，专注大语言模型应用
综述论文
Tutorial配备最新发表的综述论文（KDD 2025）：Hyperbolic Deep Learning for Foundation Models: A Survey。
-
论文链接： https://www.arxiv.org/abs/2507.17787
@inproceedings{he2025hyperbolic,
title={Hyperbolic Deep Learning for Foundation Models: A Survey},
author={He, Neil and Madhu, Hiren and Bui, Ngoc and Yang, Menglin and Ying, Rex},
booktitle={Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining},
year={2025},
organization={ACM}
}
这不仅仅是一场Tutorial，更是一次思维的碰撞和学术的盛宴。在人工智能向更高层次发展的关键时刻，双曲几何学习为我们提供了全新的视角和工具。
本文转自DIG4AI 微信公众号，更多内容想要分享，欢迎后台留言。