广东智慧教育研究院系列讲座第二期

报告题目

图和时间序列的基础模型

讲座内容

摘要:自然语言处理的基础模型(LLM)近期引起了广泛的研究关注。除了文本，我们的世界充满了各种类型的数据，如图和时间序列。我们能否构建一个与这些数据兼容并实现领域和任务泛化的基础模型?在这次演讲中，我将介绍我们在这个主题上的最新研究工作。

首先，我们将重点放在图上，这与文本相比显示出了显著的领域转变。为了解决这个问题，我们从三个角度探讨这个主题: 1、在数据方面，我们评估了来自不同领域图的可转移性，并试图回答“何时进行预训练”的问题。2、在模型方面，传统的图神经网络受到同质性假设的约束，使得其在异质图中的应用面临挑战。此外，过度平滑问题阻碍了图神经网络（GNNs）参数的增加。我们研究了解决这些问题的解决方案，以增强了图神经网络（GNNs）的泛化和表达能力。3、在应用方面，我们深入研究了如何使预训练的图神经网络（GNNs）能够适应下游任务。

接下来，我们展示了我们在时间序列分析方面的工作，重点关注脑神经科学的交叉点。我们利用立体脑电图(SEEG)技术记录脑信号。这种方法需要将深度电极插入人脑，使得可以实现皮质和皮质下结构进行记录。通过研究大脑信号的扩散模式，我们将主要特征作为我们基础模型的基石:信号之间的时空相关性，这可以通过自监督预训练来捕获。通过将计算机科学和神经科学相结合，我们的研究旨在对脑部疾病的理解和治疗做出重大贡献，其中癫痫病就是一个很好的例子。

报告人

杨洋   浙江大学

报告人简介

 杨洋，浙江大学计算机科学与技术学院副教授、博导、人工智能系主任，国家优青项目获得者。博士毕业于清华大学计算机系，师从唐杰教授和李涓子教授。曾访问美国康奈尔大学，与图灵奖得主John Hopcroft教授合作。主要从事面向大规模图数据及时间序列数据的人工智能研究，发表国际顶级学术期刊/会议论文50余篇，获人工智能顶会AAAI 2023杰出论文奖。担任国际期刊IEEE Transactions on Big Data编委、中国中文信息学会社会媒体处理专委会常委以及KDD、WWW、AAAI等国际学术会议程序委员会委员。

主持人

刘子韬

时间&地点

2023年11月9日（周四 ）15:00

暨南大学曾宪梓科学馆523会议室

腾讯会议：694-549-889

主办方

广东智慧教育研究院

信息科学技术学院/ 网络空间安全学院

讲座海报信息