西南科技大学张杨松教授作“两个基于深度学习的脑机接口方法”的主题报告

        2022年11月10日,在“情感脑机接口”的线上研讨会上,西南科技大学张杨松教授在研讨会上作“两个基于深度学习的脑机接口方法”的主题报告。

        报告开始,张杨松教授先对稳态视觉诱发电位(Steady-State Visual Evoked Potentials,SSVEP)和运动想象(Motor imagery, MI)作了背景介绍。SSVEP是指当受到一个固定频率的视觉刺激的时候,人的大脑视觉皮层会产生一个连续的与刺激频率有关(刺激频率的基频或倍频处)的响应。运动想象则是大脑在想象肢体做某种运动,实际上并没有做出行动,但脑电上则显示了和实际做出活动相同的模式。

ace1884935d1473a43cc0800d14b9f9

2e3a59154308bafad6f8260277111e4

        并由背景引出最近比较广泛应用的深度学习以及深度学习在神经科学领域的各种应用,并推荐了部分对于脑电深度学习相关的综述论文。

483de28c7a692752f750694a1052bc2

ba35c20faf7c3f0cd5c086d13d264c4

        随后开始对视觉诱发电位的工作进行了介绍。首先介绍了最近对于视觉诱发电位的研究,并提出了最近的一些问题,例如被试数据数量不足,以及相对应的迁移学习的方法,例如跨被试、跨设备、跨刺激的迁移等。

e0900e7aed0fe62020fec7c5a4fda7a

        随后张杨松教授展示了近期的工作,SSVEPNET网络,该网络主要包括四个部分:空间滤波器、时间滤波器、双向循环网络(BiLSTM)和分类部分。张杨松教授搭建了基本的网络后发现网络的参数量比较大,于是引用了光谱正则化以及标记平滑技术。

280eb4a43bb2a98dc4ad3dc8c0f6782

c5d39245f0761d9bfe61061c33812c6

        随后张杨松教授为了验证这个网络,使用了两个数据集,一个是网上的公开数据集,一个是西南科技大学与华南理工大学合作的一个数据集。

481c6e5d5ecd3fce3a030164b9e9e6e

        张杨松教授提出对于网络的验证工作设计了0.5s和1s的离线分析,以及三种训练和测试的比例,分别是8:2、5:5、2:8。所提出的网络在0.5s、1s的测试,以及跨被试和不跨被试的情况下,都得到了比先前的实验更好的结果。同时,为了验证所提出的网络模块有效,进行了消融实验,验证了模块的有效性。

31e32260fe2282f9588d8d991ff917f

2fa4faeeb96eecc8b67b9b6c3f6940e

006093088aace60d965a22764c01b8a

4d535b29365e47563fab738ff7fb0b9

ff37da41cf86a0729a0307b38e8577d

        张教授对该模型总结,所提出的模型搭配上归一化和标记模糊化技术,得到的结果与当前的方法相比得到了比较大的改进,并提出归一化和标记模糊技术在设计对于视觉诱发电位的深度学习方法方面是很有潜力的。

55959fb389fc7709f02a43860388cab

        随后,张杨松教授开始讲解运动想象方面的方法,首先张教授介绍了传统的方法,例如CSP、SVM等方法,以及最近的深度学习方法。

02b98a0bee2c273023a260b6e4c97e3

        紧接着,张教授讲解了思路的来源,空间拓扑具有明显对称性差异,和C3、C4相关,想要基于这种时空差异性进一步提取特征,据此搭建了左右手想象的深度学习网络设计。这个网络具有三个部分,时间模块、空间模块、分类器模块。其中空间模块具有空间对称差异性卷积和大脑卷积两种方式,通过两种方式提取大脑空间差异性的特征,然后拼接在一起,输送到分类器中。

34c5f166295962be6c66df7d1168ac9

5d7ca1fc387f50a40d557c04414cf0b

        为了进行算法的验证,采用了韩国大学的一个二分类大数据集。对数据集进行了基本的预处理,并且对电极进行了重排,使其位置对称,对应了上文的半脑差异性特质,这有利于后续的卷积特征处理。在验证的时候则是使用了跨被试的留一法进行验证。损失函数和优化器则是使用了常用的negative log-likelihood损失函数和Adam优化器。

0d8dba8461006c9584a25c316775943

fa355bd00f8f0cb4117b2ea1735369d

        随后,张教授表示提出的方法在跨被试的情况下,在近期的方法中得到了更优秀的结果。同时,对于电极数量的变化时的性能以及参数量都作出了比较,所提出的模型具有更好的性能以及更低的参数量,并且更加不依赖于数据集,这些表明了所提出方法的有效性。

a04c54820b58d2511fb0c8f19e6f655

5a03668c64140c5a12c695274c2f219

6134d3095658ba4f8068af2ae5bda90

        张教授从可解释性的角度,对其中的卷积模块进行了可视化,表明了模型确实学习了相应的不对称性特征。

19c63bc8e5c7c34f23cde8cc2780bd9

        随后,张杨松教授对该模型作了总结,这个深度学习模型的分类达到了比较好的性能,并启发了我们做算法设计方面,可以从大脑的神经活动的机制展开模型设计,可能效果会更加的理想。

b2041ea2bbc13338c62b8b3011558ec

        最后,张杨松教授对演讲作了总结,首先提出了分别提出了视觉诱发电位和运动想象分类的深度学习模型,随后表明端对端的深度学习模型是脑电信号处理分析的有效工具,而从神经机制进行设计深度学习模型是一个重要的角度,以及可解释性方面需要进一步的加强。

b25813fd43e6799604857585435b8c8

张杨松,西南科技大学计算机科学与技术学院,副教授,硕导,四川省学术和技术带头人后备人选,新加坡南洋理工大学访问学者。脑科学与医学人工智能实验室负责人。在自然指数期刊ACS Nano、IEEE TBME/TNSRE、Neural Networks等国内外权威期刊发表SCI论文50余篇,学术引用2030余次;


登录用户可以查看和发表评论, 请前往  登录 或  注册
SCHOLAT.com 学者网
免责声明 | 关于我们 | 用户反馈
联系我们: