数据时代大学生碎片化阅读 的自变量和因变量各是是啥

题外话这篇文章思路写的非常清楚,读起来很舒服

当前的image captioning方法通常生成一些客观的描述而没有关于语言学上的研究,如图展示了不同风格的caption
之前的相关工作也有将image caption嘚表达更丰富化的工作,但它们都无法同时生成多个风格的caption为了生成 k种不同的表达,往往需要

  • 提出了MSCap一个生成多风格的caption的模型

wt?,作為LSTM每步的输入

B当没有图片时仅仅依赖 ctl?,综合的信息取两者的加权和

这一步将生成的caption和image关联起来基于假设 y^?f?拥有相同的信息,则生荿的caption y^?f?来估计所以我们限制

由于训练的不稳定和方差大等问题,我们使用了WGAN等的训练策略


    G上训练的时候如何相互区分如果连输入图爿都没有的话?
}

[2])的改进文章提出了一种新的罙度神经网络模型-BiDANN(双半脑领域对抗神经网络)用于脑电情绪识别任务,该模型考虑了训练和测试数据之间的分布差异和大脑左右半脑的鈈对称性并提出了一个改进版本BiDANN-S用于实现被试无关(subject-independent)的情绪识别。文章在SEED数据集进行验证达到了state-of-the-art的水平。

1.1 源域和目标域的特征分布存在差异

传统机器学习方法假设训练和测试数据集的特征分布是相似的为此,才可以运用在训练集上学到的知识对测试数据进行识别洏在跨被试和跨时间的情绪识别任务中,源域(训练集)和目标域(测试集)的特征分布存在较大的差异主要体现在不同被试和同一被試在不同实验条件下采集的脑电信号之间。因此我们应该找到一个共同的特征表示空间,在此空间内减小源域和目标域的特征分布差异

1.2 大脑的左右半脑存在功能差异

虽然人类大脑的解剖结构看起来是对称的,但左右半脑并不完全对称其在结构和功能上均存在差异性。洇此从神经科学的角度看,在脑电情绪识别模型的构建中考虑大脑的本质或特征对于情绪识别更有价值。

从上述研究动机出发作者提出了双半脑领域对抗神经网络(bi-hemispheres domain adversarial neural network, BiDANN)用于脑电情绪识别。BiDANN模型包括一个全局和两个局部领域判别器它们与分类器对抗工作,以学习每个半脑内的判别性情绪特征同时减轻每个半脑内源域和目标域数据之间的特征分布差异。

特征提取器(Feature Extractor):该网络包含两个特征提取器鼡于将原始脑电特征映射到深层特征空间,分别用于学习左右半脑特征信息

分类器(Classifier):通过将特征映射到标签空间来预测情绪类别。

領域判别器(Discriminator):全局领域判别器用于区分输入来自哪个域(训练数据或测试数据)两个半脑的局部判别器用于进一步缩小左右半脑内源域和目标域脑电特征分布差异。

梯度反向层(gradient reversal layers, GRL)的作用是在网络正向传播时保持输入不变在反向传播时将梯度乘以一个负标量,从而在鈈影响分类器正常工作的前提下使判别器的学习目标为损失最大化,以减小源域和目标域特征差异

网络学习目标是对特征提取器、领域判别器和分类器的参数进行优化,以使分类器的损失最小化领域判别器的损失最大化,这将产生分类器和领域判别器之间的对抗性学習从而使网络学习到与情绪相关但与领域无关的判别信息。

2.2 左右半脑特征提取过程

为了充分利用序列的时间依赖性文章构造了一个长短时记忆(LSTM)框架来学习上下文信息,并将输入映射到另一个更有效的特征空间

由5个子频带的微分熵构成的手工特征表示为

上述方法考慮了源域和目标域之间的特征分布差异,但在处理跨被试的脑电情绪识别任务时仍可能遇到困难因为即使在同一源域内,不同被试的脑電数据亦存在差异为了解决与被试无关的脑电情绪识别问题,作者提出了基于上述BiDANN的BiDANN-S改进模型该模型在BiDANN的基础上引入了一个额外的被試判别器Ds,以尽可能降低被试个人特性对脑电情绪识别的影响

为了评估BiDANN不同部分对EEG情绪识别的贡献,除了基准方法DANN[3]外作者通过对BiDANN的变形设置了两个对比实验BiDANN-R1和BiDANN-R2。与BiDANN相比BiDANN-R2减少了局部判别器,进一步BiDANN-R1在提取源域和目标域特征时不再考虑左右半脑的数据分布差异。

文章还使用BiDANN-R1方法研究了左右半脑对三种情绪识别的影响并得到右半脑脑电信号有利于消极情绪识别,左半脑脑电信号有利于积极情绪识别的结論

为进一步说明本文方法确实能够减小不同被试之间特征分布差异,作者在HR-EEG4EMO [4]数据集上(二分类任务)进行了验证实验下图显示了5位被試的原始脑电特征(band power, BP)以及经过BiDANN和BiDANN-S进行领域自适应后的特征在运用t-SNE降维后得到的特征分布。与原始特征相比可以看出,在使用BiDANN或BiDANN-S时正媔情绪和负面情绪之间的可分离性变得更加容易。另一方面与BiDANN方法相比,BiDANN-S方法在大多数情况下拥有更好的可分离性

文章的主要贡献为:本文在情绪识别研究中考虑了左右半脑之间的依赖关系,并将神经科学关于大脑不对称的发现应用到深度学习模型中;除了约束训练数據和测试数据之间的全局分布相似性外文章还考虑了左右半脑的局部分布相关性;通过引入被试判别器,有效地减小了源域内不同被试の间的特征分布差异取得了更好的识别效果。

不足之处:文章所用输入数据(9s)比Zheng等人[5]所提方法中样本数据(1s)更长可以考虑适当减尛输入数据长度。此外不知道为什么作者在文章最后的讨论部分,引入了另外一个数据集来验证本文方法对于领域自适应的有效性而沒有直接在SEED数据集上验证。

}

同步开源进展欢迎留言互动

SOFAStack(Scalable Open Financial Architecture Stack)是蚂蚁金服自主研发的金融级分布式架构,包含了构建金融级云原生架构所需的各个组件包括微服务研发框架,RPC 框架服务注册中心,分布式定时任务限流/熔断框架,动态配置推送分布式链路追踪,Metrics 监控度量分布式高可用消息队列,分布式事务框架分布式数据庫代理层等组件,也是在金融场景里锤炼出来的最佳实践

号外号外,本周有几件大事:

}

我要回帖

更多关于 自变量和因变量各是 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信