NLP相关
seq2seq架构:
主要特征:编码器,潜空间,解码器,输入输出都是序列
CV相关
s4通过离散化过程 将参数转化为全局卷积核(Global Convolution Kernel)。这使得 S4 可以像 CNN 一样在整个序列上进行高效并行训练 。而在推理(生成)阶段,它又可以切换回递归模式
seq2seq架构:
主要特征:编码器,潜空间,解码器,输入输出都是序列
s4通过离散化过程 将参数转化为全局卷积核(Global Convolution Kernel)。这使得 S4 可以像 CNN 一样在整个序列上进行高效并行训练 。而在推理(生成)阶段,它又可以切换回递归模式