ACL(计算语言学协会年会)作为自然语言处理领域的顶级国际会议,第63届盛会已于2025年7月27日至8月1日在奥地利维也纳圆满落幕。本届大会创新采用“线上+线下”融合模式,吸引了全球3000余名研究者注册参与。尤为值得关注的是,在本年度8360篇投稿中,中国作者贡献占比高达51%,远超美国的18.6%,充分彰显了中国在该领域的强劲科研实力。

值得一提的是,本次ACL2025投稿中包含9篇聚焦时间序列的相关论文,在这之中,我看到了目前时间序列发展的一个创新趋势,即:LLM+时间序列。为此,我特意整理了ACL 2024至2025年间时间序列领域相关论文,感兴趣的可以dd我~
论文这里
【ACL2025】 CrisisTS: Coupling Social Media Textual Data and Meteorological Time Series for Urgency Classification

关键词
CrisisTS;多模态;多语言;紧急度分类;社交媒体文本;气象时间序列;模态融合
内容
本文提出CRISISTS,这是首个用于紧急度分类的多模态、多语言数据集,由基准危机数据集与开源地理编码气象时间序列数据映射而成,其映射策略能在文本无位置提及情况下实现时空对齐。通过基于Transformer和大型语言模型(LLMs)的多模态实验,结果表明模态融合的性能优于纯文本模型,可提升模型整体表现并确保泛化能力。
创新点
- 构建了首个融合时间序列与文本数据的多模态、多语言紧急度检测数据集CrisisTS,涵盖多种预期及突发危机,支持英法两种语言。
- 提出简单有效的时空对齐策略,不依赖文本中的位置提及即可实现文本与时间序列的映射,覆盖更多样化的信息,突破现有仅依赖单一位置提及的对齐方式。
- 开展基于Transformer和大型语言模型的多模态紧急度检测实验,在两种语言和7类共29个危机事件中验证了方法的可移植性,证实注入多源时间序列数据在不同语言和危机类型(尤其是非突发危机)中优于纯文本模型。
【ACL 2025】Time-MQA: Time Series Multi-Task Question Answering with Context Enhancement

关键词
Time-MQA;时间序列;多任务问答;TSQA数据集;大型语言模型;上下文增强
内容
本文提出Time-MQA,一个统一的时间序列多任务问答框架,支持自然语言查询下的数值分析任务和开放式推理问答。核心是TSQA数据集,包含约20万条问答对,涵盖环境、交通等多个领域的时间序列数据,覆盖不同序列长度。通过在该数据集上持续预训练Mistral 7B、Llama-3 8B和Qwen-2.5 7B等大型语言模型,增强了其时间序列推理能力,实现了超越单纯数值任务的高级且直观的时序数据交互。
创新点
- 提出Time-MQA框架,将时间序列的多种任务(如预测、异常检测等)整合到自然语言问答范式中,结合上下文增强,突破传统单一任务局限。
- 构建TSQA数据集,包含约20万条问答对,覆盖12个领域和5类任务,同时支持数值分析和认知推理任务,是时间序列领域首个大规模多领域、多任务问答数据集。
- 基于TSQA数据集持续预训练大型语言模型,实验表明这些模型能有效习得时间序列知识和推理能力,在预测、异常检测等任务中表现更优,尤其在长时序预测和开放式推理上展现出优势。
【ACL 2025】Time-LlaMA: Adapting Large Language Models for Time Series Modeling via Dynamic Low-rank Adaptation

关键词
Time-LlaMA;时间序列建模;大型语言模型;动态低秩适应(DynaLoRA);模态对齐;高效推理
内容
本文提出Time-LlaMA框架,旨在通过动态低秩适应技术(DynaLoRA)改进大型语言模型(LLMs)在时间序列建模中的应用。该框架首先通过线性令牌化机制将时间序列输入转换为令牌嵌入,再将其与文本提示嵌入对齐,最后利用DynaLoRA动态选择Transformer各层最适合的LoRA模块以增强模型预测能力。实验结果表明,该方法在多种公开和专有时间序列任务中实现了最先进的性能,且具有广泛的工业应用潜力。
创新点
- 提出Time-LlaMA框架,通过线性令牌化将多变量时间序列的每个通道视为单个令牌,结合可训练的交叉注意力模块实现时间序列令牌嵌入与文本提示嵌入的对齐,提升模型对相关信息的聚焦能力。
- 开发动态低秩适应技术(DynaLoRA),基于输入数据动态为Transformer各层分配不同的LoRA模块,增强模型对特定任务的适应能力,同时通过控制每层激活的LoRA模块数量提高推理效率。
- 在长短期时间序列预测任务及少样本场景中均超越现有先进方法,验证了框架在不同LLM骨干模型上的有效性,且推理效率较高,适用于工业部署。
【ACL 2024】 LSTPrompt: Large Language Models as Zero-Shot Time Series Forecasters by Long-Short-Term Prompting

关键词
LSTPrompt;零样本时间序列预测;大型语言模型;长短期提示;时序分解(TimeDecomp);时序呼吸(TimeBreath)
内容
本文提出LSTPrompt,一种用于零样本时间序列预测(TSF)的新型提示策略。该策略将TSF分解为短期和长期预测子任务,为每个子任务定制提示,并通过TimeBreath组件鼓励大型语言模型(LLMs)定期重新评估预测机制以增强适应性。大量实验表明,LSTPrompt持续优于现有提示方法,且在特定场景下与基础TSF模型相比表现具有竞争力。
创新点
- 提出长短期提示(LSTPrompt),将时间序列预测任务分解为短期和长期子任务,通过链式思维推理路径引导LLMs,短期侧重趋势变化和动态模式,长期强调统计特性和周期性模式。
- 引入TimeBreath组件,促使LLMs在预测过程中按一定频率(超参数k)定期“呼吸”,重新评估预测机制,适应不同时间段的推理需求,避免无关推断影响预测准确性。
- 在多个基准数据集和并发数据集上验证了有效性,不仅在零样本方法中表现最优或次优,还在部分场景下超越有监督模型,尤其在分布偏移较大的数据集上因LLMs的强泛化能力展现优势。

393

被折叠的 条评论
为什么被折叠?



