# xLSTM을 활용한 장기 시계열 예측: XLSTMTime

> Clean Markdown view of GeekNews topic #15895. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=15895](https://news.hada.io/topic?id=15895)
- GeekNews Markdown: [https://news.hada.io/topic/15895.md](https://news.hada.io/topic/15895.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2024-07-18T10:00:45+09:00
- Updated: 2024-07-18T10:00:45+09:00
- Original source: [arxiv.org](https://arxiv.org/abs/2407.10240)
- Points: 1
- Comments: 1

## Topic Body

### xLSTMTime: Long-term Time Series Forecasting With xLSTM

- 최근 몇 년간, 변환기 기반 모델은 다변량 장기 시계열 예측(LTSF)에서 두드러진 성과를 보였음. 그러나 높은 계산 요구, 시간적 역학 포착의 어려움, 장기 종속성 관리 등의 문제에 직면해 있음
- 단순한 선형 구조를 가진 LTSF-Linear의 등장으로 변환기 기반 모델을 능가하는 성과를 보였으며, 이는 시계열 예측에서 변환기의 유용성을 재평가하게 만듦
- 이에 대응하여, 이 논문은 최근의 아키텍처인 확장 LSTM(xLSTM)을 LTSF에 적용한 결과를 제시함. xLSTM은 지수 게이팅과 더 높은 용량의 수정된 메모리 구조를 포함하여 LTSF에 적합한 잠재력을 가짐
- 우리가 채택한 LTSF 아키텍처인 xLSTMTime은 현재 접근 방식을 능가함. 여러 실제 데이터셋에서 다양한 최신 모델과 xLSTMTime의 성능을 비교한 결과, 우수한 예측 능력을 입증함
- 우리의 연구 결과는 정제된 순환 아키텍처가 LTSF 작업에서 변환기 기반 모델에 대한 경쟁력 있는 대안을 제공할 수 있으며, 시계열 예측의 지형을 재정의할 가능성을 시사함

### GN⁺의 정리

- 이 논문은 변환기 기반 모델의 한계를 극복하고자 xLSTM을 도입하여 장기 시계열 예측에서 우수한 성능을 보임
- xLSTMTime은 지수 게이팅과 수정된 메모리 구조를 통해 기존 모델을 능가하는 예측 능력을 입증함
- 이 연구는 시계열 예측에서 순환 아키텍처의 가능성을 재조명하며, 변환기 기반 모델에 대한 새로운 대안을 제시함
- 유사한 기능을 가진 프로젝트로는 Facebook의 Prophet, Amazon의 DeepAR 등이 있음

## Comments



### Comment 27351

- Author: neo
- Created: 2024-07-18T10:00:45+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=40978372) 
- 최근 몇 년 동안, transformer 기반 모델이 다변량 장기 시계열 예측에서 두각을 나타내고 있음
  - 하지만, 일반적으로 비딥러닝 모델보다 더 나은지는 확실하지 않음
- 경제(인플레이션, GDP 등)와 금융(시장 유동성 등)에서 nowcasting 및 예측 모델을 구축하는 일을 하고 있음
  - transformer 모델이 뛰어나지만 LSTM 유형 모델도 여전히 매우 유용하다는 의견에 공감함
- Google의 AI를 사용한 날씨 예측 모델과 관련이 있는지 궁금함
  - [Google의 Graphcast AI 모델](https://deepmind.google/discover/blog/graphcast-ai-model-for-faster-and-more-accurate-global-weather-forecasting/) 링크 제공
- 논문에 있는 데이터셋 링크가 작동하지 않아 아쉬움
  - 수정되기를 바람
- 예측 도구로 마케팅되고 있는데, 시계열에서 이벤트 분류에는 적용되지 않는지 궁금함
- 최고의 딥러닝 시계열 모델은 헤지펀드 내부에서 비공개로 사용됨
- 시계열 예측은 결정론적 도메인에서 가장 잘 작동함
  - 출판된 LLM/AI/딥러닝/머신러닝 기술 중 주식 시장에서 잘 작동하는 것은 없음
  - 모든 기술을 시도해봤지만 성공하지 못함
- 누군가의 시계열 예측 방법이 효과가 있었다면, 그들은 그것을 출판하지 않았을 것임
- XSLT로 잘못 읽었음
- 이 도구로 주식을 예측하려다 돈을 모두 잃을 사람이 기다려짐