지식 · AI 기초
순환 신경망 · RNN/LSTM
Recurrent Neural Network / LSTM
📂AI 기초⏱읽기 1분📊심화🔗관련 3
순환 신경망이란?
한 줄 정의
순서가 있는 데이터(문장·음성·시계열)를 이전 정보를 기억하며 처리하는 신경망. 트랜스포머 이전의 주역.
⚡ 3줄 요약
- 순서 데이터를 기억하며 처리
- LSTM은 긴 맥락 개선
- 트랜스포머 이전 주역
RNN은 데이터를 순서대로 처리하며, 앞서 본 정보를 '기억(은닉 상태)'으로 이어받아 다음 처리에 씁니다. 덕분에 문장·음성·주가처럼 순서가 중요한 데이터를 다룰 수 있습니다. 다만 순서가 길어지면 앞부분을 잊는 '장기 의존성' 문제가 있었습니다.
LSTM은 이를 개선한 RNN으로, '무엇을 기억하고 잊을지'를 조절하는 게이트를 두어 긴 맥락을 더 잘 유지합니다. 번역·음성인식 등에 오래 쓰였습니다. 지금은 병렬 처리와 긴 맥락에 강한 트랜스포머가 주류가 됐지만, RNN/LSTM은 순차 데이터 처리의 기초 개념으로 여전히 중요합니다.
💡 쉽게 말하면
문장을 앞에서부터 기억하며 읽는 방식 — 트랜스포머 이전 순차 처리의 주역이었습니다.
실무에서 왜 중요한가
순서 있는 데이터를 다루는 기초 구조입니다. 현대 LLM(트랜스포머)을 이해하는 디딤돌이 됩니다.
유래와 출처
LSTM은 1997년 호흐라이터(Hochreiter)와 슈미트후버(Schmidhuber)가 제안해 RNN의 장기 기억 문제를 개선했습니다.
출처 · Hochreiter & Schmidhuber(1997)
사례로 이해하기
예를 들어, RNN이 문장을 처리하는 과정을 그려봅시다.
- 순차 — 단어를 하나씩 순서대로 읽습니다.
- 기억 — 앞 단어의 정보를 은닉 상태로 이어받습니다.
- 결합 — 이전 기억과 현재 단어를 함께 처리합니다.
- 한계 — 문장이 길면 앞부분을 잊습니다.
- 개선 — LSTM은 게이트로 긴 맥락을 유지합니다.
관련 용어
트랜스포머문장 속 모든 단어의 관계를 한 번에 파악하는 '어텐션' 방식의 신경망 구조. 오늘날 생성형 AI의 기반.어텐션 메커니즘입력의 여러 부분 중 '지금 중요한 곳'에 더 집중하게 하는 신경망 기법. 트랜스포머와 현대 LLM의 심장.토큰화문장을 AI가 처리할 수 있는 작은 단위(토큰)로 쪼개는 과정. LLM이 글을 '읽는' 첫 단계.
이 용어와 연결된 교육
📚에이전트 AI 실무 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
LSTM은 RNN의 일종으로, 게이트를 두어 긴 맥락을 더 잘 기억하도록 개선한 것입니다.
트랜스포머가 주류지만, 순차 데이터 처리의 기초로 여전히 배우고 일부 영역에서 씁니다.
LSTM은 RNN의 일종으로, 게이트를 둬 긴 맥락을 더 잘 기억하도록 개선한 것입니다.
트랜스포머가 주류지만, 순차 데이터 처리의 기초로 배우고 일부 영역에서 씁니다.