트랜스포머
Transformer
트랜스포머란?
- 모든 단어 관계를 한 번에 파악
- 어텐션 기반 구조
- 현대 생성형 AI의 기반
가장 크게 바뀐 것은 학습의 경제성입니다. 이전 구조는 앞 단어의 계산이 끝나야 다음 단어로 넘어갈 수 있어서, GPU를 아무리 많이 꽂아도 속도가 '순서'에 묶여 있었습니다. 트랜스포머는 이 순서 제약을 끊어 같은 시간에 수백 배 많은 문장을 밀어 넣는 학습을 가능하게 했고, 그 결과 모델 크기와 데이터 양을 키우면 성능이 따라 오른다는 규모의 법칙(스케일링)이 실험으로 확인됐습니다. 오늘날 AI 경쟁이 '누가 더 큰 연산을 감당하는가'로 흘러가는 이유가 여기 있습니다.
구조는 크게 인코더와 디코더로 나뉩니다. 문장을 읽어 의미를 압축하는 쪽이 인코더, 다음 토큰을 하나씩 만들어 내는 쪽이 디코더입니다. 검색·분류에 쓰이는 BERT 계열은 인코더만 쓰고, GPT·Claude 같은 생성 모델은 디코더만 떼어내 층층이 쌓은 형태입니다. 또 트랜스포머는 언어 전용이 아니어서 이미지를 조각내 토큰처럼 다루는 ViT, 음성 인식 모델도 같은 뼈대를 씁니다. '트랜스포머=챗봇'이 아니라 시퀀스를 다루는 범용 설계라는 점을 알아 두면 도입 논의가 훨씬 수월해집니다.
대가도 분명합니다. 모든 단어 쌍의 관계를 다 계산하기 때문에 연산량이 토큰 수의 제곱으로 늘어, 입력을 2배로 넣으면 어텐션 비용은 대략 4배로 뜁니다. 컨텍스트 윈도우가 수십만 토큰까지 늘어난 지금도 긴 문서를 통째로 밀어 넣는 방식이 늘 싸거나 정확하지는 않은 이유입니다. 그래서 실무에서는 필요한 대목만 찾아 넣는 RAG나 문서 분할을 함께 씁니다.
현장에서 가장 자주 어긋나는 지점은 '창이 크면 다 읽는다'는 믿음입니다. 긴 입력에서는 앞뒤는 살아남고 중간이 흐려지는 현상이 알려져 있어, 200쪽짜리 계약서를 붙여 넣고 독소조항을 뽑아 달라고 하면 중간에 박힌 위약 조항이 통째로 빠진 요약이 나옵니다. 검토자가 그걸 '검토 완료'로 올리면 사고는 회의실이 아니라 계약이 끝난 뒤에 터집니다. 길이는 담을 수 있는 한계이지 읽었다는 보증이 아니라는 것, 이 한 줄을 사내 가이드 맨 앞에 적어 두시기 바랍니다.
2017년 구글 연구진(바스와니 등)이 논문 「Attention Is All You Need」에서 제시했습니다. 순환·합성곱 없이 오직 어텐션만으로 시퀀스를 처리한다는 발상이 이후 거의 모든 대형 AI 모델의 토대가 됐습니다.
가상의 사례로 살펴보겠습니다. 국내 산업용 밸브를 만드는 A사는 임직원 320명, 연매출 890억 원 규모입니다. 해외영업팀이 하루 140건씩 들어오는 영문 견적 문의를 번역기로 돌려 처리해 왔는데, lead time을 '리드선'으로 옮기는 식의 오역이 월 22건씩 반복됐습니다. 2024년 하반기, 팀장 제안으로 8주짜리 사내 AI 활용 교육이 시작됐습니다.
- 해외영업팀 김 팀장은 첫 시간에 오역 메일 12건을 화면에 띄우고 '왜 기계는 같은 단어를 매번 다르게 옮기냐'고 물었습니다.
- 강사는 같은 견적서를 두 도구에 넣어, 문장 전체를 한 번에 훑느냐, 앞에서부터 한 단어씩 미느냐에 따라 결과가 어떻게 갈리는지 나란히 보여 줬습니다.
- 3주차에 품질팀 이 과장이 40쪽 규격서를 통째로 붙여넣자 중간 15쪽 분량의 온도 조건이 빠진 요약이 나왔고, 팀은 컨텍스트의 한계를 눈으로 확인했습니다.
- 이후 규격서를 조항 단위로 쪼개 질문하는 사내 규칙을 만들고, 금액·납기·수량 세 항목은 담당자가 원문과 직접 대조하는 이중 확인을 붙였습니다.
- 8주 뒤 견적 오역은 월 22건에서 3건으로 줄었고, 문의 1건당 평균 응대 시간도 34분에서 12분으로 짧아졌습니다.