연속 학습(Continual Learning)이란? 정의, 재학습과 파인튜닝과의 차이점

AI 모델은 배포 이후 시간이 지나면서 새로운 데이터가 쌓이고, 사용자 니즈가 변하며, 시장과 업무 환경이 변함에 따라 함께 변화해야 합니다. 예를 들어, 새로운 상품과 서비스가 등장하고 고객의 질문과 행동 패턴이 달라지고 산업별 규정과 정책이 변경될 수 있습니다. 만약 처음 학습한 데이터만으로 AI를 계속 운영한다면 AI의 지식과 실제 환경 사이에 점점 간극이 발생할 수 있습니다. 이때 등장하는 개념이 바로 연속 학습(Continual Learning) 입니다.

연속 학습(Continual Learning)의 정의

연속 학습은 AI 모델이 새로운 데이터를 지속적으로 학습하면서 새로운 지식을 습득하고 변화하는 환경에 적응하도록 하는 학습 방식입니다. 기존 AI 학습은 데이터 수집에서 시작하여 학습 후 배포의 과정을 거치는 일회성 과정이지만, 연속 학습은 데이터 생성, 학습, 배포 후 다시 새로운 데이터 생성, 재학습, 개선이 반복되는 구조입니다.

왜 연속 학습이 필요할까?

• 데이터의 지속적인 변화
• 사용자 니즈의 변화
• 새로운 상황과 예외 케이스의 발생
• 시간의 흐름에 따른 모델의 성능 저하

재학습, 파인튜닝, 연속 학습은 무엇이 다를까?

• 재학습(Retraining): 새로운 데이터가 충분히 축적됐을 때 모델을 다시 학습하는 방식
• 파인튜닝(Fine-tuning):이미 학습된 모델을 특정 산업, 업무 또는 목적에 맞는 데이터로 추가 학습시키는 방식
• 연속 학습: 새로운 데이터와 경험을 지속적으로 반영해 모델이 변화하는 환경에 적응하도록 만드는 접근법

즉, 파인튜닝과 재학습이 특정 시점에 이루어지는 학습 작업인 반면, 연속 학습은 AI를 지속적으로 개선하기 위한 운영 전략에 가깝습니다.

연속 학습은 어떻게 작동할까?

1. 새로운 데이터의 발생: 사용자와의 상호작용, 업무 문서, 이미지, 센서 데이터 등 새로운 데이터가 지속적으로 생성됩니다.
2. 학습 가치가 있는 데이터의 선별: 새로운 유형의 질문, 모델이 자주 틀리는 사례, 변화된 업무 환경 등을 중심으로 데이터를 선별합니다.
3. 데이터를 정제 및 라벨링: 잘못된 데이터나 중복 데이터를 제거하고, 필요한 경우 사람이 직접 라벨링하고 검수합니다.
4. 새로운 데이터 반영: 선별된 데이터를 활용해 모델을 업데이트하거나 파인튜닝합니다.
5. 모델의 성능 평가: 기존 성능과 새로운 모델의 성능을 비교하고, 특정 영역에서 성능이 개선되었는지 확인합니다.
6. 다시 운영 환경으로의 연결: 배포 이후 새로운 오류와 사용자 피드백을 수집하고 다시 데이터로 활용합니다.

연속 학습의 가장 큰 문제, 파괴적 망각

파괴적 망각(Catastrophic Forgetting) 이란?

파괴적 망각은 새로운 데이터를 학습하는 과정에서 기존에 학습했던 지식을 잊어버리 상황을 의미합니다. 예를 들어 특정 업무 데이터를 계속 학습하다 보면 기존에 잘 수행하던 다른 업무의 성능이 떨어질 수 있습니다. 따라서 연속 학습에서는 단순히 새로운 데이터를 계속 추가하는 것이 아니라, 기존 데이터와 새로운 데이터의 균형, 다양한 데이터 분포 유지, 과거 데이터의 적절한 재사용, 학습 데이터 품질 관리 등이 중요합니다.

연속 학습에는 어떤 데이터가 필요할까?

• 최신 데이터: 현재 시장과 사용자의 상황을 반영하는 데이터가 필요합니다.
• 변화 데이터를 보여주는 데이터: 기존 데이터와 다른 새로운 상황이나 패턴을 포함해야 합니다.
• 오류 데이터: AI가 실제 운영 환경에서 실패한 사례는 매우 중요한 학습 자원이 됩니다.
• 엣지 케이스: 일반적인 상황이 아닌 예외 상황을 포함한 데이터입니다.
• 사용자 피드백 데이터: 사용자가 어떤 응답을 선호하고 어떤 결과를 잘못된 것으로 판단하는지 보여주는 데이터입니다.
• 고품질 라벨링된 데이터: 새로운 데이터를 모델에 학습시키기 위해서는 정확한 기준에 따라 정제되고 라벨링된 데이터가 필요합니다.

연속 학습에서 가장 중요한 것은 데이터의 양보다는 변화와 오류를 반영한 더 좋은 데이터를 확보하는 것이 핵심입니다.

연속 학습을 위한 휴먼 인 더 루프(Human-in-the-Loop)

연속 학습에 있어 AI가 스스로 생성한 데이터를 다시 학습하는 것만으로는 충분하지 않을 수 있습니다. 이 과정에는 사람의 검수와 판단을 포함하는 휴먼 인 더 루프(HITL) 구조가 매우 중요합니다. 예를 들어, AI가 응답을 생성한 후 그 응답을 사람이 직접 평가하고 응답 내의 오류 및 개선점 분류합니다. 해당 데이터를 구축 및 라벨링하고 그에 따라 모델을 개선한 뒤 다시 평가하는 것과 같은 구조를 만들 수 있습니다. 특히 정답이 명확하지 않은 데이터나 전문성이나 문화적 맥락이 필요한 데이터는 사람의 판단이 중요합니다. 이 구조가 구축되면 AI의 실제 운영 경험이 다시 고품질 학습 데이터로 전환될 수 있습니다.

기업이 연속 학습을 도입하기 위해 준비해야 할 것

연속 학습은 단순히 AI 모델을 자주 업데이트한다고 구현되는 것이 아닙니라 기업 차원에서 다음과 같은 데이터 운영 체계를 준비하는 것이 중요합니다.

• 데이터 수집 체계: 새로운 데이터를 지속적으로 확보할 수 있어야 합니다.
• 데이터 품질 관리: 학습에 적합한 데이터인지 지속적으로 검수해야 합니다.
• 라벨링 및 어노테이션 체계: 새로운 데이터에 일관된 기준으로 라벨링을 부여할 수 있어야 합니다.
• 평가 체계: 모델 업데이트 이후 성능이 실제로 개선됐는지 측정할 수 있어야 합니다.
• 데이터 파이프라인: 운영 환경에서 발생하는 데이터를 다시 학습 환경으로 연결해야 합니다.

연속 학습은 AI 개발팀만의 과제가 아니라 데이터·개발·운영이 연결된 전체 시스템의 과제입니다.

Appen의 연속 학습 솔루션

연속 학습 환경에서는 기업이 지속적으로 새로운 데이터를 확보하고, 정제하고, 라벨링하고, 평가할 수 있어야 합니다. 하지만 이러한 과정을 모두 내부에서 수행하기에는 상당한 시간과 전문성이 필요합니다.

저희 에펜은 새로운 학습 데이터 구축부터 도메인 특화 데이터 확보, 데이터 라벨링, 휴먼 인 더 루프 평가와 AI 모델 평가까지 전 AI 사이클 솔루션을 지원합니다.

앞으로의 AI 경쟁력은 얼마나 좋은 모델을 한 번 구축했는가뿐만 아니라, 얼마나 빠르게 새로운 데이터를 확보하고, 이를 모델 개선에 연결할 수 있는가에 의해 결정될 가능성이 높습니다. 재학습과 파인튜닝이 특정 시점의 모델 개선이라면, 연속 학습은 AI가 변화하는 현실에 지속적으로 적응하도록 만드는 장기적인 데이터·운영 전략입니다. 그리고 그 중심에는 데이터가 있습니다. AI가 계속 학습하는 시대, 기업에게 필요한 것은 한 번의 데이터 구축이 아니라 지속 가능한 데이터 공급 체계입니다.