레거시 시스템에 AI를 도입하는 가장 빠른 방법, AX 실전 가이드
AX 파일럿 설계부터 성과 측정까지
안녕하세요. 사랑받는 IT 프로덕트의 첫걸음, 똑똑한개발자입니다.
“AI를 도입하라”는 과제는 주어졌지만, 당장 마주한 것은 도입한 지 10년이 넘은 ERP입니다. SI 업체에 문의하면 대부분 “전면 재구축이 필요하다”는 답변이 돌아오고, 견적은 많게는 수억 원까지 올라갑니다. 레거시 시스템에 AI를 도입해야 하는 기업이라면 대개 비슷한 어려움을 겪게 됩니다.
그러나 AI를 활용하기 위해 기존 시스템을 반드시 전면 개편해야 하는 것은 아닙니다. 이러한 오해는 오히려 AI 도입을 가로막는 가장 큰 장애물이 되기도 합니다.
기존 시스템을 교체하지 않고도 AI를 도입할 수 있는 방법은 분명히 존재합니다.
이번 글에서는 그 접근법이 무엇인지, 시스템 상태에 따라 어떤 방식을 적용해야 하는지, 그리고 어떤 업무부터 시작해야 가장 빠르게 성과를 확인할 수 있는지 정리했습니다.
레거시 시스템 AI 도입의 핵심 원칙
레거시 시스템에 AI를 도입할 때 가장 위험한 선택은 기존 코드를 직접 수정하는 것입니다.
10년 이상 운영된 시스템에는 문서화되지 않은 규칙이 코드 곳곳에 숨어 있습니다. 코드 한 줄을 수정했을 때 어느 부분에서 사이드 이펙트가 발생할지, 심지어 시스템을 구축한 담당자조차 정확히 알기 어려운 경우가 많습니다. 저희 역시 초기 프로젝트에서 이러한 문제를 경험한 바 있습니다.
따라서 기존 시스템 내부에 AI를 넣는 방식이 아니라, 시스템 바깥에 별도의 AI 레이어를 구축해 데이터를 읽고 판단한 뒤 결과를 별도로 제공하는 구조를 적용해야 합니다.
소프트웨어 아키텍처에서는 이를 디커플드 통합(Decoupled Integration)이라고 합니다. 기존 시스템과 AI를 물리적으로 분리해 서로 영향을 주지 않도록 연결하는 방식입니다. 기존 시스템은 지금까지 수행해 온 업무를 그대로 처리하고, AI는 시스템 외부에서 이를 보조합니다.
시스템 상태에 따라 달라지는 AI 연동 방법
우리 시스템에는 어떤 방식이 적합할까
기존 시스템을 교체하지 않고 AI를 도입하려면 먼저 데이터에 접근할 수 있는지 확인해야 합니다. 외부 연동 기능이 있는지, 화면을 통해서만 데이터를 확인할 수 있는지, 실시간 분석이 필요한 업무인지에 따라 적용 방식이 달라집니다.
외부에서 데이터를 불러올 수 있다면 : 기존 API를 활용한다
비교적 최근에 도입한 ERP나 CRM은 외부에서 데이터를 불러올 수 있는 API를 제공하는 경우가 많습니다. 이때는 기존 시스템을 수정하지 않고, 필요한 데이터만 AI가 활용할 수 있는 형태로 변환해 연결할 수 있습니다. 이를 API 래퍼(Wrapper) 방식이라고 합니다.
핵심은 기존 시스템에 영향을 주지 않는 것입니다. AI는 데이터를 읽기만 하고, 분석 결과는 별도의 대시보드나 시스템에서 제공하도록 구성하는 것이 안전합니다.
API가 없다면 : 화면에서 데이터를 수집한다
오래된 C/S(클라이언트-서버) 기반 시스템이나 폐쇄망 시스템은 외부 연동 기능이 없는 경우가 많습니다. 그렇다고 AI 도입이 불가능한 것은 아닙니다.
이때는 RPA(Robotic Process Automation)를 활용해 사람이 화면에서 확인하던 데이터를 자동으로 수집하고, AI가 해당 데이터를 분석하도록 구성할 수 있습니다. 기존 시스템을 직접 수정하지 않아도 적용할 수 있다는 점이 장점입니다.
RPA만 적용하면 반복적인 클릭과 입력을 자동화하는 수준에 머무르지만, AI를 결합하면 수집한 데이터에서 이상을 감지하거나 다음 행동을 제안하는 단계까지 확장할 수 있습니다.
실시간 분석이 필요하지 않다면 : 데이터를 복제해 활용한다
재고 분석이나 주간 매출 리포트처럼 실시간 처리가 필요하지 않은 업무라면 운영 데이터의 변경 사항을 별도의 분석 환경으로 전달하는 방식을 활용할 수 있습니다. 이를 CDC(Change Data Capture)라고 합니다.
AI는 운영 시스템이 아닌 복제된 데이터를 분석하기 때문에 기존 업무에 미치는 영향을 줄일 수 있습니다. 실시간 대응보다 안정적인 분석과 정기 보고가 중요한 업무에 적합한 방식입니다.
어떤 업무부터 AI를 적용해야 할까
연동 방법을 이해했더라도 “우리 회사에서는 어떤 업무부터 시작해야 할까”를 결정하는 것이 실무에서는 가장 어려운 과제입니다.
저희가 AX 컨설팅 과정에서 반복적으로 적용하는 기준은 두 가지입니다. 데이터에 접근할 수 있는가, 그리고 해당 업무가 얼마나 자주 반복되며 어느 정도의 비용을 발생시키는가입니다.
가장 먼저 AI를 적용해야 하는 업무는 “데이터 접근이 쉽고, 매일 반복되며, 사람이 수행할 경우 많은 시간이 소요되는 일”입니다.
데이터 접근이 쉽고 반복 빈도가 높은 업무부터 시작하는 것이 적절합니다. 거래처 견적서 자동 대조, 고객 문의 자동 분류, 일일 매출 보고서 자동 생성 등이 이에 해당합니다. API가 있고, 매일 발생하며, 사람이 처리할 경우 30분에서 2시간 정도가 소요되는 업무입니다. 이러한 영역은 2~4주의 파일럿만으로도 성과를 확인할 수 있습니다.
데이터 접근은 어렵지만 반복 빈도가 높은 업무는 두 번째 단계에 해당합니다. 생산 라인 실시간 모니터링이나 폐쇄망 시스템의 이상 탐지 등이 대표적입니다. RPA와 AI의 결합 또는 별도 센서 연동이 필요하므로 파일럿 기간도 4~6주 정도로 길어집니다.
반복 빈도가 낮은 업무나 전사 AI 에이전트와 같은 대규모 프로젝트를 서둘러 추진할 필요는 없습니다. 앞선 단계를 통해 데이터 파이프라인을 구축하고 조직의 AI 이해도를 높인 이후에 접근하는 편이 현실적입니다.
AX 파일럿 적용 시나리오
아래 시나리오는 고객사 데이터 비공개 원칙에 따라 복수의 프로젝트에서 관찰한 패턴을 종합해 구성했습니다. 실제 성과는 기업 환경에 따라 달라질 수 있으며, 정확한 예측을 위해서는 POC를 통한 실측이 필요합니다.
A사 : ERP 견적서 자동 대조(API 래퍼, 파일럿 3주)
도입 전: 유통 기업 A사는 도입한 지 10년 된 ERP를 사용하고 있었습니다. 매일 거래처에서 40~60건의 견적서가 들어왔고, 담당자 2명이 이를 단가표와 수작업으로 대조했습니다. 건당 약 8~12분, 하루 전체로는 6~8시간이 소요됐습니다. 오입력으로 인한 단가 오류도 월평균 3~4건 발생했습니다.
도입 후: ERP의 REST API를 통해 단가 데이터를 읽어오는 래퍼를 구축하고, AI가 견적서 PDF를 분석해 단가에 이상이 있는 항목을 자동으로 표시하는 구조를 적용했습니다. 담당자는 AI가 표시한 항목만 확인하도록 업무 방식을 변경했습니다. 그 결과 검토 시간은 65~75% 절감됐으며, 단가 오류는 월 0건으로 감소했습니다.
B사 : 폐쇄망 생산관리 시스템 이상 탐지(RPA+AI, 파일럿 5주)
도입 전: 제조 기업 B사는 구축한 지 15년 된 생산관리 시스템을 운영하고 있었습니다. API가 없고 폐쇄망으로 구성돼 외부 접속도 불가능한 환경이었습니다. 담당자는 8시간 교대로 공정 이상 여부를 모니터링했고, 이상을 감지하기까지 평균 35~45분이 소요됐습니다. 비계획 정지도 월 2~3회 발생했습니다.
도입 후: RPA 봇이 생산관리 시스템 화면에서 5분 주기로 공정 데이터를 수집하고, 내부 서버의 AI 모델이 이상 패턴을 탐지하는 구조를 설계했습니다. 그 결과 이상 감지 시간은 평균 35~45분에서 5~10분으로 단축됐으며, 5주간의 파일럿 기간 동안 비계획 정지는 발생하지 않았습니다.
파일럿은 범위를 어떻게 설정하는지에 따라 비용과 기간이 달라집니다. 따라서 “비용이 얼마나 드는가”를 묻기 전에 “어떤 업무에 AI를 적용할 것인가”를 먼저 결정하는 것이 첫 단계입니다.
AI 전환, 파트너와 함께 시작하세요
레거시 시스템에 AI를 연결하는 일은 기술만의 문제가 아닙니다. 어떤 업무부터 시작할 것인지, 기존 시스템 구조에는 어떤 연동 방식이 적합한지, 파일럿 범위를 어떻게 설정할 것인지 판단하는 과정이 오히려 더 어렵습니다.
똑똑한개발자는 AX 컨설팅과 AI 네이티브 개발을 함께 수행하는 팀입니다. 전략을 수립하는 데서 그치지 않고, 파일럿 설계부터 구현과 운영까지 하나의 팀으로 함께합니다.
AI 전환을 어디서부터 시작해야 할지 고민하고 계신다면, 똑똑한개발자가 기술 파트너로 함께하겠습니다.
감사합니다.
제미나이, GPT, 클로드를 활용해 AI Agent 탑재 및 AX 전환의 전문성을 갖춘 IT 프로덕트 에이전시.
https://www.toktokhan.dev/?utm_source=landing&utm_medium=legacyax&utm_campaign=legacyax&utm_term=legacyax