마인드웨어웍스 "AI 에이전트 미래, 화려한 언변 아닌 '통제된 운영'에서 출발

생성형 AI 환각 문제…5단계 가드레일·특허 멀티모달 기술로 해결

[프라임경제] "단순히 유창하게 말하는 AI와 수만 건의 실제 상담을 무사고로 처리하는 AI는 다른 이야기입니다. AI 에이전트의 미래는 화려한 언변이 아닌 '가장 통제된 운영'에서 출발합니다."

이재인 마인드웨어웍스 CAO가 '제15회 K-컨택센터 리더스 포럼'에서 AI 에이전트의 핵심 경쟁력으로 '통제된 운영'을 강조했다. = 김상준 기자

이재인 마인드웨어웍스(Mindware Works) 최고행정책임자(CAO)는 지난 20일 열린 '제15회 K-컨택센터 리더스 포럼 2026'에서 AI 에이전트의 핵심 경쟁력으로 '통제된 운영'을 강조했다.

이 CAO는 '멀티 에이전트 AICC 구축 사례로 확인한 고객상담 플랫폼의 발전 방향'을 주제로 생성형 AI의 환각(Hallucination)을 최소화하면서 실제 상담 업무의 안정성과 완결률을 높이는 구축 사례를 공개했다.

그는 생성형 AI 기반 AICC가 현장에서 기대만큼 성과를 내지 못하는 주요 원인으로 '통제의 부재'를 꼽았다. 대규모언어모델(LLM)은 비정형 질문과 맥락 이해에는 뛰어나지만 본인확인·동의·결제 등 정해진 절차를 반드시 준수해야 하는 업무에서는 한계가 있다. 반면 기존 자연어처리(NLP)는 일관성과 검증 가능성은 높지만 예상하지 못한 고객 발화에 유연하게 대응하기 어렵다.

마인드웨어웍스는 이를 해결하기 위해 두 방식의 장점을 결합한 '하이브리드 오케스트레이션(Hybrid Orchestration)'을 제시했다.

일반 문의 등 위험도가 낮은 업무는 파운데이션 모델이 유연하게 대응하고, 본인확인·동의·결제 등 고위험 업무에서는 NLP 기반 룰이 강제로 개입해 AI의 자의적 판단을 제한하는 방식이다. 이 CAO에 따르면 해당 구조를 적용해 의도 식별률 92%를 기록했다.

AI 상담의 신뢰성을 확보하기 위한 핵심 기술도 공개했다. 먼저 고객 데이터를 외부로 반출하지 않고 모델과 지식, 상담 로그 등을 기업 내부에서 통제하는 구조를 적용했다. 금융 등 높은 수준의 보안이 요구되는 산업에서도 생성형 AI를 활용하기 위한 조치다.

생성형 AI의 환각을 차단하기 위한 '5단계 가드레일'도 적용된다. 절차 준수와 개인정보 자동 마스킹, 응답 검증 등 다단계 검증을 모두 통과한 답변만 고객에게 전달하도록 설계됐다.

특허 기반 멀티모달 기술인 'Dynamic ARS Screen'도 차별화 요소다. 음성과 화면 입력을 하나의 상담 세션으로 연결해 고객의 선택과 동의 과정 등을 기록함으로써 상담 과정의 신뢰성과 증적을 확보한다.

마인드웨어웍스는 생성형 AI의 환각을 차단하기 위한 '5단계 가드레일'을 적용한다. = 김상준 기자

마인드웨어웍스는 이같은 기술을 국내 대형 여신전문금융회사 인바운드 콜봇에 적용했다. 고객 데이터를 외부 클라우드로 전송하지 않는 100% 온프레미스 방식으로 구축한 결과 식별번호 인식 정확도 96%를 달성했다. 고객명 인식 오류도 기존 대비 35% 줄였다.

멀티 에이전트의 권한 역시 엄격하게 통제했다. '리드 에이전트'가 고객 의도를 판단하고 대화·검색증강생성(RAG)·업무 실행·가드레일 등을 담당하는 '워커 에이전트'에게 필요한 권한만 위임해 시스템 안전성을 높였다.

구축 과정에도 AI 자동화를 적용했다. 기존 약 25명의 인력이 6개월가량 투입됐던 업무 정의와 시나리오 작성, 테스트 등을 자동화 파이프라인으로 전환해 구축·검증 기간을 2개월(8주) 이내로 단축했다.

이재인 CAO는 "AI 솔루션 도입을 검토할 때 화려한 데모나 대화 능력만 볼 것이 아니라 상담원 개입 없이 실제 업무를 끝까지 처리할 수 있는 완결률과 문제 발생 시 대응할 수 있는 복구 아키텍처가 갖춰져 있는지를 반드시 확인해야 한다"고 강조했다.