왜 내 챗봇은 자꾸 딴소리만 할까?

“재고 확인해 줘”라고 정중하게 물었을 뿐인데, 챗봇이 엉뚱한 대답을 하거나 이미 말한 정보를 다시 되묻는 경험을 해본 적 있으신가요? 사용자는 분명히 필요한 정보를 전달했음에도 챗봇이 이를 알아듣지 못하고 도돌이표 같은 질문을 반복할 때, 대화의 흐름은 끊기고 서비스에 대한 신뢰도는 급격히 하락합니다.

비즈니스 현장에서 챗봇이 ‘기계’가 아닌 ‘든든한 동료’처럼 느껴지게 만드는 결정적인 차이는 무엇일까요? 그것은 단순히 문장을 읽어 내려가는 능력이 아니라, 문장 속에서 핵심 데이터를 정확히 추출해내는 능력에 있습니다. 그리고 이 ‘지능’의 핵심에 바로 엔티티(Entity, 개체)가 있습니다.

엔티티(Entity): 챗봇이 세상을 분류하는 ‘마법의 카테고리’

엔티티를 한 문장으로 정의하면 “고유 명사를 모아둔 카테고리”라고 할 수 있습니다. 챗봇의 두뇌 역할을 하는 자연어 이해(NLU, Natural Language Understanding) 기술은 사용자의 의도를 파악하는 동시에, 그 안에서 필요한 정보를 콕 집어내는 ‘재료’를 필요로 합니다. 엔티티가 바로 그 재료입니다.

예를 들어, 사용자가 “서울시 강남구”라고 말했을 때 엔티티가 설정된 챗봇은 이를 단순한 텍스트 뭉치가 아니라 ‘도시 정보’라는 데이터로 인식하고 저장합니다. 챗봇에게 미리 “이런 형태의 말은 도시 이름이야”라고 약속을 해두었기 때문입니다.

“엔티티는 고유 명사를 모아둔 카테고리라고 할 수 있습니다.” — 진미나 강사

자원 최적화 전략: 사전 빌드 vs. 사용자 지정 엔티티

마이크로소프트 코파일럿 스튜디오(Copilot Studio)에서는 기업이 효율적으로 AI를 구축할 수 있도록 두 가지 타입의 엔티티를 제공합니다. 이를 전략적으로 활용하는 것은 개발 비용과 시간을 아끼는 리소스 최적화 전략의 핵심입니다.

• 사전 빌드 엔티티(Pre-built Entity): 날짜, 시간, 금액, 나이 등 전 세계 공통으로 쓰이는 정보들을 마이크로소프트가 미리 정의해둔 ‘기성품’ 도구입니다. 현재 28개 이상의 강력한 사전 빌드 엔티티가 제공되고 있어, 일상적인 데이터 처리 기능을 직접 개발할 필요 없이 즉시 현업에 적용할 수 있습니다.
• 사용자 지정 엔티티(Custom Entity): 우리 회사만의 고유한 제품 코드, 멤버십 등급, 지점 위치 등 특화된 정보를 직접 가르치는 ‘맞춤형’ 방식입니다. 마이크로소프트가 알 수 없는 기업 내부의 비즈니스 언어를 챗봇에게 학습시킬 때 필수적입니다.

현명한 설계자는 공통 정보는 사전 빌드 엔티티로 해결하고, 회사의 고유 가치가 담긴 데이터에는 사용자 지정 엔티티를 설계하는 데 집중하여 효율성을 극대화합니다.

‘슬롯 채우기(Slot Filling)’: 내 말을 찰떡같이 알아듣는 비결

엔티티가 잘 설계된 챗봇은 대화가 매우 자연스럽습니다. 이를 가능하게 하는 핵심 기능이 바로 ‘슬롯 채우기(Slot Filling)’입니다. 여기서 ‘슬롯(Slot)’이란 챗봇이 업무를 처리하기 위해 반드시 채워야 하는 ‘양식의 빈칸’이라고 이해하면 쉽습니다.

예를 들어, 사용자가 한 문장에 여러 정보를 담아 “저는 김민수고요, 이메일은 minsu@example.com입니다”라고 말했을 때를 가정해 봅시다.

• 엔티티가 없는 경우: “성함이 어떻게 되시나요?”라고 묻고, 대답을 받은 뒤에 다시 “이메일 주소는요?”라고 번거롭게 되묻습니다.
• 슬롯 채우기가 작동하는 경우: 챗봇이 문장 속에서 ‘이름’과 ‘이메일’이라는 두 개의 빈칸(슬롯)을 동시에 인식하여 채웁니다. 이미 정보를 파악했으므로 불필요한 질문을 건너뛰고 즉시 다음 단계로 넘어갑니다.

이 기능은 단순한 기술적 편리함을 넘어, 사용자에게 “내 말을 완벽히 이해하고 있다”는 강력한 사용자 경험(UX)을 선사합니다.

비즈니스의 가교: 엔티티가 시스템을 움직이는 법

엔티티의 진정한 가치는 대화 보조를 넘어 실제 업무 자동화를 구현할 때 빛을 발합니다. 엔티티는 사용자의 비정형적인 ‘말’을 데이터베이스가 읽을 수 있는 ‘구조화된 데이터(Structured Data)’로 변환하는 가교 역할을 하기 때문입니다.

만약 사용자가 “립스틱 재고 있어요?”라고 물었다면, 챗봇은 ‘립스틱’이라는 단어를 ‘색조 화장품’이라는 엔티티 카테고리로 인식합니다. 여기서 ‘립스틱’은 사용자의 입력값이고, ‘색조 화장품’은 시스템이 이해하는 카테고리 정보입니다. 이렇게 구조화된 데이터가 있어야만 챗봇은 쉐어포인트(SharePoint)나 사내 데이터베이스(DB)에 접속해 “색조 화장품 카테고리의 재고 현황을 알려줘”라고 정확한 쿼리를 날릴 수 있습니다.

결국 엔티티는 단순한 이해를 넘어, 대화로부터 실제 업무 처리를 이끌어내는 핵심 고리입니다. 엔티티가 없다면 진정한 의미의 비즈니스 자동화는 불가능합니다.

결론: 챗봇에게 세상을 가르치는 즐거움

엔티티를 설계하는 과정은 단순히 소프트웨어의 설정을 만지는 작업이 아닙니다. 우리가 사용하는 언어와 우리 회사가 일하는 방식을 AI에게 가르치는 과정입니다. 잘 설계된 엔티티는 불필요한 질문을 줄여 대화를 자연스럽게 만들고, 개인 맞춤형 서비스를 가능하게 하며, 복잡한 비즈니스 로직을 자동화하는 강력한 엔진이 됩니다.

챗봇의 지능은 설계자가 얼마나 세심하게 비즈니스 세상을 분류해 주었느냐에 달려 있습니다.

여러분의 챗봇에게 가장 먼저 가르쳐주고 싶은 우리 회사만의 핵심 단어는 무엇인가요?

---

 📋 [월간 진미나] 시즌 1을 시작합니다.

– 일시: 매주 목요일 저녁 8시 라이브 강의 및 다시 보기 제공
– 시간: 120분 

🗂️ 주요 내용

• Microsoft Copilot Studio를 활용해 업무 자동화용 AI 에이전트 구축 방법을 단계적으로 배우는 실습 중심 교육입니다.

• Teams 라이브 수업으로 진행되며, 수업 종료 후 VOD 다시보기로 언제든 복습할 수 있습니다.

• FAQ 에이전트 제작부터 HR, Sales, IT, 마케팅 등 실제 기업 업무 시나리오 기반 실습을 진행합니다.

• Power Automate, Teams, SharePoint, M365 Copilot과 연계한 업무 자동화 아키텍처를 직접 구현합니다.

• RAG, MCP, 멀티에이전트 등 최신 AI 에이전트 기술까지 한 번에 이해하는 실전형 프로그램입니다.

  

✅ 맛보기 강의 시청 및 커리큘럼 살펴보기

https://pbl.to/QIz7Aw