1. 다양한 문서 대응 및 청킹 전략
CXP는 pdf 문서 외에도 hwp, docx, ppt, xlsx, txt, html, eml, 이미지 파일에 이르기까지 다양한 데이터를 지식베이스로 구축하여 인덱싱할 문서로 활용이 가능합니다. 인덱싱되는 파일 개수에는 제한이 없으며 각 문서는 메타정보 활용, 문맥 단위 청킹 등 랭코드만의 다양한 청킹 로직에 따라 중요한 정보의 소실 없이 세밀하게 청킹되고 인덱싱됩니다.
또한 엔터프라이즈 기업 문서에는 표 정보가 매우 많은데, 문서 내에서 표가 전달하는 의미를 놓치지 않도록, 감지된 표 부분을 특수 테이블 처리를 하여 인덱싱까지 제대로 전달이 될 수 있게 처리합니다.
2. 하이브리드 서치와 Reranking으로 답변 정확도 강화
CXP는 더 정확한 답변 및 생성 결과를 위해서 벡터 서치와 시멘틱 서치를 모두 활용할 수 있는 하이브리드 서치를 사용합니다.
검색 단계에서 비슷한 주제의 문서가 많거나 동일 문서의 수정본들이 있을 경우 Reranking 작업을 통해 문맥에 맞는 근거를 찾아 정확도를 강화하고, 사용자가 직접 문서 간 우선순위를 부여하거나 현행 파일을 선택할 수 있도록 하여 AI 봇이 더욱 사용자 맞춤 지식베이스를 특정할 수 있도록 합니다.
생성 단계에서는 각 고객사 도메인에 맞게 정교하게 테스팅된 프롬프트가 제공됩니다. 사용자가 다양한 필요에 맞는 개인용 프롬프트를 직접 작성할 수도 있고, 이 과정에서 AI를 통해 적절한 프롬프트를 작성하게 지시할 수도 있어 경사보다 훨씬 좋은 편의성과 정확도를 제공합니다.
3. 보안 및 거버넌스
랭코드의 AI 기반 PII Detection 기능과 프롬프트 엔지니어링을 활용하여 개인 민감 정보를 세 단계에 걸쳐 처리합니다. 문서 업로드 시, 사용자 질문 시, LLM의 생성 시 개인 정보를 감지하여 사용자에게 알림을 주거나 관리자가 관리 가능하도록 조치하여 개인 식별 정보가 철저하게 관리 될 수 있게 합니다.
또한 CXP 내 각 문서의 이용은 늘 권한 정보를 확인하는 형태로 존재합니다. 사용자의 직급 및 권한에 따라 LLM의 생성 기능을 다르게 조정할 수 있습니다. 생성된 AI 봇의 이용 권한을 사용자의 역할 및 직급에 따라 차별적으로 이용하는 것도 가능합니다.
4. 프롬프트 엔지니어링 등으로 환각 감소
하이브리드 서치와 고객사 맞춤형 프롬프트 엔지니어링으로 AI가 받아들이는 사용자 질문의 이해도를 높이고, 답변 생성 과정에서도 잘못된 정보나 가짜 정보가 들어가지 않도록 차단합니다.
뿐만 아니라 피드백 루프를 통한 강화 학습과 HITL 테스트를 통해 지속적으로 AI 모델이 개선되며 복합 테스트를 통한 답변 최적화 작업으로 환각 현상을 현저히 줄입니다.