🦄 TX(Total eXperience) Insight 구독자 여러분, 안녕하세요?
매달 셋째 주에 만나는 랭코드 Newsletter입니다. 이번 주는 🌾추석🍂 연휴로 한 주 늦게 찾아왔습니다.
지난 9월, 월트디즈니는 업무용 메신저 ‘슬랙’에서 1테라바이트(TB)가 넘는 사내 데이터 유출 사건 이후, 슬랙 사용을 중단하기로 결정했습니다. 해킹 그룹 널버지(NullBulge)가 디즈니의 슬랙 채널 수천 개를 해킹해 5년 간의 코드와 미공개 프로젝트 정보를 탈취한 사건이 그 원인이었습니다.
8월에는 OpenAI의 ChatGPT가 데이터 유출 사고를 겪었습니다. 오픈 소스 라이브러리의 취약점을 악용한 해킹으로 인해 사용자들의 채팅 기록과 일부 결제 정보가 유출되었고, 이는 AI 기술의 보안 취약점이 기업에 큰 위험을 초래할 수 있음을 다시 한 번 보여준 사례입니다.
지난 뉴스레터에서는 산업별 GenAI 비즈니스 생태계에 대해 소개해 드렸는데요, 이번 호에서는 각 산업별로 발생할 수 있는 AI 리스크와 이러한 위협에 대응하기 위한 효과적인 전략을 다루고자 합니다. AI 기술이 발전하며 보안 및 안전성 강화의 중요성도 더욱 커지는 만큼 AI 기술의 안전한 도입 및 활용의 극대화를 위해 어떤 준비를 해야 할지 살펴보겠습니다.
|
|
AI Index Report 2024에 따르면, 글로벌 설문 조사에서 기업들이 AI 도입 시 가장 우려하는 주요 사항은 네 가지로 요약됩니다. 이는 1)개인정보 보호 및 데이터 거버넌스, 2)투명성 및 설명 가능성, 3)보안 및 안전, 그리고 4)공정성입니다. 이 네 가지 요소는 AI 기술이 사회에 긍정적인 영향을 미치기 위해 반드시 고려되어야 할 책임 있는 AI의 핵심 영역입니다.
| 미국의 ‘레드팀’ 검증 의무화
미국은 이러한 우려에 대응하기 위해 2024년 10월, AI 개발사들이 제품이나 서비스를 출시하기 전에 AI 시스템의 보안 및 취약점을 전문적으로 테스트하는 ‘레드팀’ 검증을 의무화하는 행정명령을 발표했습니다. 이는 AI 기술이 갖는 잠재적 위험을 최소화하고, 신뢰성 있는 AI 시스템을 개발하기 위한 중요한 조치입니다. 또한, 국립표준기술연구소(NIST)를 통해 AI 보안 및 안전성 강화를 위한 표준 및 기술 개발을 촉진하고 있습니다. 이를 통해 AI 시스템의 투명성과 안전성을 높이고, 미국 내 AI 생태계의 신뢰도를 강화하고자 합니다.
| 유럽의 GDPR과 AI Act
유럽은 이미 GDPR(일반 개인정보 보호 규정)을 통해 데이터 보호와 개인정보의 권리에 대한 엄격한 규제를 시행하고 있으며, 여기에 더해 AI 규제법(AI Act) 도입을 추진하고 있습니다. AI Act는 AI 기술의 사용을 위험 수준에 따라 분류하고, 높은 위험도를 가진 AI 시스템에 대해서는 엄격한 규제와 투명성을 요구합니다. 유럽은 이를 통해 AI 기술의 잠재적 위험을 최소화하고, 개인정보와 기본권 보호를 강화하려 하고 있습니다.
미국과 유럽의 이러한 대응 방안은 기업들이 AI 기술을 도입할 때 반드시 고려해야 할 중요한 기준이 됩니다. 한편 AI가 다양한 산업에서 활용됨에 따라, 각 산업별로 발생할 수 있는 리스크도 조금씩 다르게 나타나고 있습니다. 다음 섹션에서는 금융, 보험, 소비자 분야에서의 AI 리스크와 그에 대한 대응 방안을 살펴보겠습니다. |
| Industry: Finance
금융업계는 AI 기술을 도입함에 있어 가장 엄격한 규제와 감시가 요구되는 분야입니다. 다른 어떤 분야보다 서비스의 신뢰성과 안전성을 보장하는 것이 매우 중요하기 때문입니다. 우리금융경영연구소의 “ 금융업계 AI 확산 리스크와 대응방안” 리포트에 따르면, 금융업에서의 주요 AI 리스크는 세 가지로 나뉩니다: 데이터 관련 리스크, 산출물 관련 리스크, 시장 변동성 리스크
1. 데이터 관련 리스크
개인정보 유출과 데이터 편향, 악의적인 데이터 조작 등은 AI 모델의 신뢰성을 훼손할 수 있습니다. 금융기관은 AI 학습에 사용하는 데이터의 품질과 보안, 데이터 유출을 방지하기 위한 노력이 필요합니다.
2. 산출물 관련 리스크
생성형 AI는 사실이 아니거나 오류가 포함된 답변을 제시할 수 있습니다. 이로 인해 잘못된 금융 의사결정이 이루어질 수 있으며, 결과물에 대한 지속적인 검증과 팩트체킹이 필수적입니다.
3. 시장 변동성 리스크
다수의 금융기관이 유사한 AI 모델을 활용해 투자 결정을 내릴 경우, 시장의 동조화와 변동성 확대가 발생할 수 있습니다. 이를 방지하기 위해 AI 모델의 다양화와 리스크 관리 체계를 강화해야 합니다.
이 리포트에서는 이러한 문제에 따른 대응 방안을 아래와 같이 제시합니다. |
|
| Industry: Insurance
국내 보험시장의 경우 AI 기술 도입을 통해 보험금 지급심사, 콜센터 분석 등 다양하게 활용되고 있는 만큼 다양한 리스크도 존재합니다. 보험연구원의 " 생성형 AI 시대, 보험산업의 AI 활용" 보고서에 따르면, 보험업계에서 주목해야 할 AI 리스크는 크게 세 가지입니다 : 설명 가능성 및 신뢰성, 개인정보 보호 및 사이버 보안, 악의적 사용 및 오정보 생성
1. 설명 가능성 및 신뢰성 리스크
AI 모델의 복잡한 알고리즘은 의사결정 과정이 불투명하여 설명 가능성에 문제가 있을 수 있습니다. 특히 생성형 AI는 환각(Hallucination) 현상으로 인해 사실과 다른 정보나 잘못된 답변을 제공할 수 있습니다. 이는 보험 계약 심사나 보상 처리 과정에서 고객 신뢰를 저하시킬 수 있습니다.
2. 개인정보 보호 및 사이버 리스크
보험업은 민감한 고객 정보를 다루기 때문에 AI 도입 시 이에 대한 개인정보 유출과 사이버 공격 위험이 커집니다. 특히, AI 모델이 의료 기록이나 재무 정보를 처리할 때 데이터 유출이 발생하면 기업의 신뢰도와 법적 책임이 문제될 수 있습니다.
3. 악의적 사용 및 오정보 생성 리스크
생성형 AI가 악용될 경우 허위 정보를 생성하거나 보험 사기 등에 사용될 수 있습니다. 예를 들어, 보험 청구 과정에서 잘못된 정보가 생성되거나, 의도적으로 왜곡된 정보가 확산되어 산업 전반에 혼란을 초래할 수 있습니다.
이 리포트에서는 AI 활용에 따른 위험 발생 방지를 위한 글로벌 규제와 보험회사의 대응방안을 아래와 같이 제시합니다. (Geneva Association, 2023, 재인용) |
|
| Industry: Consumer
소비자 산업은 소매, 자동차, 숙박, 외식, 여행 등 다양한 부문을 포함하며, AI 도입을 통해 운영 효율성 및 고객 경험을 혁신하고 있습니다. 그러나 딜로이트 AI 연구소에서 발표한 인공지능(AI) 활용서에 따르면, 소비자 분야에서 AI 도입 시 주요 리스크는 다음과 같습니다: 데이터 품질 및 확장성, 조직 내 협업 문제, AI에 대한 신뢰 부족
1. 데이터 품질 및 확장성 리스크
소비자 산업의 기업들은 다양한 레거시(legacy) 시스템과 분산된 데이터 구조를 갖추고 있어, AI 모델 학습에 필요한 고품질 데이터를 확보하는 데 어려움을 겪습니다. 이러한 데이터 품질의 문제는 AI 모델의 성능 저하로 이어지며, 일관성 없는 결과물을 초래할 수 있습니다.
2. 조직 내 협업 문제
AI 도입 시, IT 부서와 사업부서 간의 협력이 부족하면 AI 프로젝트가 별개의 부서에서 고립적으로 운영될 수 있으며, 이는 AI 시스템의 효과적 활용을 저해합니다. 이러한 부서 간 간극은 AI 프로젝트의 성과를 제한하고, 기업 내 AI 도입 속도를 늦출 수 있습니다.
3. AI에 대한 신뢰 부족 리스크
소비자 산업에서는 AI 기술의 활용 범위와 잠재력을 이해하지 못하는 경우가 많으며, 이는 AI에 대한 신뢰 부족으로 이어집니다. 기업 내부에서 AI가 수행할 수 있는 역할과 한계에 대한 명확한 이해가 부족하면 AI 도입에 대한 저항이 발생할 수 있습니다.
이 리포트에서 제시하는 소비자 분야의 대응 방안을 정리하면 아래와 같습니다. |
| 랭코드 CXP의 컴플라이언스 전략
랭코드의 CXP 솔루션은 앞서 논의된 데이터 거버넌스 및 보안, 안전 등의 핵심 전략을 종합적으로 구현하여, 기업의 생성형 AI 도입을 안전하게 지원합니다. 이 혁신적인 플랫폼은 데이터 보안과 AI 성능 최적화 사이의 균형을 유지하며, 다음과 같은 전략을 제공합니다 |
1. 재학습 방지
CXP는 Azure Open AI에서 관리하는 GPT 시리즈 모델을 CXP의 기본 LLM으로 제공 합니다. 이는 OpenAI의 ChatGPT와 달리 기업 내 정보를 지식베이스로 사용하면서도 AI 모델의 성능 개선을 위해 그 정보를 사용하지 않기 때문에, 기업 환경에서 안전하게 사용할 수 있는 서비스입니다. 랭코드는 자체 개발한 Advanced RAG 구조를 통해 사용자 피드백을 활용, AI 봇의 답변 정확도를 개선합니다. 이는 Fine-tuning과 달리 LLM에 기업 정보를 직접 학습시키지 않고 실시간으로 참조만 하는 방식으로, 기업의 민감 정보나 개인 정보 유출을 원천적으로 방지합니다. 결과적으로 CXP는 높은 성능을 유지하면서도 기업 환경에서 안전하게 사용할 수 있는 AI 솔루션을 제공합니다.
2. 역할 기반 접근 제어(RBAC, Role-Based Access Control)
RBAC는 사용자에게 특정 역할을 할당하고, 그 역할을 기준으로 데이터와 리소스에 적합한 접근 권한을 부여하는 보안 메커니즘입니다. CXP는 4가지 권한 레벨(관리자, 봇 마스터, 봇 매니저, 일반 사용자) 및 필요 시 추가 가능한 커스텀 권한을 통해 데이터와 기능에 대한 접근을 세밀하게 제어하며, 각 기업의 고유한 보안 요구사항에 부합하는 관리 환경을 제공합니다. 이러한 차별적인 권한 체계는 AI 봇 접근 뿐만 아니라 동일한 AI 봇 내에서도 사용자 권한에 따라 접근 가능한 정보를 엄격히 구분합니다. 이를 통해 기업의 컴플라이언스 정책을 준수하면서, 데이터 보안을 한층 강화합니다.
3. 실시간 모니터링(TBD)
CXP는 모든 사용자 상호작용과 시스템 활동을 실시간으로 로깅하고 분석합니다. AI 데이터 수집-처리-활용 의 단계를 투명하게 보여줌과 동시에 이를 통해 비정상적인 데이터 접근이나 사용 패턴을 실시간으로 확인이 가능합니다. 이러한 포괄적인 감시 체계는 데이터의 전체 라이프사이클에 걸친 완벽한 가시성을 제공하며, 잠재적인 보안 위협이 감지될 경우 관리자는 즉시 추적할 수 있습니다. 이를 통해 보안 사고에 대한 신속하고 효과적인 대응이 가능하며, 데이터 유출 및 무단 접근의 위험을 크게 줄일 수 있습니다.
우리는 보안과 컴플라이언스 측면에서 지속적으로 글로벌 스탠다드에 부합하는 솔루션을 제공하기 위해 노력해 왔으며, 기업의 다양한 요구에 맞춘 신뢰할 수 있는 Enterprise-Ready 솔루션을 제공합니다. 지금까지 논의된 리스크에 대비한 랭코드의 GDPR 컴플라이언스 전략을 아래 링크를 통해 자세히 확인해보세요! |
📢 [SBA | 2024 글로벌 진출 프로그램] 선정
CXP의 차별화된 기술력과 벤츠, 샤넬등의 글로벌 기업과의 협업 성공사례를 높이 평가 받아 유망 스타트업에 선정, 엑셀러레이터와 연계하여 독일 글로벌 기업(루프트한자, 막시온 등)과 기술 현지 상용화 검증 예정 |
<산업별 AI 리스크와 대응 방안 > 주제로 한 랭코드의 열 일곱번째 TX Insight는 유익하셨나요?
랭코드는 뉴스레터를 통해
최신의 소식 및 인사이트를 여러분과 함께 나누고자 합니다.
10월에는 더욱 알찬 소식으로 찾아뵙겠습니다. 👋
🦄 랭코드 Business Develop Team 드림
|
|
|
|
|