BC카드(대표이사 사장 김영우)가 금융 특화 생성형 AI 서비스의 검색 정확도를 높이는 자체 개발 임베딩(Embedding) 모델을 공개했다고 2일 밝혔다.

최근 금융권에서는 생성형 AI를 활용한 상담 서비스와 사내 업무지원, 문서 검색 등을 적극 도입하고 있다. 하지만 생성형 AI는 모든 정보를 기억하는 방식이 아니라 필요한 정보를 찾아 답변을 생성하는 구조다. 따라서 관련 문서를 얼마나 정확하게 찾아내는지가 AI 서비스의 품질을 좌우한다.

이를 해결하는 핵심 기술이 바로 ‘임베딩 모델’이다. 이 모델은 질문과 문서의 의미를 AI가 이해할 수 있는 좌표값(숫자)으로 변환한다. 의미가 비슷한 정보는 가까이 배치해 가장 관련성이 높은 정보를 찾아 사용자에게 제공한다.

예를 들어 ‘해외결제 수수료는 얼마인가요?’라는 질문을 생성할 경우 AI는 관련 약관 및 문서를 찾은 후 답변을 생성한다. 이때 ‘해외 결제 수수료’라는 단어가 없으면 검색이 실패하지만 임베딩 모델은 ‘해외 이용 수수료’, ‘국제 브랜드 수수료’처럼 표현은 다르지만 의미가 같은 문서를 찾아 AI에게 전달해 준다.

반면 기존 임베딩 모델은 가맹점, 카드 결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 이해하지 못한다는 한계가 있었다. BC카드는 이러한 문제 해결을 위해 오픈소스 플랫폼에 공개했던 182만 건 규모 데이터셋을 활용해 금융 특화 임베딩 모델을 개발했다.

이번에 개발된 모델은 서비스 목적에 맞춰 경량형, 고품질형 2가지 라인업으로 구성됐다.

먼저 경량형 모델은 약 6억(0.6 B)개의 피라미터 규모로 일반 CPU로 이용 가능하다. 이 모델은 공개 직후 글로벌 벤치마크 SOTA(State Of The Art)[1] 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전 세계 1위를 기록했다(2026년 6월 27일 기준).

고품질형 모델은 약 40억(4.0B)개의 파라미터로 GPU 환경에서만 활용할 수 있다. 경량형 모델 대비 10%가량 성능이 뛰어나며, 정밀한 검색이 필요한 업무에 적합하다.

두 모델은 각각 속도와 정밀도를 강점으로 한다. 빠른 응답이 필요한 서비스에는 경량형 모델을, 높은 검색 정확도가 필요한 시에는 고품질형 모델을 선택적으로 적용할 수 있다.

BC카드는 이번 개발 과정에서 단순히 모델 규모를 키우는 것보다 고품질 금융 데이터 학습이 검색 성능 향상에 더욱 중요한 요소라는 점도 확인했다. 이를 통해 금융 AI 서비스의 핵심 검색 기술을 자체 확보했으며 외부 AI 서비스에 금융 데이터를 제공하지 않고도 독자적인 AI 서비스를 운영할 수 있는 기반을 마련했다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해서도 공개할 예정이다. BC카드는 향후 KT 그룹사 AI 서비스 적용을 시작으로 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업도 확대해 나갈 계획이다.

오성수 BC카드 상무(AI데이터본부장)는 “이번 개발은 금융 특화 AI 서비스의 핵심 기술을 자체 확보 및 운영할 수 있는 기술 기반을 마련해 정부의 소버린 AI 기조, 금융위원회가 추진 중인 금융권 AX 가속화 정책과도 부합한다는 점에서 의미가 크다”며 “자체 개발한 금융 특화 모델과 데이터셋을 개방과 공유해 금융권 전반의 AX 저변 확대와 한국형 금융 AI 생태계 구축에 기여할 것”이라고 밝혔다.

[1] SOTA(State Of The Art): 특정 AI 과제에서 공인된 벤치마크를 기준으로 현재 가장 높은 성능을 달성한 최신 기술·모델을 의미. 벤치마크 평가 항목에서 더 높은 성능 모델이 등장 시, 해당 모델이 새로운 SOTA가 되는 등 고정된 모델명이 아니라 ‘현재 최고 성능’을 의미하는 상대적 개념