BC카드, AI 인프라 효율 극대화 위해 ‘레드 햇 오픈시프’ 플랫폼 도입

<사진=BC카드>

BC카드가 AI서비스 개발 생산성 향상 및 인프라 운영 효율성 증대를 위해 엔터프라이즈 급 컨테이너 플랫폼을 도입했다고 13일 밝혔다.

‘엔터프라이즈 급 컨테이너 플랫폼’이란 다양한 애플리케이션을 효율적으로 개발하고 안정적으로 운영할 수 있도록 지원하는 통합 관리 시스템이다.

BC카드는 향후 더욱 복잡해질 AI서비스 운영 환경에 대비하기 위해 Red Hat OpenShift(이하 ‘오픈시프트’)와 Red Hat OpenShift AI(이하 ‘오픈시프트 AI’)를 도입했다.

‘오픈시프트’는 애플리케이션 배포와 관리를 더욱 쉽게 하고, 다양한 개발 및 운영 도구를 통합해 제공하는 플랫폼이며, ‘오픈시프트AI’는 다수의 GPU 서버를 효율적으로 자동 관리할 수 있어 거대 언어모델(LLM)이나 고성능 AI 추론 환경 구축에 특화됐다.

BC카드는 최근 AI를 활용한 ▲신규 가맹점 업종 분류 자동화 ▲커뮤니티 기반 쇼핑 정보 추천(AI 핫딜) ▲구매 패턴 기반 상품 추천(리빙플러스) 등 10여 종의 서비스를 자체 개발 및 운영해 왔다. 그러나 다양한 AI프로젝트가 늘어나면서 GPU 사용량이 증가해 학습과 추론 속도, 인프라 효율성을 개선할 필요가 커졌다.

‘오픈시프트’ 도입을 통해 BC카드는 AI 프로젝트 실험과 검증 속도를 높이고, 서비스 안정성과 확장성을 크게 강화할 수 기반을 마련할 수 있게 됐다. 이를 기반으로 내부 LLM 프로젝트 배포 주기를 단축하고 업무 효율화, 리스크 분석, 내부 지식 검색 등 주요 업무에서 AI 서비스 실용화도 가속화할 수 있게 됐다.

여기에 BC카드가 국내 최초로 도입한 ‘오픈시프트AI’는 기존 컨테이너 플랫폼에 AI 개발 및 운영에 특화된 기능과 환경을 추가한 전용 솔루션으로, AI 프로젝트를 보다 효율적이고 체계적으로 수행할 수 있도록 지원한다.

최원석 BC카드 사장은 “오픈시프트AI 도입을 통해 GPU 자원 활용을 최적화하고 LLM 학습 및 추론 환경을 개선함으로써 AI 인프라 운영의 안정성과 효율성을 크게 향상시켰다”며 “향후 핵심 업무 영역 전반에서 AI 기술 적용을 확대해 디지털 경쟁력을 지속적으로 강화해 나갈 계획”이라고 밝혔다.

김경상 한국 레드햇 사장은 “레드햇은 기업이 오픈소스 기술을 활용해 AI를 도입하고 확산할 수 있도록 지원하고 있다”며 “BC카드의 AI전략을 보다 유연하고 효율적으로 실행하고, 실질적인 비즈니스 가치창출을 위해 지속적으로 지원해 나갈 계획”이라고 말했다.