최우형號 케이뱅크, 클라우드·에이전틱 AI 양날개…R&D 체질개선 [망분리 넘어서는 인뱅]

[한국금융신문 장호성 기자] 최우형

최우형기사 모아보기 행장이 이끄는 케이뱅크는 금융권 망분리 규제 완화를 발판 삼아 인공지능(AI)과 클라우드를 중심으로 개발 체질을 바꾸고 있다.

망분리 환경에서 제한됐던 외부 오픈소스와 생성형 AI 활용의 문턱을 낮춰 개발 단계부터 새로운 기술을 빠르게 시험할 수 있는 환경을 만들고, 내부에서는 금융 특화 거대언어모델(LLM)과 에이전틱 AI를 잇따라 도입하는 식이다.

특히 케이뱅크는 올해 1월 은행권 최초로 내부 업무망과 분리된 클라우드 기반 연구개발망(R&D망)을 구축했다. 새 R&D망에서는 데이터 반입과 생성형 AI 접근성이 개선되면서 AI·빅데이터 기술 검증에서 실제 서비스 적용까지 걸리는 시간을 줄일 수 있게 됐다. 금융권에 적용돼 온 망분리 규제가 단순히 ‘보안 규제’에 그치지 않고 개발 생산성을 좌우하는 변수였다는 점을 보여주는 대목이다.

내부망에 갇혔던 개발자…클라우드 R&D망으로 ‘실험’ 빨라졌다

금융회사 개발환경의 변화는 한 번에 이뤄진 것은 아니다. 이미 금융당국은 2023년 1월부터 이용자의 고유식별정보나 개인신용정보를 처리하지 않는 연구·개발 분야에 대해서는 망분리 예외를 허용하기 시작했다. 금융회사 자체 위험성 평가와 별도의 정보보호 통제를 전제로 개발·테스트 환경부터 규제를 단계적으로 풀겠다는 취지였다.

이어 금융위원회는 2024년 8월 ‘금융분야 망분리 개선 로드맵’을 내놓고 생성형 AI 활용과 클라우드 기반 서비스형 소프트웨어(SaaS) 이용 확대, 연구·개발 환경 개선을 1단계 과제로 제시했다. 외부 인터넷 환경에서 제공되는 상용 생성형 AI까지 금융회사가 활용할 수 있도록 규제 샌드박스를 통한 길도 열었다.

케이뱅크의 클라우드 R&D망은 이 같은 규제 변화 시도가 실제 은행의 개발 인프라 변화로 이어진 대표적인 사례다.

과거에는 제휴사와 서비스를 개발할 때 외부 API를 연동하기 위해 방화벽 설정과 보안심의 등의 절차를 먼저 밟아야 했다. 새로운 API를 붙여보고 품질을 확인하는 초기 검증 단계부터 시간이 소요될 수밖에 없는 구조였다.

클라우드 R&D망에서는 제휴사 API를 개발 초기에 먼저 호출해 성능과 품질을 검증할 수 있다. 시행착오가 발생하더라도 실제 운영망과 분리된 환경에서 빠르게 수정·재검증할 수 있어 PoC에서 상용화까지의 개발 주기를 줄일 수 있다는 게 케이뱅크의 설명이다.

비용절감 효과도 나타났다. 케이뱅크에 따르면 클라우드 방식으로 연구개발망을 구축하면서 자체 서버를 설치하는 온프레미스 방식과 비교해 설비·운영 비용을 약 70% 줄였다. 전산실 공간과 장비를 미리 확보하고 유지해야 하는 방식에서 필요한 만큼 컴퓨팅 자원을 이용하는 형태로 바뀐 영향이다.

망을 열어 개발 자유도를 높이는 대신 보안체계도 강화했다. R&D망에는 이용자를 계속 검증하는 ‘제로트러스트’ 방식을 적용해 인증과 권한 관리, 시스템 접근을 통합하고 악성코드 유입과 비인가 자료 반출을 통제하도록 했다.

망 밖에서는 클라우드, 망 안에서는 ‘금융 AI’ 키운 케이뱅크

케이뱅크의 AI 전략은 외부망 활용에만 머물지 않는다. 민감한 금융정보를 다뤄야 하는 영역에서는 오히려 AI를 내부에 직접 들여놓는 전략을 병행하고 있다.

지난해 2월에는 인터넷은행 최초로 금융 특화 프라이빗 LLM을 도입했다. 공개형 AI와 달리 은행 내부에서만 작동하는 모델로, 금융 공공기관과 학회 등의 전문자료를 포함해 케이뱅크가 수집한 금융 데이터를 학습시켰다. 외부로 정보를 내보내지 않으면서도 생성형 AI를 업무에 활용하기 위한 선택이었다.

같은 해 9월에는 생성형 AI를 활용한 ▲앱 번역 ▲상담 Assistant ▲내부 업무 생산성 향상 등 3개 서비스를 혁신금융서비스로 지정받았다. 내부 생산성 향상 서비스는 문서 작성과 정보 탐색뿐 아니라 코드 생성까지 지원하도록 설계됐다.

올해 들어서는 실제 업무 적용 속도도 빨라졌다. 2월 구축한 고객센터 전용 ‘AI 비서’에는 앞서 개발한 금융 특화 프라이빗 LLM을 활용했다. 고객 상담 내용을 실시간 분석해 질문 의도를 파악하고 지식관리시스템(KMS)의 정보를 찾아 답변을 제안한다. 케이뱅크는 AI 도입 후 상담 한 건당 평균 처리시간이 종전보다 1분 이상 줄었다고 설명했다.

4월에는 AI와 데이터를 활용해 개인사업자(SOHO) 신용평가모형도 고도화했다. 사업 운영 이력과 사업체 정보, 거래데이터까지 평가에 반영하고 대용량 데이터 분석과 반복 점검 작업을 AI 기반으로 자동화했다. 케이뱅크의 개인사업자 대출 연체율은 2024년 말 1.83%에서 2025년 말 0.60%로 낮아졌다.

“코딩은 AI가”…에이전틱 AI가 사내 규정까지 찾아준다

최근에는 생성형 AI를 넘어 스스로 작업 순서를 판단하고 수행하는 ‘에이전틱 AI(Agentic AI)’까지 개발환경에 투입했다.

케이뱅크가 지난 8월 도입한 에이전틱 AI는 단순히 개발자의 질문에 코드를 제시하는 수준을 넘어 시스템 구조를 분석하고 개선 방안을 제안한다. 개발자가 만들고 싶은 서비스 기능을 입력하면 필요한 기능을 설계하고 코드를 생성하며 기존 프로그램에 문제가 없는지 물으면 시스템을 분석해 보완 방향까지 제시하는 방식이다.

이번 시스템의 특징은 사내망과의 결합이다. 에이전틱 AI가 케이뱅크 내부에 구축돼 있어 상품 담당자와 내부 규정, 개발 표준, 업무 양식 등의 사내 데이터까지 검색할 수 있다. 개발자가 새로운 기능을 만들면서 별도로 담당 부서를 찾거나 규정을 일일이 검색하지 않고 AI에게 질문해 개발과 컴플라이언스 정보를 동시에 확인할 수 있는 구조다.

실제 활용량도 상당하다. 두 달간의 시범운영에서 개발자 50명이 약 40억 토큰을 사용했다. 케이뱅크는 이를 개발자 한 명이 하루에 300쪽 분량의 책 10권을 읽고 분석하는 수준의 텍스트 처리량이라고 설명했다. 추후 사내 시스템과의 연결을 넓히고 연내 구축할 GPU 플랫폼을 활용해 에이전틱 AI의 성능도 높일 예정이다.

장호성 한국금융신문 기자 hs6776@fntimes.com