'최초 사냥꾼' 케이뱅크, 보안 강한 내부용 AI 언어모델 도입···'인뱅 중 처음'

[한국금융신문 홍지인 기자] 케이뱅크가 인터넷은행 최초로 금융 특화 프라이빗 LLM을 도입하며 ‘AI Powered Bank’로 도약에 나섰다. 올해 초 은행권 최초로 채널계 멀티 클라우드 체계 구축한데 이어 또 한번 금융권 '최초'의 기록을 세우며 IT 경쟁력을 뽐내고 있다.

케이뱅크는 금융 특화 프라이빗 LLM(Large Language Model)을 도입했다고 26일 밝혔다. 인터넷은행 최초다. 지난해 2월 KT·KT클라우드·업스테이지와 업무협약을 체결하고 AI 분야 협업을 강화한 성과다.

프라이빗 LLM은 공개적으로 접근이 가능한 챗GPT, 딥시크 등과 달리 특정 조직이나 기업 내부에서만 사용하도록 설계된 맞춤형 인공지능 언어 모델이다. 공개형 LLM과 비교해 해당 기업이나 특정 분야에 최적화된 것이 특징이다.

프라이빗 LLM은 기업이 원하는 전문 데이터를 학습시켜 보다 정교하고 신뢰성 높은 정보를 생성할 수 있으며 데이터가 외부로 전송되지 않고 내부 서버에서만 운영되기 때문에 보안성이 뛰어나다. 특히 금융 산업은 복잡한 용어와 개념이 많고 보안이 중요한 분야이기 때문에 전문적인 성능과 강력한 보안성을 갖춘 프라이빗 LLM 도입이 더욱 주목받고 있다.

케이뱅크는 이번 프라이빗 LLM 설계를 위해 금융 공공기관, 금융학회 등에서 발표한 책 1억권 분량의 방대한 금융 전문 데이터를 수집했다. 이후 사후 학습(Post-training) 과정을 통해 금융 데이터를 학습시켜 금융 도메인에 대한 전문성을 강화하고 범용적인 언어 처리 능력을 유지하도록 최적화했다.

이를 통해 금융 관련 질문에 대한 정확성을 높이고, 신뢰도 높은 응답을 제공할 수 있도록 개선했다. 또한 공신력 있는 금융 자격시험 23종에서 추출한 데이터로 LLM을 평가해 금융 지식 수준을 측정하고 종합적인 성능도 입증했다.

프라이빗 LLM은 내부 업무 프로세스 혁신과 대고객 AI 서비스 확대 등을 위해 활용될 예정이다.

임직원이 사내 규정과 정보 등을 질문하면 이에 맞는 답변을 안내하는 대화형 인공지능 서비스와 콘텐츠를 요약해 자동으로 보고서를 생성해주는 기능 등을 제공할 계획이다.

대고객 측면에서도 고객의 편리하고 스마트한 금융생활을 지원하는 AI 에이전트(가상비서) 등의 도입을 검토할 예정이다.

케이뱅크는 올해 초에도 은행권 최초로 마이크로소프트 애저(Azure) 클라우드를 채널계에 도입해 채널계 멀티 클라우드 체계를 구축하면서 업계의 주목을 받은 바 있다.

채널계는 은행 뱅킹 시스템 중 하나로 앱 접속과 조회·이체, 상품 가입 등 앱에서 이뤄지는 모든 거래를 담당하는 시스템이다. 인터넷은행은 앱을 통해서만 고객 접점이 형성되는 만큼 채널계의 중요성이 매우 크며, 안정적인 뱅킹 서비스를 제공하기 위해서는 채널계를 효율적으로 운영해야 한다.

이를 위해 케이뱅크는 AWS와 마이크로소프트 애저 클라우드를 모두 사용하는 멀티 클라우드 체계를 구축했다. 멀티 클라우드는 복수의 기업이 제공하는 클라우드를 동시에 사용하는 체계다. 다양한 클라우드를 함께 활용하는 만큼 효율성과 안정성이 뛰어나다.

클라우드는 각 사마다 특장점이 다르기 때문에 여러 클라우드를 사용하면 각각의 이점을 결합해 활용할 수 있고 트래픽이 클라우드 한 곳에 집중되지 않고 분산돼 있어 효율적인 운영이 가능하다.

채널계 멀티 클라우드 도입에 이어 금융 특화 프라이빗 LLM 도입을 선도하면서 국내 금융 시장에 IT혁신을 이끄는 모습이다.

케이뱅크 관계자는 “금융 산업은 높은 보안성과 전문적인 역량을 요하는 만큼 프라이빗 LLM의 활용도가 높다”며 “앞으로도 AI 혁신을 통해 비즈니스 영역을 확장하고 업무 생산성을 강화하며 ‘AI Powered Bank’로 거듭나겠다”고 말했다.

홍지인 한국금융신문 기자 helena@fntimes.com