AI 확산 속 보험업, ‘신뢰·안전’이 핵심 과제로… 리스크 관리부터 에이전트 혁신까지 [코리아 핀테크 위크 2025]

[한국금융신문 강은영 기자] AI 기술이 보험산업 전반을 빠르게 변화시키고 있는 가운데, 생성형 AI 확산에 따른 새로운 위험과 책임성을 어떻게 관리할지가 핵심 과제로 부상하고 있다. 업계 전문가들은 LLM 편향·정보노출·가드레일 우회 등 GenAI 고유의 리스크가 기업 명성과 소비자 안전을 위협할 수 있다고 지적하며, 입력·출력 단계에서의 보안 통제와 지속적 점검 체계 구축을 강조했다.

28일 보험연구원은 서울 양재 aT센터에서 열린 '코리아 핀테크 위크 2025'에서 'AI와 보험 공존을 위한 방안'을 주제로 세미나를 개최했다.

이번 세미나에서는 AI활용에 따른 기술 성과를 넘어, 인간·소비자의 신뢰와 안전을 기준으로 한 원칙과 전략 수립이 중요한 과제로 부상하면서 기술 중심이 아닌 인간·소비자 중심 관점에서 AI와 보험의 공존에 대해 논의했다.

첫 번째 주제 발표로 레티 신(Lettie Sin) AIFT 전략 부대표는 ‘인슈어테크의 AI Risk 관리 전략’이라는 주제로 GenAI 확산과 보험산업의 새로운 위험을 소개하고, 그에 따른 기술적 및 조직적 준비 사항을 제시했다.

그는 "우리는 빠르게 확산되는 생성형 AI의 트렌드를 따라가면서도 그에 수반되는 리스크와 책임성을 반드시 고려해야 한다"며 "대표적으로 LLM이 충분히 훈련돼 있지 않아 허용되지 않는 정보를 노출하거나 문화·언어적으로 편향된 형태로 제공하거나 원하지 않는 의사결정을 유도할 수도 있다"고 설명했다.

레티 신 부대표는 "전통적인 보안은 애플리케이션 자체를 보호하는 데 초점을 뒀지만, GenAI는 입력과 출력 그 자체가 새로운 공격 표면이 될 수 있다"며 "실제 공격 시나리오를 기반으로 AI 모델이 편향·데이터 유출·가드레일 우회에 취약한지 정기적으로 점검하고, AI가 생성하는 입력·출력 단계에서 악의적 프롬프트, 비인가 정보 요청, 민감정보 노출 위험을 실시간으로 탐지하고 자동으로 차단해야 한다"고 조언했다.

두 번째 발표에서 유승재 페르소나AI 대표는 ‘AI Agent와 보험설계사의 공존 전략’이라는 주제로 AI Agent 기반 자동화를 설명하고 Agent-to-Agent(A2A)구조를 인간과의 협업으로 안전하고 책임 있게 구축하는 방법을 논의했다.

유승재 대표는 "지금까지 AI 활용하면서 내부 직원들을 위한 업무 효율화, 고객을 대상으로 한 경우가 많았는데, AI 기술이 나오면서 개발이 됐고 이제는 LLM이 중요한 상황이 됐다"며 "보안 이슈로 인해 LLM을 쓰는 데 한계가 존재했지만, 이제는 샌드박스 사업 등을 통해 많은 금융사가 사용하고 있다"고 밝혔다.

AI 에이전트는 ‘미션’을 주면 스스로 계획을 세우고 여러 에이전트가 협업해 일을 처리하는 구조로, 여러 도구·API·문서를 활용해 일을 수행하는 지능형 자동화 시스템이라고 소개했다.

이처럼 생성형 AI 도입으로 보험 설계·약관 설명·해피콜 등 고객 접점도 크게 달라질 것이라고 내다봤다.

유승재 대표는 “보험 약관과 금융 상품 구조는 설계사도 모두 알기 어려울 정도로 복잡하지만, LLM과 RAG, 이미지 인식 기술을 결합하면 고객의 구어체 질문을 약관·문서에서 찾아 이해하기 쉬운 언어로 다시 설명해 줄 수 있다”며 “AI 상담사는 24시간 동일한 품질로 응대하고, 사람이 하기 부담스러운 질문도 솔직하게 주고받을 수 있다는 점에서 보험사의 업(業) 정의 자체가 바뀌는 전환기가 올 것”이라고 말했다.

강은영 한국금융신문 기자 eykang@fntimes.com