토스증권, AI 기반 커뮤니티 검수 체계 도입…"이용자 보호 강화"

[한국금융신문 정선은 기자] 토스증권(대표 김규빈)이 커뮤니티 내 욕설·비방, 불법 리딩방 홍보 등을 걸러낼 수 있는 인공지능(AI) 기반 게시글 검수 체계를 도입한다.

불쾌감을 주는 게시글·부적절한 투자 권유 노출 줄여"

토스증권은 4일 자사 커뮤니티에 AI 기반 검수 체계를 도입한다고 밝혔다.

게시글의 내용과 맥락까지 종합적으로 분석한다. 기존 금지어 중심의 필터링 방식에서 나아간 것이다.

게시글 작성 또는 수정 후 제목과 본문, 이미지를 자동으로 분석한다.

욕설이나 비방, 혐오·차별 표현을 비롯해 불법 리딩방 홍보 등 콘텐츠를 탐지한다.

검수 결과에 따라 위반 정도를 판단하고 게시글 추천 제외나 숨김 등의 조치를 적용한다.

이용자들이 자주 사용하는 금지어의 우회 표현까지 폭넓게 탐지하고, 다양한 변형 표현도 걸러낼 수 있도록 했다. 기존에는 금지어가 포함되면 글 작성이 제한됐지만, 이제는 해당 표현만 마스킹 처리해 게시할 수 있다.

아울러, 욕설 및 유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등 제한 대상과 제재 기준을 담은 ‘커뮤니티 서비스 콘텐츠 가이드라인’을 신설했다.

게시글 숨김 조치 시에는 제재 여부를 보다 명확하게 안내하고, 고객센터를 통한 이의제기 절차도 제공한다.

토스증권 관계자는 “투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다”며 “투자자들이 유용한 정보를 나누고 다양한 의견을 교환할 수 있도록 커뮤니티 환경을 지속적으로 개선해 나가겠다”고 말했다.

윤리·준법경영 힘 싣는 토스증권

토스증권은 올해 연임에 성공한 김규빈 대표이사 체제에서 성장에 걸맞은 윤리·준법경영에 중점을 두고 있다.

특히 지난 10월 전 임직원이 참여한 가운데 '윤리·준법경영 선포식'을 개최했다. 준법역량을 인사 평가와 보상에 반영하고, 대표이사가 직접 내부통제 점검 TF(태스크포스)를 이끌고 있다.

정선은 한국금융신문 기자 bravebambi@fntimes.com