|
새 시스템은 이용자가 게시글을 작성하거나 수정하는 즉시 제목, 본문, 첨부 이미지 등을 실시간으로 다각 분석한다. 혐오·차별적 언사와 욕설, 비방성 글은 물론 개인투자자 피해를 야기하는 불법 리딩방 광고 등 유해 콘텐츠를 AI가 자동으로 가려낸다. 위반 수위에 따라 해당 게시글을 추천 대상에서 제외하거나 즉시 숨김 처리하는 등 세분화된 후속 제재가 이뤄진다.
글 작성 시 작동하는 사전 필터링 기능도 대폭 개선됐다. AI 알고리즘을 통해 자음·모음 분리나 특수문자 삽입 등 금지어를 우회하는 갖가지 변형 표현까지 촘촘히 적발해 낸다. 종전에는 금지어가 포함되면 게시글 등록 자체가 차단돼 불편을 겪었지만, 개편 이후에는 부적절한 단어만 별도 마스킹(음영·기호) 처리돼 정상 등록된다. 글 작성 단계의 사전 필터링과 등록 후 AI 사후 검수가 결합된 ‘이중 방어선’을 구축한 셈이다.
아울러 제재 기준의 투명성을 높이기 위해 ‘커뮤니티 서비스 콘텐츠 가이드라인’을 새롭게 정립했다. 시장질서 교란 행위나 불법 홍보물 등 구체적인 제재 대상과 수위를 규정했으며, 게시글이 숨김 처리될 경우 소명 기회를 제공하는 고객센터 이의제기 절차도 함께 마련했다. 최근 여타 금융 플랫폼에서도 커뮤니티 내 허위 정보 유포와 사기성 리딩방 폐해가 심각해진 만큼, 토스증권의 선제적인 가이드라인 마련이 업계 전반의 자율규제 기준을 한 단계 끌어올릴지 주목된다.
토스증권 관계자는 “투자자들이 악성 게시물이나 부당한 투자 유혹에 노출되는 위험을 최소화하고, 클린한 소통 공간을 제공하는 데 주력했다”며 “앞으로도 이용자들이 안심하고 유익한 금융 정보를 공유할 수 있도록 커뮤니티 모니터링 및 기술 고도화를 지속해 나가겠다”고 강조했다.
