규칙이 공개되면 스팸은 피해 간다

스팸 필터 앱을 직접 만든 한 개발자의 회고가 인상적이었습니다. 키워드 차단 앱을 1년 넘게 썼는데, 막아도 막아도 키워드 변형으로 회피해 문자함에 꽂히는 모습에 지쳐서 직접 AI 필터를 만들었다는 내용이요.

이 경험이 스팸 필터링의 구조적 문제를 정확히 보여줍니다.

키워드 필터가 지는 이유

키워드·번호 기반 차단은 규칙이 명확합니다. "투자"라는 단어가 들어가면 막는다, 이 번호는 막는다. 예측 가능하고 오탐을 설명하기도 쉽습니다.

문제는 규칙이 드러나면 우회된다는 점입니다. "투자"가 막히면 "투 자", "투.자", "T자"로 바꿉니다. 스패머 입장에서 비용이 거의 없는 대응이죠. 번호를 막으면 번호를 바꾸고요.

이건 일방적인 싸움입니다. 방어자는 변형을 하나하나 추가해야 하는데 공격자는 무한히 만들어낼 수 있으니까요. 16일차 이메일 인증 글에서 스팸 필터의 역사를 짧게 다뤘는데, 문자에서도 같은 군비 경쟁이 일어난 겁니다.

AI 필터로의 이동

그래서 방향이 규칙을 정하는 것에서 패턴을 배우는 것으로 바뀌었습니다.

삼성전자가 갤럭시에 적용한 '인텔리전스로 차단' 기능은 한국인터넷진흥원(KISA)에 신고된 월평균 약 500만 건의 데이터로 학습했습니다. 해외 발신 스팸 신고도 함께요. 그리고 한 해 동안 이 기능으로 1억 건 이상을 차단했다고 밝혔습니다.

AI 필터의 강점은 글자가 바뀌어도 의미를 본다는 점입니다. "투 자"든 "T자"든 문맥상 투자 권유라는 패턴은 같으니까요. 공격자가 우회 비용을 더 치러야 하는 구조가 됩니다.

통신사도 비슷하게 갑니다. 통신 3사 모두 AI 기반 필터를 도입했고, 정부는 민관협의체를 통해 AI 필터링 고도화와 무효번호 차단, 해외발 스팸 대응을 함께 추진하고 있습니다.

프라이버시라는 트레이드오프

여기서 중요한 질문이 생깁니다. AI가 스팸을 판단하려면 문자 내용을 봐야 합니다.

앞서 언급한 개발자 앱의 경우에도 사용자 질문이 바로 이거였습니다. "온라인 AI 모드를 쓰면 문자 내용이 서버로 다 가는 건가요?" 개발자는 매우 제한된 상황에서만 서버로 넘어간다고 답했고요.

이게 5일차 온디바이스 AI 글에서 다룬 문제와 정확히 맞닿습니다. 스팸 필터는 모든 문자를 다 봐야 하는 기능이라, 클라우드로 처리하면 사용자의 모든 메시지가 외부로 나갑니다. 그래서 삼성이 기기 내(On-Device) AI로 처리한다고 강조하는 거죠.

보이스피싱 탐지는 더 민감합니다. 삼성은 경찰청과 국과수 데이터 약 3만 건으로 학습해 통화 중 실시간으로 의심 여부를 탐지하고 2단계 경고를 띄웁니다. 통화 내용을 AI가 듣는다는 뜻인데, 이것도 기기 안에서 처리되기 때문에 가능한 설계입니다.

같은 기능이라도 처리 위치가 신뢰를 결정합니다. 서버에서 하면 감시가 되고, 기기에서 하면 보호가 됩니다.

신고가 필터를 키운다

AI 필터의 학습 데이터가 신고에서 나온다는 점은 실용적으로 의미가 있습니다. 사용자가 신고할수록 필터가 정확해집니다.

받은 스팸을 그냥 지우는 것과 신고 버튼을 누르는 것은 결과가 다릅니다. 신고된 데이터가 KISA로 모이고, 그게 다시 필터 학습에 쓰이니까요. 46일차 확률형 아이템 글에서 "이용자가 표본을 모아 검증하는 구조"가 감시 기능을 했다고 썼는데, 여기서도 이용자 참여가 시스템을 작동시킵니다.

근본 원인 쪽

필터는 들어온 것을 걸러내는 방어입니다. 그런데 스팸의 상당수는 우리가 무심코 한 동의에서 시작됩니다.

인터넷 가입, 쇼핑몰 회원가입 때 체크된 마케팅 수신 동의가 대표적입니다. 23일차 다크패턴 글에서 다룬 "특정 옵션 사전 선택"이 정확히 이 지점이죠. 금융기관 마케팅 전화는 두낫콜(donotcall.or.kr)에서 일괄 거부할 수 있습니다.

정리

스팸 필터링은 규칙과 우회의 군비 경쟁이었고, AI가 그 균형을 방어 쪽으로 조금 옮겨놓았습니다. 다만 그 대가로 "내 메시지를 누가 보는가"라는 질문이 생겼고, 답은 처리 위치에 달려 있습니다.

개인적으로 할 수 있는 건 단순합니다. 폰과 통신사의 차단 기능을 켜고, 받은 스팸은 신고하고, 불필요한 마케팅 동의를 정리하는 것. 신고가 쌓일수록 모두의 필터가 좋아진다는 점에서 이건 개인 방어이면서 공동 방어이기도 합니다.