알고리즘을 공개하면 투명해질까

"알 수 없는 알고리즘이 나를 여기로 이끌었다"는 댓글이 유행어가 된 지 오래입니다. 그런데 정작 그 알고리즘을 공개하라는 법안이 나오면 문제가 해결될까요.

올해 국회에서 추천 알고리즘 규율 입법이 잇따라 발의됐습니다. 설계 기준 공개와 영향평가 의무화가 골자고, 투명성 확보와 정보 공개 의무를 이행하지 않으면 국내 총매출액의 3% 또는 10억원 중 더 큰 금액을 과징금으로 부과하는 안이 포함됐습니다.

이 논의가 왜 간단하지 않은지 정리해봤습니다.

추천은 어떻게 만들어지나

콘텐츠 기반 필터링은 내가 본 것과 비슷한 항목을 추천합니다. 취향은 맞지만 새로운 걸 만날 일이 없어서 금방 지루해집니다.

협업 필터링은 나와 비슷한 사용자가 본 것을 추천합니다. 발견이 잘 되는 대신 인기 항목으로 쏠리는 경향이 있습니다.

행동 신호 반영이 실제로는 가장 강력합니다. 클릭 여부만 보는 게 아니라 체류시간, 완주율, 되감기 같은 반응 자체를 학습합니다. 사용자가 "좋다"고 말한 것과 실제로 오래 본 것이 다를 때, 시스템은 후자를 믿습니다.

여기가 논쟁의 뿌리입니다. 목표 함수가 "사용자가 만족하는가"가 아니라 "사용자가 계속 보는가"로 설정되면, 결과가 자극적인 방향으로 기울기 쉽습니다. 나쁜 의도가 아니라 지표를 최적화한 결과로요. 2일차 토큰맥싱 글에서 다룬 굿하트의 법칙과 같은 구조입니다.

공개가 답이 되기 어려운 이유

그래서 투명성 요구가 나오는 건 자연스럽습니다. 문제는 무엇을 어떻게 공개하느냐입니다.

학계에서 반복적으로 지적되는 대목이 있습니다. 고도화된 신경망은 의사결정이 블랙박스 구조라, 알고리즘 공개 자체가 불가능하거나 공개해도 분석에 상당한 시간이 걸릴 수 있다는 것입니다. 결국 제도가 유명무실해질 가능성이 있다는 지적이죠.

실제로 추천 모델의 가중치 파일을 공개한다고 해서 "왜 이 영상이 내게 떴는지"를 알 수 있는 건 아닙니다. 수억 개 파라미터의 상호작용을 사람이 읽어낼 방법이 없으니까요. 소스코드를 공개해도 사정은 비슷합니다. 학습 데이터와 실시간 신호가 결과를 결정하는데 그건 코드에 없습니다.

그래서 논의의 무게중심이 "알고리즘 공개"에서 "결과에 대한 설명과 통제권"으로 옮겨가고 있습니다.

EU의 접근: 통제권

EU 디지털서비스법(DSA)이 택한 방향이 이 점에서 참고할 만합니다. 정보 제공을 넘어 사용자가 추천 시스템의 주요 매개변수 설정을 바꾸거나, 프로파일링에 기반하지 않은 추천 옵션을 선택할 수 있게 하는 데 초점이 있습니다.

쉽게 말하면 "우리 알고리즘은 이렇게 생겼습니다"가 아니라 "개인화를 끄고 볼 수 있습니다"에 가깝습니다. 코드를 이해하지 못해도 행사할 수 있는 권리라는 점에서 실효성이 다릅니다.

다만 이 접근에도 한계 지적이 있습니다. DSA의 의무가 대규모 플랫폼에 국한된다는 점, 그리고 개인화를 끈 피드가 실제로 쓸모 있느냐는 문제요. 학계에서는 대안으로 사용자가 플랫폼 외부의 제3자 추천 시스템을 선택할 수 있게 하는 방안도 검토됩니다.

규제 쪽 반론도 있다

국내 입법 논의에 대해서는 우려도 제기됩니다.

가장 실질적인 지적은 집행 형평성입니다. 유튜브 같은 해외 사업자도 법안 적용 대상에 포함되지만, 행정 집행의 현실적 한계 때문에 결과적으로 국내 사업자에게만 규제 부담이 집중될 수 있다는 것입니다. 21일차 망 사용료 글에서 본 구조와 비슷하죠.

산업경쟁력 약화 우려도 나옵니다. 추천 시스템은 사실상 모든 서비스의 핵심 기능이라, 영향평가 의무가 광범위하게 적용되면 부담이 크다는 논리입니다.

어느 쪽이 맞다고 단정하기 어렵습니다. 여론 형성에 미치는 영향이 실재하는 것도 사실이고, 실효성 없는 규제가 부담만 남길 수 있다는 것도 사실입니다.

만드는 입장에서

추천 기능을 붙이는 쪽에서 생각해볼 지점을 정리하면 이렇습니다.

목표 지표를 무엇으로 둘 것인가. 체류시간만 올리면 단기 지표는 좋아지지만 사용자 만족과 어긋날 수 있습니다. 재방문율이나 만족도 설문처럼 지연된 지표를 함께 보는 게 필요합니다.

설명 가능성을 UI로 확보하기. 모델 내부를 설명할 수 없어도 "당신이 본 OO 때문에 추천됨" 같은 근거 표시는 가능합니다. 알고리즘 공개보다 사용자에게 실질적인 정보입니다.

끌 수 있게 해두기. 개인화 해제, 특정 주제 제외, 기록 초기화 같은 통제 수단은 지금은 선택이지만 규제 방향을 보면 곧 요건이 될 가능성이 있습니다.

기록을 남기기. 19일차 AI 채용 글에서도 같은 얘기를 했는데, 나중에 "왜 이렇게 추천됐나"를 재구성할 수 없으면 대응할 방법이 없습니다.

정리

알고리즘 투명성은 필요하지만, 코드를 공개하는 방식으로는 달성되기 어렵습니다. 실질적인 건 사용자가 결과를 이해하고 바꿀 수 있느냐입니다.

그리고 규제를 기다리기 전에 지금 할 수 있는 것도 있습니다. 관심 없음을 명시적으로 누르고, 기록을 정리하고, 추천을 따라가는 대신 검색으로 목적을 갖고 찾는 것. 알고리즘은 우리 행동을 학습하니, 행동을 바꾸면 추천도 따라옵니다.