얼마나 AI를 써야 AI가 만든 것인가

AI 기본법이 2026년 1월 22일 시행된 지 9개월이 지났습니다.

그런데 아직 과태료를 낸 사업자는 없습니다. 정부가 시행 초기 혼선을 고려해 최소 1년 이상의 계도기간을 두고 사실조사와 과태료를 원칙적으로 유예하겠다고 했기 때문입니다. 시행일부터 1년을 세면 2027년 1월 22일 전후인데, 정부는 "최소 1년"이라고만 했으니 정확한 종료 시점은 공식 발표를 봐야 합니다.

그 시점이 다가오면서 현장의 질문은 "무엇을 지켜야 하나"에서 "어디까지가 AI가 만든 것인가"로 옮겨가고 있습니다.

의무는 제공하는 쪽에 있다

먼저 자주 오해되는 부분부터. AI 기본법의 투명성 의무는 인공지능사업자, 즉 AI를 개발하거나 AI로 제품·서비스를 제공하는 쪽에 걸려 있습니다.

생성형 AI 서비스 제공자는 크게 세 가지를 해야 합니다. AI 기반 서비스라는 사실을 이용자에게 미리 알리고, 결과물이 AI로 생성됐다고 표시하고, 실제와 구분하기 어려운 음성·이미지·영상이라면 이용자가 분명히 알 수 있게 표시해야 합니다.

반면 AI를 업무나 창작 도구로 쓰는 단순 이용자는 현행 AI 기본법상 표시 의무 대상이 아닙니다. 챗봇으로 문서 초안을 쓰거나 이미지 생성 도구로 그림을 만드는 개인이 여기에 해당하죠. 다만 이건 AI 기본법 기준이고, 게시자에게 AI 생성물 표시 의무를 지우는 정보통신망법 개정이 따로 추진되고 있으니 앞으로 바뀔 수 있습니다.

보이는 표시와 보이지 않는 표시

시행령은 표시 방법으로 두 가지를 허용합니다. 사람이 알아볼 수 있는 표시, 그리고 기계가 읽을 수 있는 표시입니다. 후자는 눈에 보이지 않는 워터마크 같은 방식인데, 이 경우 이용자에게 별도로 안내하는 걸 함께 하도록 했습니다.

웹툰이나 애니메이션처럼 비교적 AI 생성 여부를 식별하기 쉬운 결과물에는 보이지 않는 표시도 허용하고, 실존 인물을 기반으로 한 딥페이크처럼 실제와 헷갈리는 결과물에는 보이는 표시를 원칙으로 한다는 방침이 시행 당시 발표됐습니다.

이 구분은 C2PA 같은 출처 증명 기술과 닿아 있습니다. 보이지 않는 표시는 결과물의 품질을 해치지 않는 대신, 메타데이터가 지워지면 사라질 수 있습니다. 그래서 국회에는 표시를 훼손하는 행위를 금지하고 처벌하는 개정안이 발의됐습니다. 앞서 한 패션 플랫폼이 약관으로 AI 생성 식별 정보 삭제를 금지한 사례가 있었는데, 같은 문제를 법 차원에서 풀려는 시도입니다.

경계는 어디인가

가장 큰 혼선은 여기에 있습니다. 7월 후속 법령 시행 무렵 보도를 보면, 산업계는 생성형 AI를 어느 정도 활용해야 표시 의무가 생기는지, 사람이 결과물을 편집하거나 검수한 경우에도 같은 기준을 적용하는지를 두고 혼선을 겪고 있다고 했습니다.

이 질문이 어려운 이유는 AI를 둘러싼 다른 논쟁에서도 반복해서 나온 문제이기 때문입니다. 완성된 글만 보고는 AI 작성 여부를 가리기 어렵다는 점, 그리고 리뷰처럼 "경험은 진짜인데 문장만 AI로 다듬은 경우"는 성격이 다르다는 점이요.

창작 과정에서 AI의 개입은 0과 1이 아니라 연속적입니다. 처음부터 끝까지 AI가 만든 이미지, AI 초안을 사람이 크게 고친 글, 사람이 쓴 글의 맞춤법만 AI로 고친 경우. 이 사이 어딘가에 선을 그어야 하는데, 그 선이 기술적으로 검증 가능한 위치에 있지 않으면 집행이 어려워집니다.

그래서 현행법이 의무를 결과물이 아니라 서비스 제공자에 건 건 나름의 합리성이 있다고 봅니다. "이 결과물에 AI가 몇 퍼센트 들어갔나"를 따지는 대신, "AI 생성 기능을 제공하는 서비스인가"를 기준으로 삼으면 판단이 훨씬 명확해지니까요. 암표 규제가 매크로라는 도구 대신 목적을 겨냥하면서 실효를 얻었듯, 여기서는 "결과물보다 제공 주체를 겨냥한 규칙이 집행하기 쉽다"는 쪽입니다.

누가 어떤 표시를 맡을까

또 하나의 쟁점은 역할 분담입니다. 생성형 AI 서비스는 대개 모델을 만드는 개발사와, 그 모델을 가져다 서비스를 만드는 제공사가 다릅니다. 국회에는 개발사는 기계 판독 표시를, 서비스사는 이용자가 보는 표시를 맡도록 나누자는 개정안도 나와 있습니다.

AI 에이전트 보안에서 누가 어떤 권한과 책임을 지는지가 설계의 핵심이듯, 표시 의무도 결국 같은 질문입니다. 한 결과물이 여러 사업자를 거쳐 만들어질 때, 표시가 중간에 빠지지 않으려면 각 단계의 책임이 분명해야 합니다.

정리

AI 기본법 시행 9개월, 계도기간 종료를 앞두고 남은 숙제는 결국 경계를 정하는 일입니다. 어디까지가 AI가 만든 것인지, 누가 표시해야 하는지, 표시가 지워지면 누구 책임인지.

과태료는 최대 3천만 원이지만, 사업자 입장에서 더 중요한 건 금액보다 기준의 명확성일 겁니다. 계도기간은 처벌을 미루는 시간이자 그 기준을 다듬는 시간이기도 하니, 남은 몇 달 동안 가이드라인이 얼마나 구체화되는지 지켜볼 만합니다.