MJ 마이클잭슨 KR

1. 'AI 검열'?

일단 법적으로 AI 기술을 쓰라고 법에서 명시하고있지는 않기 때문에 엄밀히는 AI 검열이라고 하기엔 좀 애매해.

일단 성능 평가만 통과한다면 뭔 기술을 써도 상관 없어. 단지 그 국가기관에서 보급하는 게 AI 활용한 방식인데, 그것도 요즘 AI 챗봇같은 LLM 방식이 아니라 특징 추출하고 대조해서 결과값만 뽑아주는 거야.

다만 성능 평가 기준 관련해서 곁다리로 우려스러운 부분이 있긴 한데 궁금하면 눌러서 펼쳐보셈
다만 여기서 문제가 하나 있다면 그 성능 평가 지표로 위양성 false positive, 즉 필터링될 게 아닌데 필터링되는 경우에 대한 평가 지표가 명시되어있지 않다는 점이 우려스러움. 일단 방미통위 고시에 따르면 평가 지표는 아래 세 개의 호로 나뉨.

1. 식별 가능성 : 게재하려는 정보가 불법촬영물등(변형물을 포함한다)에 해당하는 경우 방송미디어통신심의위원회에서 불법촬영물등으로 심의ㆍ의결한 정보로 인식하는 비율

2. 일관성 : 제1호의 반복 수행 결과가 일관성을 유지하는 비율

3. 그 밖에 성능평가의 신뢰성 확보를 위해 필요한 사항

위양성을 억제하기 위한 지표를 왜 따로 명시하지 않았는지 우려스럽고, 그런 마인드로 정책 시행하는데 통과 기준이 적절할지도 의문임.

2. 불법촬영물만 잡는다? 혹은 국가가 원하는대로 다 잡는다?

ㄴㄴ 일단 현재 기준 그 대상은 아래의 3가지이고 이것들을 '불법촬영물등'이라고 묶어서 부르고 있어.

1. 「성폭력범죄의 처벌 등에 관한 특례법」 제14조에 따른 촬영물 또는 복제물(복제물의 복제물을 포함한다)

2. 「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2에 따른 편집물ㆍ합성물ㆍ가공물 또는 복제물(복제물의 복제물을 포함한다)

3. 「아동ㆍ청소년의 성보호에 관한 법률」 제2조제5호에 따른 아동ㆍ청소년성착취물

여기서 아동ㆍ청소년성착취물은 구 청소년성보호법상 아동ㆍ청소년음란물에서 단어 이름만 바뀌고 정의 자체는 그대로야.

따라서 기존 청소년성보호법 판례상 2D 가아청도 잡으므로 2D짤도 범위에 들어가지.

4. AI가 판단해서 일정 수위 넘는 것 같으면 알아서 잡는다?

ㄴㄴ 정확한 기준은 다음과 같아.

이용자가 게재하려는 정보의 특징을 분석하여 방송미디어통신심의위원회에서 불법촬영물등으로 심의ㆍ의결한 정보에 해당하는지를 비교ㆍ식별 후 그 정보의 게재를 제한하는 조치

따라서 이전에 방미심위가 불법촬영물등에 해당한다고 판정한 것과 동일한 정보에 해당한다고 식별되는 것만 잡아.

문제는 법원에서 유죄가 뜬 걸 기준으로 하는 게 아니라 방미심위가 불법촬영물등에 해당한다고 임의로 심의 의결한 게 기준이라서 좀 그렇지.

물론 실제 인물의 불법촬영물이나 허위영상물 관련이면 최대한 빨리 처리해야 하니 어쩔 수 없지만 이게 법원 기준이랑 방심위 기준이 꼭 일치하지는 않다보니 부작용 우려도 있어.

<a href="https://bbs.ruliweb.com/community/board/300143/read/74742563" target="_blank" rel="noopener noreferrer">리벤지ㅍㄹㄴ같은 게 아니라 별 문제될 수위 아녀도 경찰 쪽에서 삭제 요청 들어온 전례가 있다는 점을 생각하면</a> 법취지와 달리 작동할 가능성도 충분히 있어보여.

2D쪽은 더 우려스럽지. 기존에 방미심위가 공문 보내서 2D 짤들 자른 거 은근 되니까.

이게 문제되나 싶을 정도의 수준도 삭제 요청하는데 한 번 잘리면 더이상 못올린단 소리거든.

그냥 퍼온 그면 몰라, 직접 그린 그림이나 만화같은 거 잘리면 더 큰일이야. 방미심위가 공문 보내서 글 자르더라도 직접 그려서 올린 저작자는 사실상 아무런 통보도 못받고 항의도 못하거든.

이론적으로는 정보통신에 관한 심의규정에 따라 이의신청이 가능하기는 하지만 방미심위는 운영자한테만 통보하면 되지 누군지 모르는 이용자한테는 통보 안해도 합법이고 운영자도 그 통보를 이용자한테 전달할 의무는 없어서 실질적으론 항의할 기회조차 없어.

이 검열 조치는 이미 한 번 방미심위가 자른 것만 필터링되지만, 애초부터 방미심위의 심의에 대해서 이의를 제기할 마땅한 절차도 없는데 재업 자체가 막히기까지 하니 해도해도 너무하지...