지우면 검열, 놔두면 방치… AI 시대 '콘텐츠 삭제' 딜레마

 

📌 3줄 요약

① 7월 7일부터 시행된 개정 정보통신망법은 대형 플랫폼에 허위조작정보에 대한 대응 책임을 부여했다.

② 그러나 플랫폼이 허위 여부를 직접 판단해야 하는 구조는 '가짜뉴스 방지'와 '표현의 자유 침해' 사이에서 거대한 딜레마를 만든다.

③ AI 시대에는 허위정보 생산과 확산 속도가 인간의 검증 능력을 압도하면서 기존 표현의 자유 원칙만으로는 대응이 어려워지고 있다.

---

🔑 핵심 키워드

#표현의자유 #허위정보 #플랫폼책임 #AI세뇌 #검열과방치 #정보통신망법 #팩트체크 #알고리즘

---

📖 핵심 내용

• 네이버·카카오 등 대형 플랫폼이 허위조작정보에 대한 1차 대응 책임을 부담하게 됐다.
• 문제는 '무엇이 허위정보인가'를 누가 판단할 것인가이다.
• 삭제하면 검열이라는 비판을 받고, 방치하면 허위정보 유통을 방조했다는 비판을 받는다.
• 생성형 AI는 인간보다 빠르게 대량의 가짜뉴스와 조작된 콘텐츠를 생산할 수 있다.
• 기존 법체계는 인간이 생산한 허위정보를 전제로 설계돼 AI가 만들어내는 초대형 정보오염에 취약하다.

---

❗ 왜 중요한가?

AI 시대의 가장 큰 위험은 가짜뉴스 자체가 아니라, 진실과 거짓을 구별할 수 없게 되는 사회다.

신뢰가 무너지면 민주주의, 시장, 언론, 과학 모두 정상적으로 작동하기 어렵다.

---

💡 코난의 통찰

① 표현의 자유는 무제한일 수 있을까?

밀(John Stuart Mill)은 표현의 자유를 최대한 보장해야 한다고 주장했지만 단 하나의 예외를 인정했다.

타인에게 명백한 위해(Harm)를 가하는 경우.

AI 시대에는 허위정보가 단순한 의견이 아니라

• 선거 결과를 왜곡하고
• 금융시장을 교란하고
• 백신·전쟁·재난 정보를 조작하며
• 특정 집단에 대한 증오를 증폭시킬 수 있다.

즉, 허위정보는 더 이상 '말'이 아니라 '행위'가 됐다.

---

② 미셸 푸코라면 이렇게 말할 것이다.

푸코는 진실은 권력이 생산한다고 보았다.

"누가 진실을 결정하는가?"

정부가 결정하면 검열이고,
플랫폼이 결정하면 사기업 권력이고,
언론이 결정하면 기득권의 독점이 될 수 있다.

그래서 AI 시대의 핵심은

'누가 진실을 정하느냐'가 아니라, '어떻게 검증하느냐'다.

---

③ 새로운 표현의 자유 원칙이 필요하다.

1. 의견은 최대한 보호한다.

• 정치적 주장
• 풍자
• 가치판단

→ 삭제 금지.

2. 사실 주장에는 근거 책임을 부여한다.

예)

• 선거 조작
• 백신 음모론
• 특정인 범죄 주장

→ 출처와 증거 제시 의무.

3. AI 생성 콘텐츠는 표시 의무.

• AI 작성
• AI 편집
• AI 이미지

→ 워터마크 및 메타데이터 표시.

4. 허위정보는 삭제보다 단계적 제재.

① 출처 표시 요구
② 알고리즘 추천 제한
③ 반복 위반 시 업로드 정지
④ 조직적 조작은 법적 책임.

---

④ 진실 판단은 국가 독점이 아니라 '다중 검증 체계'로.

참여 주체:

• 정부
• 플랫폼
• 언론
• 학계
• 시민단체
• 독립 팩트체크 기관

모든 근거와 검증 과정을 공개한다.

권력의 독점보다 투명한 경쟁이 진실에 더 가깝다.

---

🎯 한 줄 결론

AI 시대의 표현의 자유는 '무제한 발언권'이 아니라, '근거를 제시할 책임이 동반된 자유'로 진화해야 한다.

---

🔥 코난의 한 문장

20세기의 싸움이 검열 대 표현의 자유였다면, 21세기의 싸움은 진실을 어떻게 지킬 것인가에 대한 싸움이다.

 

“지우면 검열, 놔두면 방치”…‘허위정보 판단’ 칼자루 쥔 플랫폼들 [팩플] | 중앙일보

“지우면 검열, 놔두면 방치”…‘허위정보 판단’ 칼자루 쥔 플랫폼들 [팩플] | 중앙일보

 

AI 시대의 기술과 철학

AI 시대의 기술과 철학