Apple iCloud CSAM 소송과 Section 230 면책
Apple은 iCloud에 저장된 파일에 대해 CSAM(아동 성착취 물) 탐지 스캔을 하지 않았다는 이유로 피해자들로부터 소송을 당했다. 핵심 쟁점은 Apple이 PhotoDNA와 같은 검증된 탐지 기술 대신 자체 개발한 NeuralHash를 도입하려다 철회하고, 결국 iCloud 파일을 암호화하는 방향으로 선회한 것이다. 법원은 Apple의 손을 들어줬지만, 판사는 Apple의 태도에 불만을 명확히 표시했다.
이번 판결에서 법원은 Section 230 면책 조항을 다시 한번 적용했다. 원고 측은 Apple이 알려진 CSAM 탐지 기능을 구현하지 않은 것이 설계 결함이라고 주장했지만, 법원은 이 주장이 결국 Apple을 제3자 콘텐츠의 "발행자(publisher)"로 취급하는 것과 다름없다고 판단했다. Section 230은 플랫폼이 사용자 생성 콘텐츠에 대해 개입하지 않은 것을 이유로 책임을 묻는 청구를 광범위하게 차단한다.
백엔드 설계 관점: 콘텐츠 스캔과 암호화의 트레이드오프
이 사건은 웹 서비스 설계에서 사용자 데이터 암호화와 콘텐츠 안전성 스캔 사이의 근본적인 긴장 관계를 보여준다. 클라이언트 사이드 암호화(E2EE)를 적용하면 서버는 콘텐츠 내용을 알 수 없어 악성 콘텐츠 탐지가 사실상 불가능해진다.
[파일 업로드 흐름]
E2EE 미적용:
Client → (평문) → Server → PhotoDNA/해시 스캔 → Storage
E2EE 적용:
Client → (암호화) → Server → 스캔 불가 → Storage
Apple이 NeuralHash를 클라이언트 사이드에서 실행(업로드 전 디바이스에서 해시 비교)하는 방식을 시도한 것도 이 딜레마를 해결하려는 시도였다. 그러나 이 접근은 "디바이스에서 감시한다"는 프라이버시 논란을 불러일으켰고 결국 철회됐다. 스캔 시점을 서버로 할지, 클라이언트로 할지에 따라 프라이버시 리스크와 법적 의무가 완전히 달라진다는 점이 실무에서 중요한 설계 결정이다.
플랫폼 책임과 Section 230의 한계
이번 사건이 주목받는 이유 중 하나는 Section 230에 대한 전면적인 도전이라는 점이다. 원고 측은 탐지 기능 미구현을 "설계 결함"으로 프레이밍함으로써 Section 230 면책을 우회하려 했다. 법원은 이를 받아들이지 않았지만, 이 사건은 9th Circuit으로 올라갈 예정이어서 향후 판결이 플랫폼 책임의 범위를 다시 정의할 가능성이 있다.
백엔드 개발자 입장에서 주목할 점은, 플랫폼이 자발적으로 특정 안전 기능을 도입할 의사를 표명했다가 철회하면 법적·정치적 압박이 오히려 강해진다는 점이다. Apple은 CSAM 스캔 의지를 공개적으로 밝혔다가 번복함으로써 "할 수 있는데 안 하고 있다"는 인식을 형성했다. 서비스 설계 시 기능 로드맵을 외부에 공개하는 것은 기술적 결정 이상의 리스크를 수반한다.
정리
- E2EE와 콘텐츠 스캔은 양립하기 어렵다. 암호화 적용 시점과 스캔 시점을 어디에 두느냐가 서비스의 법적 의무와 프라이버시 정책을 결정한다.
- Section 230은 현재 유효하지만 계속 도전받고 있다. 설계 결함 프레이밍을 통한 우회 시도가 9th Circuit에서 어떻게 판단될지 주시할 필요가 있다.
- 자발적으로 밝힌 기능 계획은 법적 기대를 형성한다. 안전 기능의 도입·철회 결정은 기술적 판단과 함께 법적·커뮤니케이션 리스크를 함께 고려해야 한다.