소프트웨어 개발자로서 가장 두려운 순간은 내가 만든 코드가 의도치 않은 결과를 낳을 때다. 버그는 수정할 수 있지만, 시스템 자체가 만들어내는 구조적 악의는 어떻게 고쳐야 할까? 최근 메타가 아동 성착취 문제로 배심원단의 유죄 평결을 받은 사건은 단순한 법적 분쟁을 넘어, 기술 플랫폼의 윤리적 책임을 다시금 질문하게 만든다. 문제는 메타가 ‘몰랐다’는 것이 아니다. 알고도 방치했다는 혐의가 더 무거운 법적 책임을 초래한 것이다.
기술 기업들은 종종 ‘중립적 플랫폼’임을 강조한다. 사용자가 올리는 콘텐츠에 대한 책임을 회피하기 위한 논리다. 하지만 알고리즘은 결코 중립적이지 않다. 추천 시스템, 검색 필터, 광고 타겟팅은 모두 특정 행동을 유도하도록 설계된다. 메타의 경우, 아동 성착취 콘텐츠가 플랫폼 내에서 확산되는 것을 방지하기 위한 기술적 조치가 미흡했다는 비판이 제기됐다. 문제는 이러한 조치가 ‘기술적으로 가능’했음에도 불구하고, 수익 모델과 충돌한다는 이유로 우선순위에서 밀렸다는 점이다.
“아동 착취는 끔찍한 범죄이며, 우리는 이를 막기 위해 수년간 기술을 개발해왔습니다.”
메타 대변인의 이 말은 진심일 수도 있다. 실제로 메타는 아동 보호 기술을 개발하고, 의심스러운 계정을 차단하는 시스템을 구축했다. 하지만 기술적 해결책만으로는 부족하다. 플랫폼의 구조 자체가 악용될 가능성을 내포하고 있다면, 그 구조를 재설계하는 것이 우선되어야 한다. 예를 들어, 익명성 보장과 개인정보 보호는 중요한 가치지만, 그것이 범죄자의 은신처가 되어서는 안 된다. 기술은 언제나 양날의 검이다.
여기서 더 중요한 질문은 ‘기술이 해결할 수 없는 문제는 무엇인가’다. 메타의 알고리즘은 사용자의 참여를 극대화하도록 설계되었다. 더 많은 시간, 더 많은 클릭, 더 많은 광고 노출. 이 과정에서 아동 보호라는 윤리적 가치는 종종 희생된다. 기업이 수익을 위해 안전성을 타협할 때, 그 피해는 가장 취약한 계층에게 돌아간다. 배심원단의 평결은 이러한 구조적 문제를 법적으로 인정했다는 점에서 의미가 있다. 기술 기업이 ‘무엇을 알고 있었는지’가 아니라, ‘무엇을 해야 했는지’를 묻는 전환점이다.
개발자로서 이 사건을 보면서 드는 생각은 단순하다. 코드는 도구일 뿐이지만, 그 도구가 어떻게 사용되는지는 개발자의 책임이다. 기술이 사회에 미치는 영향을 고려하지 않는 개발은 반쪽짜리 전문성이다. 메타의 사례는 기술 기업이 ‘무엇을 할 수 있는지’가 아니라, ‘무엇을 해야 하는지’를 고민해야 할 때임을 보여준다. 법적 책임은 시작일 뿐, 진정한 변화는 기술과 윤리가 조화를 이룰 때 가능하다.
이 사건에 대한 자세한 내용은 CNN의 보도에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
