기술자의 양심, 그리고 시스템의 무게
20년 전, 나는 처음으로 경찰서에 납품할 소프트웨어를 개발했다. 당시만 해도 ‘범죄 예방’이라는 단어는 순수하게 들렸다. CCTV 영상을 분석해 실종 아동을 찾는 시스템, 음성 데이터를 통해 긴급 신고를 자동 분류하는 프로그램—그런 기술이 사회의 안전을 지키는 데 쓰일 거라고 믿었다. 하지만 그때는 몰랐다. 그 코드가 어디까지 뻗어갈지, 어떤 손에 쥐어질지.
네브래스카의 작은 회사 펜링크(PenLink)가 ICE(미국 이민세관집행국)와 230만 달러 계약을 맺었다는 뉴스를 읽었을 때, 내 손끝이 차가워졌다. 그들이 개발한 기술은 이제 휴대폰 위치 추적, 차량 번호판 인식, 심지어는 시위 참가자의 신원 파악까지 가능하다고 한다. 20년 전 내가 꿈꿨던 ‘안전’이, 이제는 누군가의 자유를 억압하는 도구로 변질된 셈이다.
“기술은 중립적이다. 중요한 건 그것을 사용하는 사람의 의도다.”
— 내가 신입 개발자 시절 자주 들었던 말이다. 하지만 정말 그럴까? 코드를 쓰는 순간부터 우리는 이미 선택의 기로에 선다. 어떤 기능을 넣고, 어떤 경계를 그릴지. 그 선택이 쌓여 시스템이 되고, 시스템은 결국 권력이 된다.
개발자의 책임, 그리고 침묵의 공모
펜링크의 기술이 처음부터 ICE를 겨냥한 것은 아니었다. 그들은 경찰서용 소프트웨어로 시작했고, 그 과정에서 쌓은 데이터 수집 노하우를 이민 단속에 활용하기 시작한 것이다. 이 회사의 CEO는 “우리는 그저 도구를 제공할 뿐”이라고 말하지만, 그 도구가 어떻게 쓰일지 모르는 개발자는 없다. 아니, 알면서도 외면하는 것일지도 모른다.
나는 한때 스타트업에서 얼굴 인식 기술을 개발한 적이 있다. 당시 투자자들은 “보안 시장이 뜨고 있다”며 열광했지만, 나는 그 기술이 중국에서 위구르족 감시에 쓰인다는 뉴스를 접하고 프로젝트를 떠났다. 동료들은 “기술은 중립적”이라며 비웃었지만, 나는 차라리 그 비웃음이 편했다. 적어도 양심은 지켰으니까.
문제는 그런 선택이 쉽지 않다는 것이다. 월급을 받아야 하고, 가족을 부양해야 하고, 경력을 이어가야 한다. 펜링크의 개발자들도 마찬가지일 것이다. 그들은 그저 “요구 사항에 맞춰 코드를 짰다”고 변명할지도 모른다. 하지만 그 코드가 누군가의 삶을 파괴할 때, 그 변명은 얼마나 무거울까?
감시의 그물, 그리고 우리의 무관심
ICE의 감시 기술은 이민자뿐만 아니라 시민권자까지 대상으로 삼고 있다. 시위 참가자의 휴대폰을 추적하고, 차량 이동 경로를 분석해 ‘의심스러운 행동’을 색출한다. 이는 더 이상 ‘불법 이민 단속’의 문제가 아니다. 민주주의의 근간을 흔드는 권력 남용이다.
한국에서도 비슷한 일이 벌어지고 있다. 지난해, 서울시가 CCTV에 얼굴 인식 기술을 도입하려다 시민단체의 반발로 무산된 적이 있다. 당시 나는 “기술 발전은 막을 수 없다”는 동료의 말에 동의하지 않았다. 기술은 발전하지만, 그 방향은 우리가 결정해야 하기 때문이다. 펜링크의 사례는 그 결정이 얼마나 중요한지, 그리고 그 결과가 얼마나 파괴적일 수 있는지 보여준다.
우리는 종종 “기술이 세상을 바꾼다”고 말하지만, 정작 기술자를 바꾸는 것은 세상이다. 펜링크의 개발자들이 ICE의 요구를 거부할 수 있을까? 아니면 “시스템에 순응하는 것”이 더 편한 선택일까? 그 선택의 결과는 결국 우리 모두의 삶에 영향을 미친다.
코드 너머의 인간
개발자로 살아오면서 가장 힘들었던 순간은, 내 코드가 누군가의 삶을 바꾸는 것을 목격했을 때였다. 좋은 쪽으로든, 나쁜 쪽으로든. 펜링크의 기술이 만들어내는 ‘효율적인 단속’ 뒤에는 가족이 뿔뿔이 흩어지는 비극이 있다. 그 비극을 외면한 채 “나는 그저 코드를 짰다”고 말하는 것은, 총을 만든 사람이 “나는 그저 금속을 가공했을 뿐”이라고 말하는 것과 무엇이 다를까?
기술자는 시스템을 만드는 사람이지만, 동시에 시스템의 노예가 되기도 쉽다. 펜링크의 개발자들이 밤새며 짠 코드가 누군가의 자유를 빼앗고 있다면, 그들은 그 시스템의 공모자다. 그리고 그 시스템에 무관심한 우리는, 어쩌면 그들의 침묵을 방조하는 accomplices일지도 모른다.
이제 우리는 질문해야 한다. 우리가 만드는 기술이 누구를 위한 것인지, 그리고 그 기술이 어디까지 허용되어야 하는지. 그 답은 코드 속에 있지 않다. 인간의 양심 속에 있다.
이 뉴스를 더 자세히 알고 싶다면, 여기에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
