20년 전만 해도 인공지능은 영화 속에서나 등장하는 먼 미래의 기술이었다. 그때 우리는 “컴퓨터가 사람을 이길 수 있을까?”라는 단순한 질문을 던지며 체스 프로그램이나 단순한 챗봇을 개발하느라 바빴다. 그런데 어느새 그 기술은 우리의 일상을 넘어, 국가의 안보와 전쟁의 판도를 바꾸는 도구로 변모했다. 구글과 펜타곤의 비밀 AI 협약 소식은 그 변화의 속도가 얼마나 빠른지, 그리고 우리가 그 변화에 얼마나 무방비로 노출되어 있는지를 여실히 보여준다.
이 협약의 핵심은 “any lawful government purpose”라는 모호한 문구에 있다. 법적으로 허용되는 모든 목적—이 얼마나 넓은 범위인가. 국방부라는 단어만으로도 충분히 무겁지만, 그 뒤에 숨은 가능성은 더 무겁다. 드론의 정밀 타격, 사이버 전쟁, 심지어는 심리전까지. AI가 인간의 판단을 보조하거나 대체하는 순간, 그 기술은 더 이상 중립적이지 않다. 개발자가 작성한 코드 한 줄이, 학습시킨 데이터 한 조각이, 누군가의 생사를 결정할 수도 있다는 뜻이다.
기술 기업과 정부 간의 협력은 새로운 현상이 아니다. 하지만 이번 협약은 그 협력의 본질을 다시 생각하게 만든다. 구글은 한때 “Don’t be evil”이라는 슬로건을 내걸었지만, 이제는 그 슬로건이 무색해질 만큼 거대한 권력과의 결합을 선택했다. 물론 기업은 이윤을 추구하고, 정부는 안보를 지키기 위해 최선의 기술을 원한다. 하지만 그 과정에서 기술의 윤리적 책임은 어디로 사라지는가? 개발자들이 밤새워 고민한 알고리즘이, 결국 누군가의 목숨을 앗아가는 도구가 될 수도 있다는 사실은 어떻게 받아들여야 하는가?
기술은 도구일 뿐이며, 그 사용은 인간의 몫이다.
이 말은 틀리지 않다. 하지만 그 도구가 인간의 판단을 대체하거나 왜곡할 때, 과연 그 책임은 누구에게 있는가? AI 모델을 훈련시키는 데이터는 편향을 담고 있고, 그 편향은 실전에서 치명적인 오류로 이어질 수 있다. 예를 들어, 특정 인종이나 지역에 대한 편향된 데이터가 드론 타격의 오판을 낳는다면, 그 책임은 데이터 수집자에게 있을까, 모델을 개발한 개발자에게 있을까, 아니면 명령을 내린 정부에게 있을까?
더욱 우려스러운 것은 이 협약이 비밀이라는 점이다. “classified”라는 단어는 단순히 기밀이라는 뜻이 아니라, 대중의 감시와 논의로부터 자유롭다는 의미다. 기술이 사회에 미치는 영향을 투명하게 논의하지 않고, 기업과 정부가 뒤에서 결정하는 구조는 민주주의의 기본 원칙과도 배치된다. 구글 직원들이 내부 고발로 프로젝트 메이븐(Maven)에 반대한 적이 있었지만, 이번 협약은 그보다 더 큰 규모로, 더 은밀하게 진행되고 있다. 기술의 발전이 시민의 동의 없이 이루어질 때, 우리는 과연 그 기술을 통제할 수 있을까?
AI 기술의 군사적 활용은 피할 수 없는 흐름일지도 모른다. 하지만 그 흐름을 어떻게 통제하고, 윤리적 경계를 어떻게 설정할지는 여전히 미해결된 문제다. 개발자 개개인이 할 수 있는 일은 많지 않을지도 모른다. 하지만 적어도 우리는 이 질문을 끊임없이 던져야 한다: 우리가 만드는 기술이 누구를 위한 것이며, 어떤 가치를 지향해야 하는가? 기술은 인간의 삶을 편리하게 만들기도 하지만, 파괴하기도 한다. 그 파괴의 힘을 누가 쥐고 있는지, 그리고 그 힘이 어떻게 사용될지는 우리 모두가 함께 고민해야 할 문제다.
구글과 펜타곤의 협약은 기술의 미래를 보여주는 한 단면일 뿐이다. 그 미래가 어떤 모습으로 펼쳐질지는 아직 알 수 없다. 하지만 한 가지 확실한 것은, 기술이 권력의 도구가 될 때, 그 기술은 더 이상 중립적이지 않다는 사실이다. 그리고 그 권력이 투명하게 행사되지 않는다면, 우리는 그 기술에 의해 통제당할 위험에 처해 있다.
더 자세한 내용은 The Verge의 원문 기사에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
