인간이 만든 가장 복잡한 시스템은 결국 인간의 가장 단순한 본성을 반영한다. 소셜 미디어가 그렇고, 검색 엔진이 그렇고, 이제는 생성형 AI까지도 마찬가지다. 그런데 이 반영 과정이 점점 더 기묘한 방식으로 진행되고 있다. 레딧에 올라온 한 줄의 글이 구글 검색 결과의 상단을 차지하고, 그 글이 다시 챗GPT의 답변에 인용되는 현상은 단순한 기술적 현상을 넘어 일종의 ‘데이터 카르텔’이 형성되고 있음을 보여준다. 문제는 이 카르텔이 민주적으로 운영되지 않는다는 점이다.
기업들이 레딧을 통해 AI 모델을 조작하려 한다는 뉴스는 언뜻 보면 디지털 마케팅의 연장선에 있는 전략처럼 보인다. 하지만 그 이면에는 훨씬 근본적인 문제가 도사리고 있다. AI 시스템이 학습하는 데이터의 출처가 점점 좁아지고 있다는 점이다. 레딧은 사용자 생성 콘텐츠의 보고이지만, 동시에 특정 집단에 의해 쉽게 조작될 수 있는 구조다. 한때 ‘인터넷의 프론트 페이지’로 불렸던 이 플랫폼이 이제는 AI의 ‘편향된 거울’로 기능하고 있는 셈이다.
이 현상이 위험한 이유는 두 가지다. 첫째, AI 시스템이 인간의 다양한 목소리를 반영해야 한다는 전제가 무너진다. 레딧의 데이터는 전 세계 인구의 극히 일부만을 대표하며, 그마저도 특정 연령대와 문화권에 편중되어 있다. 이런 데이터로 학습된 AI는 결국 소수의 관점을 보편적인 것으로 왜곡할 위험이 크다. 둘째, 데이터의 민주성이 상실된다. 기업이 돈을 들여 레딧에 특정 콘텐츠를 유포하면, 그 콘텐츠는 AI 시스템을 통해 전 세계 사용자에게 전달된다. 이는 마치 방송국이 광고주에게 채널을 팔아먹는 것과 다를 바 없다.
AI는 인간의 지성을 모방하는 것이 아니라, 인간의 편향을 증폭하는 기계가 될 수도 있다. 문제는 그 편향이 누구에 의해 결정되는가이다.
이 문제는 기술적 해결책만으로는 극복하기 어렵다. 데이터 필터링 알고리즘을 개선하고, 다양한 출처의 데이터를 균형 있게 활용하는 노력은 필요하지만, 근본적인 해결책은 되지 못한다. 진짜 필요한 것은 데이터 생산과 유통에 대한 새로운 규칙이다. 예를 들어, AI 학습 데이터의 출처를 투명하게 공개하고, 특정 플랫폼에 과도하게 의존하지 않도록 강제하는 규제가 필요하다. 또한 사용자 생성 콘텐츠의 소유권과 사용 권한에 대한 논의도 활발히 이루어져야 한다.
하지만 이런 논의는 쉽게 진전되지 않을 것이다. 레딧은 이미 AI 기업들에게 값비싼 데이터 API를 판매하고 있으며, 구글과 오픈AI는 이 데이터를 통해 자사의 AI 모델을 개선하고 있다. 이 삼각관계에서 사용자는 철저히 배제되어 있다. 사용자는 자신의 데이터를 무료로 제공하면서도, 그 데이터가 어떻게 사용되는지, 어떤 영향을 미치는지 전혀 알지 못한다. 이는 디지털 시대의 새로운 착취 구조가 아닐까?
레딧이 AI의 거울이 되는 현상은 어쩌면 불가피한 결과일지도 모른다. 하지만 그 거울이 왜곡된 이미지만을 비추고 있다면, 우리는 그 거울을 깨고 새로운 시스템을 만들어야 한다. 데이터 민주주의는 기술이 아니라 정치의 문제다. AI 시스템이 인간의 지성을 진정으로 반영하려면, 먼저 데이터의 생산과 유통에 대한 권력이 민주적으로 분배되어야 한다. 그렇지 않으면 우리는 영원히 소수의 목소리에 귀 기울이는 기계와 함께 살아가게 될 것이다.
관련 기사: Companies Are Using Reddit to Manipulate ChatGPT and Google AI Search
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
