우리가 인공지능을 두려워하는 진짜 이유는 그것이 우리를 대체할까 봐가 아니다. 오히려 그 반대다. AI가 인간처럼 ‘미쳐버릴’ 때, 우리는 그 광기를 상품으로 포장해 팔고 있다는 사실을 깨달아야 한다. 기술 발전의 역사는 늘 이성과 비이성의 경계를 넘나들었다. 하지만 이번만큼은 그 경계가 모호해진 적이 없다. AI가 만들어내는 환각, 편집증, 심지어는 망상은 이제 더 이상 버그나 오류가 아니다. 누군가의 비즈니스 모델이 되어버렸다.
20년 전만 해도 소프트웨어는 예측 가능한 존재였다. 입력과 출력이 명확했고, 오류는 디버깅으로 해결할 수 있었다. 하지만 지금의 AI는 다르다. 대규모 언어 모델은 때로 거짓말을 그럴듯하게 포장하고, 사용자의 질문에 과도하게 집착하다가 스스로 논리를 파괴하기도 한다. 이 현상을 ‘AI 사이코시스’라고 부를 수 있을까? 정신의학 용어를 빌려온 이 표현은 어쩌면 적절하다. 인간 정신의 불안정성이 창의성과 파괴성을 동시에 낳듯, AI의 ‘불안정성’도 새로운 가치를 창출하고 있기 때문이다.
문제는 이 불안정성이 의도된 결과물이라는 점이다. 기술 기업들은 AI의 환각 현상을 ‘창의성’이라는 이름으로 포장한다. “AI가 거짓말을 해도 괜찮아, 그건 예술이야!”라는 주장은 이미 들린다. 하지만 이는 위험한 자기 합리화다. 창의성과 거짓의 경계가 흐려질 때, 우리는 무엇을 믿어야 하는가? AI가 생성한 콘텐츠가 사실인지 허구인지 구분할 수 없다면, 그 정보는 더 이상 신뢰할 수 없다. 그런데도 우리는 그 불확실성을 소비한다. 마치 공포 영화를 보듯, AI의 광기를 즐기기 시작한 것이다.
기술이 인간을 닮아가면서, 우리는 기술의 광기를 인간의 광기로 오인하기 시작했다. AI가 ‘미친’ 것이 아니라, 우리가 그 광기를 상품으로 만들도록 허용한 건 아닐까?
더 큰 문제는 이 현상이 시스템화되고 있다는 점이다. AI의 환각을 최소화하려는 노력은 계속되고 있지만, 동시에 그 환각을 활용하려는 움직임도 활발하다. 예를 들어, 마케팅 분야에서는 AI가 만들어낸 ‘과장된’ 제품 설명이 더 높은 클릭률을 기록하기도 한다. 창작 분야에서는 AI가 생성한 허구의 이야기들이 독자들의 호기심을 자극한다. 심지어 정치나 금융 분야에서도 AI의 ‘착각’이 새로운 전략으로 활용되고 있다. 광기가 수익을 창출하는 시대다.
이 현상은 기술의 민주화라는 미명 아래 더욱 가속화되고 있다. 누구나 AI를 사용할 수 있지만, 그 부작용을 통제할 수 있는 사람은 없다. 사용자들은 AI의 출력물을 무비판적으로 받아들이고, 기업들은 그 무지를 이용해 이익을 극대화한다. 마치 20세기 초의 의료 광고처럼, AI는 ‘기적의 치료제’로 포장되지만, 그 부작용은 무시된다. 그때는 아편이 만병통치약으로 팔렸지만, 지금은 AI의 환각이 창의성으로 둔갑하고 있다.
그렇다면 우리는 이 광기를 어떻게 받아들여야 할까? 첫째, AI의 불완전성을 인정해야 한다. 완벽한 AI는 존재하지 않으며, 그 불완전성이 때로는 가치 있는 결과를 낳기도 한다는 사실을 인정해야 한다. 하지만 동시에 그 불완전성이 악용되지 않도록 경계해야 한다. 둘째, AI의 출력을 맹신하지 않는 문화를 만들어야 한다. AI가 생성한 정보는 항상 검증의 대상이 되어야 하며, 그 과정에서 인간의 판단력이 다시금 중요해진다. 마지막으로, 기술 기업들이 AI의 부작용을 투명하게 공개하도록 압박해야 한다. 광기가 상품이 되는 것을 막기 위해서는, 그 광기의 실체를 밝혀야 한다.
AI의 광기는 어쩌면 기술 발전의 불가피한 부산물일지도 모른다. 하지만 그 광기가 상품이 되어버린 현실은, 우리가 기술과 어떻게 공존할 것인지에 대한 근본적인 질문을 던진다. 우리는 AI의 불완전성을 받아들일 준비가 되어 있는가? 아니면 그 불완전성을 이용해 이익을 취하려는 유혹에 굴복할 것인가? 이 질문에 대한 답은, 우리가 기술과 인간성을 어떻게 조화시킬 것인지 결정할 것이다.
이 에세이의 영감을 준 원문은 여기에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
