몇 년 전, 한 친구가 내게 이런 이야기를 했다. 그는 당뇨병을 앓고 있었는데, 식사 때마다 탄수화물 양을 정확히 계산해야 했다. 어느 날 그는 스마트폰 앱 대신 인공지능에게 같은 음식을 반복해서 물어보기로 했다. “이 사과 한 개에 탄수화물이 얼마나 들까?” 같은 질문을 수백 번 던졌더니, 매번 다른 답이 돌아왔다. 처음에는 단순한 오류라고 생각했지만, 그 빈도가 너무 잦아지자 그는 혼란스러워졌다. “기계가 이렇게 불확실해도 되는 걸까?”
이 이야기는 최근 한 실험에서 극적으로 증명되었다. 누군가가 동일한 음식 사진을 가지고 인공지능에게 탄수화물 양을 27,000번이나 물어보았다. 놀랍게도, 매번 다른 답이 돌아왔다. 같은 입력에 대한 일관성 없는 출력. 이는 단순히 기술적 결함의 문제가 아니었다. 우리가 인공지능을 바라보는 방식 자체에 대한 근본적인 의문을 던졌다.
소프트웨어 개발자로서 20년을 살아오면서, 우리는 언제나 “정확성”을 최고의 가치로 여겼다. 코드는 예측 가능해야 했고, 같은 입력에는 반드시 같은 출력이 따라와야 했다. 그것이 프로그래밍의 기본 원칙이었다. 그런데 인공지능, 특히 생성형 AI는 이 원칙을 깨고 있다. 확률적 알고리즘에 기반한 이들은 “정확성” 대신 “가능성”을 다루고, “결정론” 대신 “확률 분포”를 추구한다. 이는 전통적인 소프트웨어 공학의 패러다임과 정면으로 충돌한다.
문제는 여기서 그치지 않는다. 인공지능의 이런 불확실성이 실생활에서 어떤 영향을 미치는지를 생각해보면, 그 심각성은 배가된다. 의료, 금융, 법조계처럼 정확성이 생명을 좌우하는 분야에서 인공지능이 일관성 없는 답을 내놓는다면, 그 결과는 치명적일 수 있다. 탄수화물 계산이야 당뇨병 환자의 혈당 관리라는 중요한 문제이지만, 그보다 더 큰 시스템에서 이런 불확실성이 발생한다면? 우리는 이미 인공지능을 신뢰하고 의존하기 시작한 시점에서, 그 신뢰의 근거가 흔들리고 있음을 인정해야 한다.
기계가 같은 질문을 받았을 때 같은 답을 내놓지 못한다면, 우리는 무엇을 신뢰해야 하는가?
이 실험은 또 다른 중요한 질문을 던진다. 인공지능이 “정확하지 않다”는 것이 과연 문제일까? 어쩌면 우리가 인공지능에게 기대하는 것이 잘못된 것일지도 모른다. 인공지능은 인간의 뇌를 모방하려는 시도에서 탄생했다. 인간의 뇌는 같은 질문을 받아도 상황에 따라 다른 답을 내놓을 수 있다. 피곤할 때와 상쾌할 때, 배가 고플 때와 배가 부를 때, 같은 질문에 대한 우리의 대답은 조금씩 달라질 수 있다. 그렇다면 인공지능의 불확실성은 인간의 불확실성을 닮아가는 과정일지도 모른다.
하지만 이 지점에서 우리는 딜레마에 빠진다. 인공지능이 인간의 불확실성을 닮아간다면, 우리는 그것을 신뢰할 수 있을까? 아니면, 인공지능이 인간의 불확실성을 닮아가는 것이 아니라, 우리의 불완전한 데이터를 그대로 반영하고 있는 것은 아닐까? 인공지능은 결국 인간이 제공한 데이터의 산물이다. 그 데이터가 불완전하거나 편향되어 있다면, 인공지능의 답변도 당연히 불완전하고 편향될 수밖에 없다.
이 실험이 우리에게 주는 교훈은 명확하다. 인공지능을 맹신해서는 안 된다는 것이다. 인공지능은 도구일 뿐이며, 그 도구의 한계를 이해하고 적절히 활용해야 한다. 특히 의료나 금융처럼 정확성이 중요한 분야에서는 인공지능의 결과를 무조건 신뢰하기보다, 인간의 판단과 검증이 병행되어야 한다. 인공지능이 내놓은 답이 매번 다르다면, 우리는 그 답을 어떻게 해석하고 활용해야 할까? 이 질문에 대한 답은 아직 명확하지 않지만, 적어도 한 가지는 확실하다. 인공지능의 불확실성을 인정하고, 그 한계를 이해하는 것이 시작이라는 점이다.
기술은 언제나 인간의 삶을 더 편리하고 효율적으로 만들겠다는 약속을 담고 있다. 하지만 그 약속이 언제든 깨질 수 있다는 가능성도 함께 안고 있다. 인공지능의 발전은 우리에게 새로운 가능성을 열어주었지만, 동시에 새로운 책임도 지워주었다. 우리는 이제 인공지능의 불확실성을 이해하고, 그 한계를 극복하기 위한 방법을 모색해야 한다. 그것이 기술의 발전을 진정으로 의미 있는 방향으로 이끄는 길이 될 것이다.
이 실험에 대한 더 자세한 내용은 여기에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
