프란시스 베이컨은 사람이 세계를 있는 그대로 보지 못하게 만드는 네 종류의 편견을 우상이라 불렀다. 종족·동굴·시장·극장의 우상이다. 400년 전의 분류지만, 지금 AI를 둘러싼 대화에 그대로 대입해도 놀랄 만큼 잘 맞는다. 문제는 AI가 무엇인가만이 아니다. 우리는 AI의 말을 어떤 방식으로 읽고, 몇 번의 경험을 어디까지 일반화하며, 어떤 단어와 권위에 휘둘리는가.
이 글은 AI를 단순한 자동완성기나 전능한 지능으로 규정하려는 시도가 아니다. 언어 모델, 검색 결합 시스템, 에이전트처럼 작동 방식이 다른 도구를 한 문장으로 정의할 수는 없다. 대신 AI를 사용할 때 판단을 흐리게 만드는 네 가지 습관을 베이컨의 틀로 다시 읽어 본다.
종족의 우상: 말이 자연스럽다고 마음까지 있다고 믿는 오류
종족의 우상은 인간이 자기 경험을 기준으로 세상을 해석하는 경향이다. AI가 사과하고, 농담을 받아치고, 자신감을 표현하면 사람은 그 말 뒤에 감정·의도·신념이 있다고 읽기 쉽다. 하지만 대화형 인터페이스의 유창함은 결과의 정확성이나 시스템의 자각을 보장하지 않는다. 친절한 문장과 신뢰할 수 있는 답은 다른 속성이다.
이 오류는 “AI가 나를 이해한다”는 감상에서 끝나지 않는다. AI가 거절하거나 권유할 때 그것을 도덕적 판단이나 숨은 의도로 해석하면, 실제로 확인해야 할 조건, 즉 어떤 지시를 받았는지, 어떤 도구에 접근하는지, 어떤 데이터가 문맥에 들어갔는지를 확인하지 않게 된다. 사람처럼 대화하되, 사람에게 묻는 방식으로 신뢰를 부여하지 않는 태도가 필요하다.
동굴의 우상: 내 한 번의 경험을 기술 전체의 판결로 만드는 오류
동굴의 우상은 각자가 가진 직업·관심사·경험이라는 작은 동굴에서 전체를 판단하는 오류다. 누군가는 AI에게 번역을 시켜 보고 “그저 번역기”라고 결론 내린다. 다른 누군가는 부정확한 답 하나를 받고 “아무 일에도 못 쓴다”고 말한다. 반대로 특정 업무에서 시간을 크게 줄인 사람은 모든 판단 업무가 곧 대체될 것처럼 말하기도 한다.
같은 모델도 과제, 입력 자료, 도구 연결, 검토자의 전문성에 따라 전혀 다르게 작동한다. “AI가 잘한다/못한다”는 질문보다 “어떤 입력과 검증 절차 아래에서, 어떤 실패 비용을 가진 일을 맡겼는가”가 먼저다. 개인의 체험은 출발점일 수 있지만 기술의 일반 성능표는 아니다.
시장의 우상: 비유가 설명을 대신할 때 생기는 오류
시장의 우상은 사람들이 쓰는 단어가 사고를 오도할 때 생긴다. AI가 “학습한다”, “이해한다”, “기억한다”, “환각한다”는 표현은 빠른 설명에는 편리하다. 그러나 비유를 작동 설명으로 받아들이는 순간 문제가 시작된다. 어떤 시스템의 기억은 대화창의 문맥일 수 있고, 별도 저장소에서 꺼낸 정보일 수 있으며, 사용자 계정에 연결된 설정일 수도 있다. 모두 같은 “기억”이라는 말로 묶으면 무엇을 지우고, 어디까지 남으며, 어떤 정보가 답에 쓰였는지 묻지 않게 된다.
용어를 버릴 필요는 없다. 대신 중요한 결정을 앞두고는 비유를 질문으로 되돌려야 한다. “AI가 기억한다” 대신 “다음 답을 만들 때 어떤 정보가 다시 들어가는가”, “AI가 판단했다” 대신 “어떤 규칙·모델 출력·사람의 승인으로 이 행동이 실행됐는가”라고 묻는 식이다. 언어를 더 기술적으로 바꾸자는 주장이 아니라, 단어가 감춘 작동 조건을 다시 꺼내 보자는 제안이다.
극장의 우상: 그럴듯한 형식이 검증을 대신하는 오류
극장의 우상은 잘 짜인 체계와 권위를 비판 없이 받아들이는 오류다. AI의 답변은 인용·표·단계별 논리·정돈된 문장으로 구성될 수 있다. 바로 그 형식이 위험하다. 읽기 좋은 답은 검증된 답과 다르다. NIST의 AI 위험관리 프레임워크가 신뢰성을 설계·개발·사용·평가 전반에서 다뤄야 할 문제로 보는 이유도 여기에 있다. 모델 출력 하나의 말투가 아니라, 출처 확인·평가·책임·운영 절차가 함께 있어야 신뢰가 생긴다.
특히 숫자, 법률, 의료, 보안, 정책처럼 틀렸을 때 비용이 큰 영역에서는 답변의 매끄러움보다 출처와 계산 과정을 먼저 확인해야 한다. AI에게 초안을 맡길 수는 있어도, 사실을 확정하는 책임까지 넘길 수는 없다. 답이 확신에 차 보일수록 “무엇을 근거로 했나”를 한 번 더 묻는 편이 낫다.
우상을 깨는 일은 AI를 과소평가하는 일이 아니다
베이컨의 우상론은 새로운 지식을 얻으려면 먼저 판단을 흐리는 습관을 의심해야 한다는 방법론이다. AI에도 같은 태도가 필요하다. 의인화를 멈추면 인터페이스 뒤의 조건을 보게 되고, 개인 경험의 한계를 알면 과제를 더 잘 나누게 되며, 비유를 풀어 보면 데이터와 권한의 경계를 묻게 된다. 권위 있는 문장을 그대로 믿지 않으면 검토가 필요한 지점을 찾게 된다.
이 네 가지는 AI를 멀리하기 위한 경고가 아니다. 오히려 AI를 더 정확하게 쓰기 위한 사용 설명서에 가깝다. 좋은 사용자는 AI를 덜 믿는 사람이 아니라, 어떤 답을 어디까지 믿을지 스스로 설계하는 사람이다.
출처: Stanford Encyclopedia of Philosophy, “Francis Bacon”; NIST AI Risk Management Framework; Paul van Somer I, 1617, 프랜시스 베이컨 초상 (Public Domain)
