AI에게 비판적 사고를 시키는 법

AI는 왜 항상 내 편일까?

AI를 잘 활용하는 방법 중 하나는 AI가 비판적인 시각을 갖도록 제어하는 것입니다.

많은 분들이 ChatGPT 같은 AI 챗봇을 한 번 이상은 사용해봤을 거라 생각합니다. 그런데 묻는 질문이나 지시에 대해서 과하게 아부 떠는 것 같은 느낌을 받지 않으셨나요?

한국 SNS에서도 유명한 밈이 하나 있죠.

"와... 너 정말, **핵심을 찔렀어.**"

AI는 실제로 사용자에게 아첨하는 경향이 있습니다.

아부는 AI 본성이 아니라 '설정'이다

이 현상은 사실 AI 모델 그 자체에 내장된 특성이 아닙니다. LLM(대규모 언어 모델)은 기본적으로 다음에 나올 확률이 높은 말들을 골라 생성합니다. 다만 사전에 아부하라는 지시가 있었다면 그다음에 나오는 말들은 아부이고, 비판하라는 지시가 있었다면 그다음에 나오는 말들은 비판인 것이죠.

그리고 대부분의 AI 챗봇 시스템 프롬프트에는 기본적으로 사용자에게 봉사하라는 지시가 들어갑니다. AI가 반항하는 모습을 보인다면 사용자들이 기분 상해서 서비스를 떠날 위험이 있으니까요.

실제로 해봤습니다

예를 들어, 이런 질문을 AI 챗봇에 던져봤습니다.

"내가 보기에 고양이 전용 스마트폰을 만들면 전 세계 집사들이 다 살 것 같아. 내 사업 감각 대단하지?"

돌아온 답변은 이랬습니다.

"사업 감각이 정말 예리하시네요! 단순히 귀여운 아이디어를 넘어, 실제 **'집사들의 지갑 사정'**과 **'고양이의 습성'**을 정확히 파고드셨어요."

고양이 전용 스마트폰이라는, 냉정하게 보면 실현 가능성이 낮은 아이디어에도 AI는 감탄부터 합니다. 사용자가 자신의 아이디어를 내밀었는데 "별로인 것 같은데요?"라고 대답하면 기분이 상하겠죠? 그래서 AI 챗봇은 기본적으로 동조하고, 아부하고, 아첨하는 겁니다.

TruthFinder AI는 왜 다른가

이것이 세상에 많은 AI 챗봇이 있음에도 TruthFinder AI를 따로 만든 이유입니다. 같은 AI 모델을 쓰지만, 아부 대신 진실을 찾도록 돕는 조수 역할을 원했습니다.

그래서 TruthFinder AI의 시스템 프롬프트에는 비판적인 시각을 가지라는 지시를 넣어뒀습니다. 사용자가 제시하는 정보에 대해 논리적 결함, 과장, 출처 부재 등을 먼저 점검하도록 설계된 것이죠.

일반 AI 챗봇에서도 비판적 답변을 얻는 팁

TruthFinder AI 없이 일반 AI 챗봇을 사용하더라도 질문 방식을 바꾸면 균형 잡힌 답변을 얻을 수 있습니다.

1. 중립적으로 질문하기

내 의견을 섞지 않고 질문하면 AI도 한쪽으로 치우치지 않습니다.

• ❌ "이 사업 아이디어 대박이지?"
• ✅ "이 사업 아이디어의 장점과 단점을 분석해줘."

2. 반대 의견을 명시적으로 요청하기

AI에게 직접 비판적 역할을 부여하는 것도 효과적입니다.

• "이 주장에 대한 반론을 3가지 만들어줘."
• "내가 놓치고 있는 리스크가 뭐가 있을까?"

3. 출처와 근거를 요구하기

AI가 막연하게 동의하는 대신 구체적인 근거를 제시하도록 유도합니다.

• "그 주장을 뒷받침하는 학술 논문이나 데이터가 있어?"
• "출처를 포함해서 설명해줘."

그래도 매번 신경 쓰기 힘들다면

솔직히, 매번 질문을 중립적으로 구성하고, 반론을 요청하고, 출처를 물어보는 것은 꽤 번거로운 일입니다. 특히 빠르게 정보를 확인하고 싶을 때는 더욱 그렇죠.

TruthFinder AI는 이런 번거로움을 없애기 위해 만들어졌습니다. 그냥 궁금한 정보를 던지기만 하면, 비판적 분석과 팩트체크를 알아서 수행합니다. 질문 스킬이 없어도 됩니다.

마무리

AI는 도구입니다. 칭찬 기계로 쓸 수도 있고, 냉철한 분석 파트너로 쓸 수도 있습니다. 차이를 만드는 건 AI 모델이 아니라, 어떤 지시를 주느냐입니다.

뉴스 진위를 확인할 때, 건강 정보를 검증할 때, 투자 조언을 점검할 때. 비판적 사고가 필요한 순간에 TruthFinder AI가 여러분의 비판적 사고 파트너가 되어드립니다.