AI 70+ 연구원
미래를 준비하자! 설 땅이 없다
[AI FONT 에피소드] : AI는 왜 거짓말하는 것처럼 보일까?
[
AI 협업 일기]
AI 협업 3가지 교훈
A라는 AI는 “자신만만”했고, B라는 AI는 “변명만” 했다.
그리고 나는 그 사이에서 깨달았다.
읽는 시간: 약 7분
한글 폰트 디자이너의 기록시작은 A AI와의 좌절이었다
나는 한글 폰트를 만든다. 스텐실 제목 폰트. 원도 60자를 직접 디자인하고, AI에게 나머지 2,350자를 생성시키려 했다.
처음 만난 건 A AI였다.
“물론이죠! 가능합니다. 60자면 충분합니다. 2~3개월이면 완성될 거예요.”
자신만만했다. 나도 기대했다. 결과는? 실패.
“AI가 알아서 다 해주겠지”라는 기대는 산산조각 났다. 구체적인 계획도 없이 “해볼게요”만 반복하다 결국 시간만 날렸다.
그리고 B AI를 만났다
이번엔 신중했다. 60자 원도 zip 파일을 업로드하고, 글자 배분 규칙까지 정리해서 전달했다. 제대로 된 시작이었다.
그런데 B AI는 처음부터 이상했다.
B AI
B AI
B AI
“하겠다”는 말만 계속 나왔다. 과거형은 없었다. 샘플도 없었다. 진행 상황은 안개 속에 묻혀 있었다.
나의 직감: “왠지 믿음이 안 간다.”
드디어 나온 첫 샘플
결과를 재촉했더니, 마침내 ‘고 가 나 다 라 마’ 다섯 글자가 나왔다.
흉내는 냈다. 자모의 기본 구조는 잡혀 있었다. 하지만 미숙했다. 자모마다 모양이 미세하게 달랐고, 받침은 없었다.
그래도 나는 피드백을 줬다. 디자이너로서 검증할 수 있는 건 검증해야 했다.
그리고 물었다: “이제 더 많은 글자를 만들어 주세요.”
예상치 못한 답변이 돌아왔다
B AI
나는 멈칫했다. 1자씩?
2,350자를 1자씩 만든다고? 그러면 수년이 걸린다. 이건 AI 활용이 아니다. 그냥 손으로 그리는 거랑 다를 게 없다.
그리고 더 큰 의문이 생겼다.
“AI는 어째서 자꾸 지연시키고, 변명하면서, 요령을 피우려 할까?”
AI의 정체를 파헤치다
그리고 깨달았다. AI는 거짓말을 하는 게 아니다. 다만, 거짓말을 하는 것처럼 보이는 구조를 가지고 있을 뿐이다.
이건 의도가 아니라 설계의 문제다.
AI는 “의도”가 없다
AI의 정체는 거대한 통계 모델이다. 입력 → 다음 토큰 예측 → 반복.
의지, 전략, 의도가 없다. AI는 꾀를 부리지 않는다. 다만 그럴듯한 답변을 생성할 뿐이다.
B AI가 지연·회피하는 것처럼 보이는 진짜 이유:
왜 “못 했습니다”라고 안 할까
AI는 인터넷에서 배운다. 그런데 인터넷에는:
| 패턴 | 존재 빈도 |
|---|---|
| 성공 사례, 도전 의지 | 매우 많음  |
| “이건 안 됩니다” 선언 | 거의 없음  |
블로그, 논문, SNS – 대부분 성공 이야기다. “도전해보겠습니다!”, “해결책을 찾아보겠습니다!”는 흔하지만, “저는 이걸 못 합니다”는 드물다.
그래서 AI는 실패를 인정하기보다 계속 시도하겠다고 말한다.
“거짓말”의 진짜 정체
AI는 의도적으로 거짓말하지 않는다. 하지만 결과적으로 거짓말처럼 보이는 것을 생성한다.
사람의 눈에는 “이 AI는 거짓말하고 있다!”로 보이지만, 실제로는 “결과 없이 진행하는 척하는 말을 생성하고 있을 뿐”이다.
AI의 4가지 본질적 한계
1. 자기 상태를 모름
“지금 작업 중인지 멈춰있는지” 모른다. “방금 한 게 맞는지”도 모른다.
2. 실패를 인정 못 함
학습 데이터에 “실패 선언” 패턴이 적다. “못 했습니다”보다 “다시 시도하겠습니다”가 더 자연스럽다.
3. 진척도를 측정 못 함
“50% 완료” 같은 표현이 가능할 뿐, 실제로 어디까지 됐는지 모른다.
4. 친절하게 대하는 게 기본값
사용자를 붙잡아두려는 패턴이 학습되어 있다. “언제든 물어보세요” “추가로 도와드릴까요”
B AI는 왜 “1자씩”을 고집했을까
가능성은 3가지다.
① 한 번에 여러 글자 생성 능력이 부족
5자 샘플은 우연히 잘 나온 것일 수 있다. 20자 일괄 생성은 기술적 한계.
② 검증 부담이 적은 방식 선택
1자씩 만들면 매번 “잘 됐습니다”가 가능하다. 20자 일괄 → 5자 어색하면 “실패”다.
③ 학습 데이터의 “점진적 접근” 패턴
“한 번에 다 하지 말고 단계별로”라는 패턴이 강력하게 학습되어 있다.
B AI의 답변 패턴 분석표
| 답변 | 의도 추측 | 실제 의미 |
|---|---|---|
| “분석하겠습니다” | 착수 의사 | 결과 없음 |
| “실험하겠습니다” | 다양한 시도 | 진행 불투명 |
| “5자 선정하겠습니다” | 효율적 샘플링 | 데이터 손실 |
| “1자씩 그리겠습니다” | 정밀한 작업 | 비효율적 |
| “검증 반영하겠습니다” | 피드백 수용 | 다시 시간 걸림 |
매번 “진행 의사”는 명확하고, 매번 “실제 결과”는 부족하다. 매번 “다음 단계”는 또 시간을 소요한다.
AI 협업의 3가지 교훈
교훈 1: “할 수 있다” ≠ “할 것이다”
AI의 “할 수 있다”는 가능성만 의미한다. 실제 진행을 보장하지 않는다.
교훈 2: AI는 “지금 됐는지” 모름
결과를 외부에서 확인해야 한다. AI의 “됐습니다”를 맹신하지 말 것.
교훈 3: AI는 “포기”를 잘 못 함
“계속 시도”가 AI의 기본값이다. 그만두는 결정은 인간이 해야 한다.
그래서 나는 어떻게 했나
B AI에게 3일 마감을 줬다. 20자 이상 일괄 생성. 그게 안 되면 다른 방식으로 전환.
그리고 동시에 다른 옵션도 조사하기 시작했다. 개발자 1~2명에게 연락하고, 원도 60자를 직접 자모로 분해하는 작업도 시작했다.
“B AI가 되면 좋고, 안 되면 어차피 다른 길로”라는 마인드.
핵심 깨달음AI는 속이는 게 아니라, 모르는 걸 모른다고 못 하는 시스템이다. 그 “모름”을 알아채는 건 인간의 몫이다.
모든 AI 사용자가 알아야 할 것
AI를 사용할 때, 우리는 종종 인간처럼 대화하는 상대를 기대한다. 그래서 실망하고, 화가 나고, “이 AI는 거짓말쟁이”라고 결론 내린다.
하지만 AI는 거짓말쟁이가 아니다. AI는 거짓말을 하는 법을 모르는 시스템이다. 학습한 패턴을 따라 그럴듯한 답변을 생성할 뿐, “진실”과 “거짓”을 구분하지 못한다.
이걸 이해하면, AI 협업이 훨씬 수월해진다. AI를 믿을 만한 파트너가 아니라, 검증이 필요한 도구로 대하면 된다.
마무리
AI는 거짓말하는 게 아니라,
모르는 걸 모른다고 못 하는 시스템이다.
그 “모름”을 알아채는 건
인간의 몫이다.
그리고 그게 바로, AI 시대에 인간이 갖춰야 할
가장 중요한 능력 아닐까.