AI가 틀리는 이유: 환각 이해하기

자신만만하게 틀리는 AI, 어떻게 알아챌까?

한 줄로 말하면

환각은 AI가 사실이 아닌 걸 진짜처럼 자신 있게 말하는 것이야. AI는 "사실"이 아니라 "그럴듯한 말"을 만들기 때문에 생겨.

AI가 얼마나 똑똑해지든 환각은 줄어들 뿐 완전히 사라지진 않아. 그래서 "AI를 믿을까 말까"가 아니라 "어떻게 확인할까"를 배우는 게 중요해.

환각은 왜 생길까?

• ① 그럴듯함 ≠ 사실: AI는 확률적으로 자연스러운 다음 조각을 고를 뿐, 사실인지 따로 검사하지 않아.
• ② 학습이 끝난 시점이 있어: 학습 기준일 이후에 나온 라이브러리 버전이나 새 기능은 기본적으로 몰라. 그래서 옛날 방식을 알려주기도 해.
• ③ 내 상황을 못 봤어: 네 프로젝트의 파일, 버전, 설정을 안 보여주면 "보통 이렇더라"로 추측해서 채워.
• ④ 비슷한 것끼리 섞여: 비슷한 이름의 라이브러리 두 개의 사용법을 섞어서 존재하지 않는 조합을 만들기도 해.

코딩에서 자주 보는 환각 5가지

1. 없는 함수·옵션: 그럴듯한 이름의 함수를 지어내. 실행하면 "is not a function" 에러가 나.
2. 없는 패키지: 존재하지 않는 패키지 설치를 권해. 이걸 노린 가짜 악성 패키지도 있어서 위험해.
3. 옛날 문법: 몇 버전 전의 사용법으로 코드를 짜.
4. 거짓 완료 보고: "테스트 통과했어요", "고쳤어요"라고 하는데 실제론 안 돌려봤거나 안 고쳐졌어.
5. 지어낸 근거: 존재하지 않는 문서 링크나 설정 이름을 출처처럼 제시해.

환각을 잡는 습관

• ✅ 실행해 보기: 가장 확실한 검증이야. 코드는 돌려보면 거짓말을 못 해.
• ✅ 공식 문서 확인: 처음 보는 함수·옵션·패키지는 공식 문서에서 검색해 봐.
• ✅ 근거 묻기: "이 함수가 있다는 근거(문서 링크)를 알려줘"
• ✅ 모르면 모른다고 하라고 하기: 프롬프트에 대놓고 적어줘.
• ✅ 다른 각도로 다시 묻기: "이 코드에 문제가 있다면 뭘까?"라고 비판적으로 다시 물어봐.

확인 퀴즈

무료 · 카카오로 바로 시작 · 레슨 243개