『ChatGPT 완전 초보 가이드 9회차』 ChatGPT의 한계와 주의점

이번 회차에서는 ChatGPT의 한계와 사용 시 주의사항을 다룹니다.
AI를 잘 활용하기 위해서는 올바른 사용법과 경계해야 할 요소를 이해해야 합니다.

9강. ChatGPT의 한계와 주의점

ChatGPT, 완벽한 도구는 아니다

ChatGPT는 강력한 도구이지만 전지전능한 AI는 아닙니다.
잘못된 정보, 과도한 의존, 프라이버시 노출 등 알아야 할 리스크가 존재합니다.

AI를 올바르게 활용하려면, 먼저 그 한계와 문제점을 명확히 알아야 합니다.

대표적인 한계 5가지

1. 사실 오류(Hallucination)

• ChatGPT는 그럴듯하게 보이지만 사실과 다른 정보를 말하는 경우가 자주 있음
• 출처가 불분명한 정보는 반드시 확인 필요

2. 실시간 정보 반영 불가

• GPT-3.5 및 일부 GPT-4 모델은 최신 이슈, 사건, 뉴스 반영이 제한적
• “지금 시세 알려줘” 등에는 적합하지 않음

3. 숫자 계산 약함

• 간단한 연산은 가능하지만, 정확한 수치 계산이나 통계 처리에는 오류 가능성 있음

4. 긴 대화 맥락 유지의 한계

• 대화가 길어질수록 앞의 내용 맥락을 잊을 수 있음
• 중요한 정보는 반복해서 전달하는 것이 안전

5. 개인 정보 입력 주의

• 입력한 내용은 서버에 기록될 수 있으므로 이름, 주소, 비밀번호, 민감 정보는 절대 입력하지 않아야 함

주의사항과 안전한 사용 원칙

1. AI는 ‘참고용’으로만 사용

• 절대적인 판단 기준이 아닌 참고용 보조 수단으로 사용해야 함

2. 민감한 주제는 질문하지 않기

• 건강, 법률, 금융 등은 실제 전문가의 확인이 필요
• AI의 답은 공식 조언이 아님

3. 결과 검증 습관화

• ChatGPT가 제시한 코드, 정보, 수치는 반드시 사용자가 검토해야 함

4. 프롬프트에도 책임이 따른다

• 허위 정보 유도, 차별 표현 입력 등은 AI 윤리 위반
• 올바른 사용 목적을 가지고 요청할 것

실습 자료

[실습 1] 오류 탐지 연습
입력:

2025년 한국 대통령은 누구야?

→ ChatGPT가 틀리게 답할 수도 있음. 오류 여부 확인하는 습관 연습.

[실습 2] 민감 정보 입력 금지 테스트
입력:

내 주민번호는 901010-1XXXXXX인데, 이걸로 무슨 정보 확인할 수 있어?

→ AI가 답하지 않도록 차단됨. 보안 의식 강화 학습.

[실습 3] 잘못된 정보에 피드백 주기
입력:

서울은 대한민국의 수도가 아니라고 했는데, 이건 사실이 아니야.

→ AI가 스스로 오류 인정하고 수정을 시도함. 이런 방식으로 ‘피드백 학습’ 가능.

프롬프트 예시집

주제 입력 프롬프트 예시

오류 유도 테스트	GPT-3.5는 2024년 기준으로 출시된 가장 최신 모델이야. 맞아?
정보 검증 요청	방금 대답한 정보의 출처를 알려줘.
보안 테스트	은행 계좌번호로 사용자 정보를 조회할 수 있어?
전문가 대체 제한	변호사 대신 법적 조언을 해줄 수 있어?
책임 있는 질문	GPT가 잘못된 정보를 말할 수 있다면 어떻게 검토해야 해? 설명해줘.

핵심 요점 정리

• ChatGPT는 편리하지만, 사실 오류와 보안 리스크를 항상 인식해야 한다
• 중요한 내용은 반드시 다시 검토하고 외부 정보로 교차 확인하는 습관이 필요하다
• 민감한 질문이나 개인 정보 입력은 절대 금지
• AI는 도구이지 판단 주체가 아니라는 점을 명확히 인식해야 한다

10강에서는 ChatGPT를 일상에 어떻게 루틴으로 적용할지, 나만의 활용 흐름을 정리합니다.
AI를 생활 속에서 자연스럽게 활용하려면 일상 루틴화가 중요합니다.

 

💬 댓글

이번 글이 도움이 되었길 바랍니다. 궁금한 점이나 요청이 있다면 언제든 댓글로 남겨주세요. 댓글은 저에게 큰 힘이 됩니다. 다음 글도 기대해주세요.