핵심 개념
생성형 AI는 문맥에 맞는 다음 표현을 예측해 문장을 만든다. 그래서 실제로 존재하지 않는 정보도 자연스럽고 그럴듯하게 제시할 수 있다.
문장이 유창하고 구체적이라는 사실은 그 내용이 참이라는 증거가 아니다. 특히 날짜, 수치, 인용, 출처는 별도로 확인해야 한다.
AI를 사용할 때는 ‘정답 기계’로 보기보다 초안을 만들고 탐색을 돕는 도구로 이해하는 편이 안전하다.
생각해 볼 질문
- 그럴듯한 문장이 사실처럼 느껴지는 이유는 무엇일까?
- AI 답변 중 반드시 별도로 검증해야 할 정보는 무엇인가?
- AI를 효과적으로 사용하면서 오류를 줄이는 방법은 무엇일까?