★ 할루시네이션의 원인과 실무 원칙 챗GPT는 방대한 자료를 학습해 문맥상 가장 자연스럽게 이어질 다음 문장을 예측하는 언어 모델 이다. 문장의 앞뒤를 동시에 분석해 패턴을 찾아내 지만, 생성된 정보가 사실인지를 스스로 검증하는 기능은 없다. 즉, '할루시네이션'은 ‘정답을 찾아주는 도구’가 아니라 ‘그럴듯한 문장을 만드는 구조’인 AI 시스템의 본질적 한계에서 비롯되는 것이다. 특히 법률문서처럼 형식이 일정한 분야에서는 AI가 패턴을 합성하기 더 쉬워 허위 정보의 위험이 높아진다. 법무사는 할루시네이션 방지를 위해 다음 의 기본 원칙을 지켜야 한다. ① 판례·조문·금액·날짜 등의 사실 정보(특히 숫자 가 이어지는 정보)는 반드시 별도로 검증한다. ② “존재하지 않는 정보를 생성 말라”, “확실하지 않으면 모른다고 하라”는 조건을 명시한다. ③ AI 작성 문서는 초안으로만 활용하고, 핵심 법 리와 사실관계는 사람이 최종 검수한다. ★ 할루시네이션 감소를 위한 대안 ● RAG 방식의 활용 : 최근 할루시네이션 감소를 위한 대안으로 RAG(Retrieval-Augmented Generation)가 주목받고 있다. 답변 생성 전에 판례·조 문·서식 등 신뢰할 수 있는 자료를 먼저 검색해 그 에 기반해 문장을 생성토록 함으로써 허위정보 생성의 위험을 낮추는 방식이다. ● 챗GPT ‘프로젝트'의 '지식’ 기능 활용 : 챗GPT ‘프로젝트’ 항목 중 ‘지식’ 기능에 내가 가진 자체 자료를 업로드해 두면 RAG 방식을 도입해 할루시 네이션을 간단히 방지할 수 있다. ● 퍼플렉시티 활용 : 검색 기반 모델인 퍼플렉시티 는 쳇GPT, 클로드, 재미나이 삼총사와 다르게 검 색기반 RAG 모델이고, 출처 확인이 용이해 할루 시네이션 방지에 좋다. ● 법률서비스에 특화된 AI 활용 : 가장 좋은 것은 법률서비스에 특화된 AI를 활용하는 것이지만, 아 쉽게도 아직 법무사를 위한 완성도 높은 특화 AI 가 없다. 이에 법무사들이 협업해 실무용 판례 DB 를 구축하고 이를 챗GPT 프로젝트 지식에 학습시 켜 활용해 볼 것은 제안한다. 정확성은 결코 위임할 수 없는 영역이다. 할루 시네이션을 제대로 이해하고 통제하는 능력도 이제 는 법무사의 중요한 실무역량이 되었다. 김선미 법무사(경기중앙회) cafe2law@gmail.com 거짓정보 생성, ‘할루시네이션’을 피하는 법 최근 미국과 한국 등에서 소장·준비서면에 실제로 존재하지 않는 판례가 인용되며 큰 충격을 주었다. 이는 AI가 ‘그럴듯한 허위정보’를 생성하는 ‘할루시네이션(Hallucination)’ 현상으로, 정확성이 생명인 법무사 실무에서 AI의 한계와 이 현상의 위험성을 제대로 이해하는 것이 중요해졌다. 법무사를 위한 챗GPT 활용법 현장활용 실무지식 70
RkJQdWJsaXNoZXIy ODExNjY=