ChatGPT와 같은 대형언어모델(LLM)이 놀라운 성능을 보여주고 있지만, 법률이나 의료 같은 전문 분야에서는 치명적인 약점이 있습니다. 바로 사실이 아닌 것을 그럴듯하게 지어내는 환각(Hallucination) 현상입니다.
수리비 분쟁에서 AI 환각의 위험성
"세면대가 깨졌는데 누가 변상해야 해?"라는 질문에 일반적인 AI 챗봇은 "세입자의 고의가 없다면 집주인이 해주는 것이 일반적입니다. (대법원 2019다...)" 식으로 답변할 수 있습니다. 문제는 저 판례 번호가 아예 존재하지 않거나 전혀 다른 사건(예: 토지 경계 분쟁)의 판례일 수 있다는 점입니다. 이런 잘못된 정보로 임대인에게 따졌다가 오히려 더 큰 갈등을 빚게 됩니다.
수리남의 해결책: 로직 디커플링과 RAG
수리남 개발팀은 이 문제를 해결하기 위해 AI의 역할을 엄격하게 제한하고 분리하는 '로직 디커플링(Logic Decoupling)' 구조를 특허 출원했습니다.
- Vision AI의 역할: 오직 사진을 분석하여 '파손의 물리적 상태(예: 방사형 균열, 자연 변색 등)'만 판독합니다. 법적 판단은 일절 하지 않습니다.
- RAG (검색 증강 생성) 시스템: 판독된 물리적 상태와 건물 연식 데이터를 가지고, 수리남이 자체 구축한 대법원 판례 및 국토교통부 주택임대차 가이드라인 DB에서 정확히 일치하는 문서만 '검색(Retrieve)'해옵니다.
- 최종 리포팅: AI는 스스로 문장을 창작하지 않고, 검색된 공식 문서의 텍스트와 과실 비율 테이블을 조합하여 결과를 출력합니다.
🚀 결과: 0% 환각률 달성
이러한 아키텍처 덕분에 수리남 시스템은 베타 테스트 기간 동안 법률 해석과 관련된 환각 현상이 단 한 건도 발생하지 않았습니다. 우리는 기술이 사람을 돕기 위해서는 무엇보다 '신뢰'가 우선되어야 한다고 믿습니다.
앞으로도 수리남은 가장 정확하고 신뢰할 수 있는 분쟁 해결 기준을 제시하기 위해 알고리즘을 고도화해 나갈 것입니다.