Hereby: AI를 계약 업무의 신뢰할 수 있는 도구로 만들다

Hereby는 계약의 준비와 검토, 체결, 체결 후 관리까지 하나의 흐름으로 연결하는 AI 기반 계약 관리 플랫폼이었다. 나는 백엔드와 AI 개발을 맡는 동시에 요구사항을 제품으로 구체화하고 출시하는 과정에 참여했다. OCR과 LLM을 붙이는 것보다, 불완전할 수 있는 AI의 결과를 사용자가 확인하고 실제 계약 업무에 안전하게 활용하도록 만드는 일이 더 큰 과제였다.

해결하려던 문제

계약 정보는 여러 곳에 흩어지기 쉽다. 원문 파일과 수정본, 이메일과 메신저의 협의 내용, 체결 후 지켜야 할 일정이 서로 다른 도구에 남는다. 필요한 조항을 찾거나 누락된 정보를 확인할 때마다 사람이 문서를 처음부터 읽고, 이미 합의한 내용을 다시 추적해야 한다.

Hereby는 계약 문서와 구조화된 데이터, 조치 이력을 한 화면에 연결하고 AI가 검토와 후속 업무를 돕도록 설계했다. 목표는 법률적 판단을 자동으로 대신하는 것이 아니라, 반복적인 확인과 정보 정리에 쓰이는 시간을 줄이고 사용자가 중요한 판단에 집중하게 하는 것이었다.

Hereby 계약 뷰어와 AI 어시스턴트 — 계약 원문, 조치 이력과 검토 가이드를 함께 보여주는 Hereby의 계약 화면.

맡은 역할

FIG 소속 소프트웨어 엔지니어
Python 백엔드 및 AI 기능 개발
제품 요구사항 정의와 출시 실행
내부 LLM 추론 인프라 구축

기간: 2024년 12월–2026년 3월

문서를 데이터로 바꾸는 과정

계약서는 일반적인 텍스트 파일이 아니다. 표와 서명, 주석, 페이지 배치가 의미를 가지며 스캔 품질도 일정하지 않다. OCR 결과에 오류가 있으면 이후의 조항 추출과 요약도 함께 흔들린다. 그래서 문서를 입력받아 텍스트와 구조를 추출하고, 결과를 검증 가능한 데이터로 정리한 뒤 제품 기능에 전달하는 파이프라인을 설계했다.

추출된 결과는 원문과 분리된 정답처럼 취급하지 않았다. 사용자가 해당 정보가 문서의 어느 부분에서 나왔는지 확인하고, 잘못된 값을 수정할 수 있어야 했다. AI의 편리함을 높이면서도 원문으로 돌아갈 수 있는 경로를 남기는 것이 신뢰의 핵심이었다.

AI 어시스턴트와 에이전트 워크플로우

LLM과 에이전트 워크플로우를 이용해 누락되거나 부정확한 필드를 찾고, 계약 검토와 후속 조치의 다음 단계를 안내하는 기능을 구현했다. 단순히 긴 계약서를 요약하는 데서 멈추지 않고, 사용자가 지금 확인해야 할 사항과 실행할 작업으로 결과를 연결하려 했다.

실제 제품에서는 같은 질문에도 문서와 맥락에 따라 답의 품질이 달라질 수 있다. 프롬프트만 조정하는 방식으로는 충분하지 않았다. 입력 데이터를 정리하고, 에이전트가 사용할 도구와 범위를 제한하며, 결과를 제품의 데이터 구조에 맞게 검증하는 과정을 함께 개선했다. AI가 확신할 수 없는 경우에는 그 사실을 드러내고 사용자에게 판단을 돌려주는 흐름도 중요했다.

내부 추론 인프라

제품 워크로드를 지원하기 위해 vLLM 기반의 내부 LLM 추론 인프라를 구축했다. 모델을 실행하는 것 자체보다 운영 환경에서 요청을 안정적으로 처리하고, 지연과 자원 사용을 관찰하며, 문제가 발생했을 때 원인을 찾을 수 있게 하는 데 집중했다.

계약 데이터는 민감할 수 있기 때문에 처리 환경과 접근 범위도 제품 설계의 일부였다. 품질과 비용, 응답 속도뿐 아니라 데이터가 어디에서 어떻게 처리되는지를 함께 고려해야 했다. 내부 추론 기반은 이런 요구를 통제하면서 향후 모델과 기능을 확장할 수 있는 토대가 되었다.

제품 실행

기술 개발과 함께 요구사항을 정의하고 마일스톤을 정리하며 이해관계자를 조율했다. AI 제품에서는 “가능하다”는 데모와 “출시할 수 있다”는 판단 사이의 간격이 크다. 예외 상황과 품질 기준, 운영 비용을 확인한 뒤 어떤 범위까지 사용자에게 제공할지를 결정해야 했다.

백엔드와 AI를 직접 구현하면서 제품 결정을 함께 맡은 경험은 이 간격을 줄이는 데 도움이 되었다. 요구사항이 기술적으로 어떤 비용을 만들고, 모델의 한계가 UX에서 어떻게 설명되어야 하는지를 빠르게 연결할 수 있었다.

결과와 배운 점

OCR과 LLM을 이용한 계약 처리 기반, 내부 추론 인프라와 AI 어시스턴트를 제품에 연결했다. 계약 검토와 운영 과정에서 반복되는 정보 확인을 줄이고, 원문과 구조화된 데이터, 후속 작업을 하나의 흐름으로 다룰 수 있게 했다.

Hereby를 만들며 가장 크게 배운 것은 AI 제품의 품질이 답변의 그럴듯함으로 결정되지 않는다는 점이었다. 사용자가 근거를 확인할 수 있어야 하고, 오류를 수정할 수 있어야 하며, 중요한 판단의 책임이 어디에 있는지 분명해야 한다. 계약처럼 신뢰가 중요한 영역에서 AI는 사람을 대신하는 검은 상자가 아니라, 사람의 판단을 더 정확하고 빠르게 만드는 확인 가능한 도구여야 했다.

링크

제품: hereby.me

기술: Python, vLLM, OCR, LLM, AI 에이전트, 백엔드, 제품 관리