로컬 LLM 에이전트 개발과 테스트를 한곳에서, 툴 검색과 HITL 승인 그리고 MCP 연동까지 한 번에 정리

로컬 LLM 에이전트를 만들 때 가장 번거로운 부분은 개발, 테스트, 툴 등록, 승인 흐름, 외부 데이터 연동을 각각 다른 환경에서 다뤄야 하는 지점이다. spring-ai-community에서 공개한 신규 도구는 이 다섯 가지를 단일 워크스페이스에서 묶어, 노트북 한 대로 한국 공공데이터까지 연결하는 데모를 1분 21초 영상으로 시연했다. 본문에서는 그 구성과 의의를 순서대로 풀어본다.

1. 로컬 LLM 에이전트 개발 환경의 통합 흐름

1-1. 왜 ‘한곳에서’ 통합해야 하는가

에이전트 프로젝트는 보통 모델 러닝, 프롬프트 실험, 툴 레지스트리, 실행 로그, 외부 API 연동을 분리된 저장소와 도구로 운영한다. 분리 구조는 초기에는 깔끔하지만, 디버깅 단계에서 로그와 툴 호출을 교차로 추적하기 어렵고 컨텍스트가 분산된다. 본 데모는 이 통합을 하나의 UI 안에서 다루는 방향으로 정리되어, 에이전트 호출과 툴 실행을 같은 화면에서 추적할 수 있게 했다.

1-2. 툴 검색과 컨텍스트 관리

에이전트가 사용할 수 있는 툴이 늘면 프롬프트에 모든 정의를 끼워 넣기 어려워진다. 데모에 사용된 도구는 툴 레지스트리를 별도로 두고, 에이전트가 필요할 때만 시맨틱 또는 키워드 기반으로 툴을 검색해 호출하도록 설계된 것으로 보인다. 이 방식은 컨텍스트 길이가 작은 9B 모델에서도 도구 선택 누락을 줄이는 데 유리하다.

2. spring-ai-community 프로젝트 개요

2-1. 9B 로컬 모델 선택의 의미

데모에 사용된 모델은 9B 파라미터 규모 로컬 모델로 소개된다. 9B 모델은 한국어 지시 따르기와 도구 호출 포맷 준수에서 상위 모델과 차이가 있을 수 있지만, GPU 자원이 제한된 노트북 환경에서도 충분히 구동 가능한 크기라는 장점이 있다. 공개 시연에서 한국어 통계 질의와 차트 생성까지 무리 없이 진행된 점은 작은 모델로도 에이전트 워크플로를 구성할 수 있음을 보여주는 사례로 분석된다.

2-2. 노트북 환경에서 동작

별도의 클라우드 GPU나 API 키 없이 로컬 추론만으로 에이전트가 동작했다는 점이 주목할 부분이다. 개발자가 노트북 한 대로 외부 서비스 연결까지 검증할 수 있다는 것은, 에이전트 학습과 배포 진입 장벽을 낮추는 효과와 연결된다. 다만 9B 모델의 응답 품질이 상용 모델 대비 충분한지는 사용 도메인에 따라 추가 검증이 필요하다.

3. MCP 연동과 KOSIS 시범서비스 데모

3-1. KOSIS MCP 시범서비스 소개

국가통계포털 KOSIS는 공식 MCP(Model Context Protocol) 시범서비스를 개시했다. MCP는 모델이 외부 도구와 데이터 소드를 표준 방식으로 호출하기 위한 프로토콜로, 개별 API마다 어댑터를 만들지 않아도 되는 점이 특징이다. 시범서비스 단계에서는 별도의 API 키 발급 없이 MCP 엔드포인트로 접속할 수 있도록 노출된 것으로 보인다.

3-2. 합계출산율 질의 시연 흐름

1분 21초 데모 영상에서 시연한 흐름은 다음과 같이 정리된다.

단계	사용자 입력 또는 시스템 동작
1	에이전트 워크스페이스에서 자연어로 한국 통계 질의 입력
2	에이전트가 KOSIS MCP 서버를 검색해 해당 통계 툴을 선택
3	9B 로컬 모델이 MCP 호출 포맷에 맞춰 합계출산율 조회 요청을 전송
4	KOSIS 응답 데이터를 다시 에이전트 컨텍스트로 주입해 한국어 답변 생성

3-3. 차트 생성 및 CSV 저장

조회된 통계는 텍스트 답변뿐 아니라 차트 이미지로 시각화되었고, 로컬 파일 시스템에 CSV로 저장하는 작업도 포함됐다. 파일 쓰기는 위험 동작으로 분류되므로 HITL 승인이 트리거되도록 설계되어, 자동 저장 전에 사용자 확인을 거치게 된다. 이 구간이 에이전트 자율성과 통제권 사이의 균형점을 보여주는 핵심 장면이다.

4. HITL 승인 UI의 필요성과 구현

4-1. 파일 쓰기 등 위험 작업 정의

HITL(Human-in-the-Loop)은 단순한 확인 차단을 넘어 위험 동작을 분류하는 정책이 필요하다. 데모에서는 적어도 다음 두 가지 범주가 위험 작업으로 정의된 것으로 보인다.

• 로컬 파일 시스템에 쓰기 또는 삭제
• 외부 시스템에 데이터 전송 또는 결제성 호출

이와 같이 읽기 전용 조회는 자동 허용하고, 상태를 변경하는 호출만 승인 창을 띄우는 방식이 기본 패턴으로 자리 잡고 있다.

4-2. UI 승인 창 UX 설계

승인 창은 단순한 허용/거부 버튼만 노출하지 않고, 호출 대상 툴 이름과 인자, 예상 결과물을 함께 표시해 사용자가 결정 근거를 확인할 수 있게 구성되었다. 승인 이력은 로그로 남기 때문에 디버깅과 감사가 동시에 가능하다. 이 설계는 오픈소스 에이전트 도구가 실무에 안착하기 위한 최소한의 거버넌스 장치로 평가된다.

5. 한국 공공데이터의 에이전트 호환성

5-1. 공공데이터의 MCP 공개 의의

KOSIS가 MCP 형식으로 통계를 노출한 것은 단순한 API 제공을 넘어 표준 프로토콜 기반 진입로를 연다는 점에서 의미가 크다. 어떤 모델이든 MCP 클라이언트만 구현돼 있으면 동일한 절차로 통계에 접근할 수 있어, 특정 벤더 종속성이 줄어든다. 다만 시범서비스 범위에서 제공되는 데이터 항목과 호출 한도가 어떻게 운영될지는 운영 정책에 따라 달라질 수 있다.

5-2. 오픈소스 에이전트 생태계 확장 가능성

에이전트 프레임워크, 툴 레지스트리, 공공 MCP가 결합되면 국내 개발자 입장에서는 누구나 동일한 환경에서 빠르게 프로토타입을 만들 수 있다. spring-ai-community가 공개한 워크스페이스는 그 출발점으로 기능하며, 앞으로 도메인별 MCP 서버가 늘어날수록 에이전트 응용 범위가 비선형으로 확장될 것으로 보인다. 다만 본 평가는 공개 데모 영상과 원문 기사 내용에 기반한 개인 분석이며, 실 서비스 성능과는 차이가 있을 수 있다.

참고 출처: GeekNews 토픽 #31719 (Show GN), spring-ai-community GitHub 저장소, 데모 영상 (한국어 자막)