FireRed-OCR-2B: GRPO 기반 문서 구조식 할루시닝 혁신 분석

1. LVLM의 구조적 할루시닝 문제, 왜 중요한가?

문서를 디지털로 변환하는 광학 문자 인식(OCR) 기술은 빠르게 발전하고 있다. 그러나 기존 OCR과 대규모 비전-언어 모델(LVLM)은 문서 구조적 할루시닝에 쉽게 노출된다. 구조적 할루시닝이란, 표나 수식, 계층 구조 등 문서의 구조적 요소가 이미지에 분명히 존재함에도 모델이 잘못된 구조로 결과를 내는 현상이다.

복잡한 재무 보고서 또는 논문에 존재하는 표와 수식을 인식할 때, 기존 모델은 실제 존재하지 않는 태그를 추가하거나, 표의 행과 열을 틀리게 연결하는 문제가 자주 발생했다. 이는 단순 문자 인식 실패와 달리 전체 문서 구조를 훼손하여 자동 문서 처리 파이프라인에 심각한 장애를 초래했다.

FireRedTeam은 이러한 문제를 인지하고, 문서 파싱을 단순 문자인식이 아닌 구조적 엔지니어링 문제로 재정의했다. 기존 파인튜닝의 한계를 넘어, 모델이 구조적 무결성을 스스로 판단하고 보존하도록 학습시키는 새로운 접근을 시작한 것이다.

2. FireRed-OCR-2B와 Qwen3-VL-2B-Instruct 아키텍처

FireRed-OCR-2B는 알리바바 클라우드의 Qwen3-VL-2B-Instruct를 기반으로 구축된 문서 인식 전문 모델이다. Qwen3-VL 시리즈는 대규모 비전-언어 통합 모델로, 문서 이미지의 공간적 관계와 언어 정보를 함께 처리한다.

이 모델의 장점은 문서의 시각적 요소(표, 수식, 레이아웃)와 텍스트를 통합적으로 분석하는 능력에 있다. 하지만 사전 학습된 상태에서는 구조적 할루시닝 문제를 완전히 해결하지 못했으므로 FireRedTeam은 ‘진행형 학습 파이프라인’을 개발했다.

학습 파이프라인은 세 단계로 운영된다. 첫 단계는 ‘공간 정렬’을 통해 문서의 시각 구조와 텍스트 위치를 정확하게 맞추도록 한다. 두 번째는 ‘마크다운 특화 SFT(지도학습)’로 문서 구조 마크다운 변환을 정밀하게 학습한다. 마지막 단계에서 핵심인 Format-Constrained GRPO로 구조적 정확성을 강화학습으로 극대화한다.

3. Format-Constrained GRPO의 혁신

GRPO(Group Relative Policy Optimization)는 기존 강화학습 방식을 구조적 출력에 최적화한 기법이다. FireRedTeam의 Format-Constrained GRPO는 단순한 텍스트 정확성 평가가 아니라 구조의 품질 자체를 주요 평가 기준으로 삼았다.

이 방식은 세 가지 구조적 요소를 중심으로 평가한다. 첫째, 수식 유효성으로 LaTeX 수식 문법이 적절한지 검증한다. 둘째, 표와 계층 구조 완전성으로 표의 행과 열이 정확하게 연결되어 있는지 확인한다. 셋째, 태그 닫힘으로 모든 구조적 태그(Markdown/HTML/LaTeX)가 올바르게 열리고 닫히는지 검사한다.

이런 다차원 평가 구조로 단순히 그럴듯한 결과물을 넘어, 실제 문서 변환에 활용 가능한 구조적 데이터를 도출한다. GRPO 적용 결과, 기존 파인튜닝 방식 대비 구조 유지와 태그 정확성에서 우수한 성능을 보였으며, 강화학습이 구조적 엔지니어링에 매우 효과적임을 입증하였다.

FireRed-OCR-2B는 OmniDocBench v1.5에서 92.94%의 최고의 성능을 기록하며, 문서 파싱의 실무 영역에서도 바로 활용 가능한 구조적 정확성을 인증받았다.

4. 실무 적용 사례 및 기대 효과

FireRed-OCR-2B는 기업 문서 자동화, 논문 파싱, 계약서 분석 등 다양한 분야에서 혁신을 기대할 수 있다. 특히 재무보고서나 논문처럼 복잡한 표와 수식이 포함된 문서는 기존 OCR보다 별도 후처리 없이 높은 정확도로 구조를 변환한다.

개발자 입장에선 구조적 할루시닝 감소로 인해 문서 변환 파이프라인 오류 수정 비용이 크게 절약된다. 마크다운이나 LaTeX로 변환된 문서 후편집 과정의 번거로움도 줄어들며, FireRed-OCR-2B가 API로 제공될 경우 기존 시스템에 수월하게 결합할 수 있다.

연구자에게는 GRPO 기반 구조적 학습법이 문서 인식 연구의 새 방향을 제시한다. Format-Constrained GRPO의 평가 프레임워크는 앞으로 더 다양한 문서 유형에 확장될 수 있고, 멀티모달 모델 구조적 능력의 벤치마크 지표로도 활용이 가능하다.

🧠 기술 시사점 및 전망

FireRed-OCR-2B 출현으로 OCR은 단순 문자 인식을 넘어 구조적 지능의 시대로 진입했다. GRPO 기반 구조 보존 학습은 LVLM 한계를 극복하는 실질적 방법으로 검증됐고, 앞으로 더욱 복합적이고 다양한 문서(복합 문서, 다국어 문서, 필기 문서 등)로 확장될 수 있다.

현재 2B 파라미터 모델로 SOTA를 달성한 점에서, 더 큰 모델이나 도메인 특화 학습을 통해 추가적인 성능 향상이 예상된다. 구조적 정확성 평가 프레임워크의 표준화는 문서 인식 기술의 품질 관리에도 도움이 될 전망이다.

FireRed-OCR-2B는 구조적 할루시닝 문제의 혁신적 해결책을 제시하며, 자동화 문서 처리 시스템을 구축하는 기업이나 문서 분석 기술을 연구하는 기관에 매우 실용적인 가치를 제공한다. OCR 및 문서 인식 시장은 구조적 지능을 갖춘 차세대 솔루션으로 빠르게 재편될 가능성이 높다.