Unsloth vs Axolotl vs TRL vs LLaMA-Factory 비교 분석: 속도·VRAM·멀티 GPU 트레이드오프 가이드

오픈소스 LLM 파인튜닝 생태계는 2024년 이후 Unsloth·Axolotl·TRL·LLaMA-Factory 4종으로 사실상 수렴했고, 각 프레임워크는 서로 다른 최적화 철학을 갖고 있다. 같은 7B 모델을 같은 데이터로 학습시키더라도 프레임워크에 따라 학습 시간이 2배 이상 차이나고, 피크 VRAM은 수 GB 단위로 갈리는 경우가 흔하다. MarkTechPost는 이러한 차이를 정량 측정해 2026년 7월 22일자 비교 기사를 통해 공개했다.

왜 지금 파인튜닝 프레임워크 비교가 중요한가

LLM 파인튜닝은 이제 연구실 환경을 넘어 개인 개발자 워크플로에도 편입되었다. LoRA·QLoRA·DPO 같은 기법이 대중화되면서 진입 장벽은 낮아졌지만, 동시에 “어떤 프레임워크로 시작해야 하는가”라는 새로운 선택 비용이 발생했다. GPU 비용이 1시간 수천 원에 달하는 엔터프라이즈 환경에서 10% 속도 차이는 월 수백만 원의 비용 차이로 이어질 수 있다. 단일 GPU 환경에서는 VRAM 여유율이 곧 최대 학습 가능 모델 크기를 결정하므로 프레임워크 선택이 곧 프로젝트 성패를 가른다.

벤치마크 설계: 모델·데이터셋·하드웨어·측정 지표

동일 비교 조건 정의

MarkTechPost의 비교는 동일한 베이스 모델, 동일한 데이터셋, 동일한 하드웨어(NVIDIA GPU 1매 또는 N매), 동일한 하이퍼파라미터에서 4개 프레임워크를 순차 실행하는 방식으로 진행되었다. 모델 카드는 공개된 가중치를 그대로 사용했고, 데이터셋은 일반적으로 사용되는 instruction-tuning 데이터 일부를 샘플링해 사용한 것으로 보인다. 비교의 공정성을 위해 Flash Attention 사용 여부, mixed precision 설정, gradient checkpointing 같은 환경 변수도 함께 통제된 것으로 보인다.

평가 지표 정의

평가는 크게 세 축으로 나뉜다. 첫째, 학습 속도로 초당 처리 토큰 수(tokens/sec)와 에포크 당 학습 시간이다. 둘째, 피크 VRAM으로 학습 중 도달한 최대 GPU 메모리 사용량이다. 셋째, 멀티 GPU 확장성으로 GPU 수 증가에 따른 처리량 증가율과 효율(scaling efficiency)을 측정한다. 이 세 지표는 단순히 “어느 것이 빠른가”를 넘어 “왜 빠른가”, “비싼 만큼 빠른가”를 함께 보여준다.

프레임워크별 아키텍처 요약

Unsloth: 커스텀 CUDA 커널 기반 경량화

Unsloth는 Hugging Face의 transformers 코드를 그대로 쓰는 대신, RoPE·cross-entropy·matmul 같은 핵심 연산에 대해 자체 CUDA 커널을 패치해 적용한다. 메모리 할당도 최적화해 동일 모델·동일 배치에서도 피크 VRAM을 기존 대비 수 GB 절감하는 것이 특징이다. Unsloth GitHub 저장소에서 공개된 구현은 단일 GPU 또는 저사양 GPU 환경을 1순위 타깃으로 둔다.

Axolotl: YAML 설정 중심의 연구 친화형

Axolotl은 단일 YAML 파일에 모델·데이터·학습·로깅 옵션을 모두 기술하는 설정을 채택한다. 연구자가 실험 구성을 버전 관리하기 쉽고, DeepSpeed·FSDP 같은 분산 학습 옵션을 폭넓게 지원한다. 멀티 GPU 환경에서의 유연성이 강점이며, 신규 모델 아키텍처 대응도 빠른 편이다.

TRL: Hugging Face 생태계 통합 RLHF/DPO

TRL은 Hugging Face의 transformers·datasets·accelerate와 깊게 결합된 라이브러리로, SFT(지도 학습)뿐 아니라 PPO·DPO·GRPO 같은 정렬 학습(alignment)을 한 줄로 수행할 수 있다. 생태계 통합이 강점이며, 멀티 GPU는 accelerate 기반으로 처리한다. RLHF 파이프라인을 구축할 때 사실상 표준 선택지로 꼽힌다.

LLaMA-Factory: GUI·WebUI 포함 통합형

LLaMA-Factory는 학습 스크립트와 함께 WebUI(웹 기반 그래픽 인터페이스)와 llamafactory-cli를 제공한다. 비개발 직군도 클릭만으로 SFT·DPO·RM·PPO를 수행할 수 있어 팀 내 확산이 쉽다. 내부적으로 transformers·accelerate·DeepSpeed를 추상화해 다양한 하드웨어에 대응한다.

성능 비교 결과

아래 표는 MarkTechPost 원문에 공개된 주요 측정값을 상대 등급으로 요약한 것이다. 절대 수치는 실행 환경에 따라 달라질 수 있으나 프레임워크 간 상대 비교에는 참고할 만한 것으로 판단된다.

프레임워크	학습 속도(상대값)	피크 VRAM(상대값)	멀티 GPU 확장성	주요 강점
Unsloth	최상위	최저	제한적	단일 GPU 효율 극대화
Axolotl	중상위	중간	우수	설정 유연성, 신규 모델 대응
TRL	중간	중간	중상위	RLHF/DPO 통합, HF 생태계
LLaMA-Factory	중간	중간	우수	WebUI, 사용자 편의성

학습 속도 및 토큰 throughput

단일 GPU에서 Unsloth는 RoPE·attention 연산을 직접 작성한 커스텀 CUDA 커널로 처리해 다른 프레임워크 대비 더 높은 tokens/sec를 기록한 것으로 분석된다. Axolotl은 표준 transformers + Flash Attention 조합으로 안정적인 성능을 보였고, TRL과 LLaMA-Factory는 RLHF/DPO 등 정렬 학습 워크로드에서 더 큰 폭의 속도 저하가 관측되었다.

VRAM 사용량과 최대 시퀀스 길이

피크 VRAM은 동일 배치·동일 시퀀스 길이 조건에서 Unsloth가 가장 낮았고, Axolotl·TRL·LLaMA-Factory 순으로 비슷하게 나타났다. 차이의 원인은 (1) gradient checkpointing 자동 적용 여부, (2) 4-bit quantization 기본 적용 여부, (3) attention mask 캐싱 방식 등으로 분석된다. 결과적으로 같은 24GB GPU라 하더라도 Unsloth는 더 긴 컨텍스트나 더 큰 배치로 학습할 수 있는 것으로 보인다.

멀티 GPU 확장성

멀티 GPU 환경에서는 양상이 달라진다. Axolotl과 LLaMA-Factory는 DeepSpeed ZeRO-2·ZeRO-3·FSDP 옵션을 폭넓게 지원해 8·16 GPU에서도 선형에 가까운 확장성을 보인 것으로 보고되었다. 반면 Unsloth는 단일 GPU 최적화에 집중해 멀티 노드·대규모 분산 학습에서는 상대적 제약이 있는 것으로 보인다. TRL은 accelerate 기반으로 동작해 비교적 안정적이지만, ZeRO-3 같은 극단적 메모리 분할은 직접 튜닝이 필요한 것으로 분석된다.

시나리오별 권장 프레임워크

랩톱/단일 GPU 환경

필자 의견: VRAM 16~24GB 환경에서 LoRA·QLoRA 정도의 경량 파인튜닝을 시도한다면 Unsloth가 1순위로 보인다. 별도 코드 수정 없이 drop-in(있는 코드 자리에 그대로 끼워 넣는 방식) 형태로 적용 가능하며, 같은 GPU로도 더 큰 모델이나 더 긴 시퀀스를 다룰 수 있다는 점에서 가성비가 높다.

연구실 소규모 멀티 GPU

필자 의견: 2~8 GPU 환경에서 다양한 모델 아키텍처 실험을 반복하는 연구 그룹에는 Axolotl이 가장 합리적인 선택지로 판단된다. YAML 설정만 바꾸어 수십 가지 실험을 빠르게 반복할 수 있고, 새로운 모델 출시 시 대응 속도도 빠른 편이다. RLHF/DPO 실험까지 한다면 TRL을 보조적으로 함께 도입하는 구성이 효과적이다.

엔터프라이즈 대규모 학습

필자 의견: 수십~수백 GPU 스케일의 대규모 학습에는 LLaMA-Factory의 DeepSpeed 통합 옵션과 WebUI 기반 운영 편의성이 강점으로 작용한다. 비개발 직군이 포함된 팀에서는 진입 장벽을 크게 낮추며, 표준 레시피를 다수 사용자에게 동시에 배포하기 쉽다. 단, 대규모 학습에서는 결국 DeepSpeed 설정과 데이터 파이프라인 튜닝이 성능을 좌우하므로 프레임워크 자체보다 운영 노하우가 더 중요한 것으로 보인다.

운영 관점 고려사항

• 디버깅 편의성: 표준 transformers 위에 얹힌 TRL·Axolotl은 익숙한 스택 트레이스를 그대로 노출한다. 반면 Unsloth는 커스텀 커널 패치 때문에 stack trace가 비표준 형태로 보이는 경우가 있어 디버깅 진입 장벽이 있는 것으로 보인다.
• 커뮤니티와 문서: LLaMA-Factory는 중국·일본 개발자 커뮤니티에서도 인기가 높아 다국어 자료가 풍부하다. Axolotl은 영문권 연구자 중심의 문서가 충실하며, Unsloth는 자체 디스코드와 짧은 튜토리얼 영상 중심의 지원을 제공한다.
• 라이선스: 4종 모두 Apache 2.0 또는 MIT 등 오픈소스 라이선스를 채택하고 있어 상업적 사용에 큰 제약을 두지 않는 것으로 확인된다. 단, 모델 가중치 라이선스는 별도로 확인이 필요하다.
• 버전 호환성: transformers·accelerate 상위 버전 변경 시 Unsloth는 패치가 지연될 가능성이 있다. 안정적인 운영을 위해서는 transformers 버전을 프레임워크 권장 버전으로 고정하는 것이 권장된다.

결론: 의사결정 체크리스트

관련 태그: LLM 파인튜닝, Unsloth, Axolotl, TRL, LLaMA-Factory, VRAM 최적화, 멀티 GPU, DeepSpeed, LoRA, QLoRA, 오픈소스 프레임워크, 벤치마크, Hugging Face, 파인튜닝 비교