Inkling 완전 분석 – Thinking Machines Lab의 975B 오픈 웨이트 MoE Transformer

핵심 요약

  • 초대형 오픈 웨이트 공개: Thinking Machines Lab이 처음부터 학습한 975B MoE Transformer 모델 Inkling의 사전 학습 가중치를 공개
  • 효율형 활성 구조: 토큰당 41B만 활성화해 추론 비용을 절감하면서 최대 1M 토큰 문맥과 멀티모달을 지원
  • 에이전트 중심 평가: 45조 토큰의 멀티모달 사전 학습과 자체 에이전트·추론 평가 체계를 통한 차별화 전략을 채택

Inkling은 단순한 모델 공개를 넘어 오픈 웨이트 거대 모델과 에이전트 AI 시장의 경쟁 구도를 한 단계 끌어올린 사례로 평가된다.

2026년 7월, Thinking Machines Lab이 자체 개발한 대규모 언어 모델 Inkling을 오픈 웨이트로 공개해 AI 커뮤니티의 주목을 받고 있다. 975B라는 총 파라미터 규모와 1M 토큰의 장문 맥락, 그리고 텍스트를 넘어 이미지와 오디오까지 아우르는 멀티모달 능력을 갖춘 모델이 전체 가중치까지 함께 풀렸다는 점에서 업계의 관심이 집중되고 있다. 이번 기사에서는 GeekNews에 게재된 원문 정보를 바탕으로 Inkling의 기술적 사양과 학습 방식, 그리고 오픈소스 거대 모델 생태계에 미칠 것으로 보이는 영향을 정리한다.

Inkling 개요: Thinking Machines Lab의 첫 오픈 웨이트 LLM

개발 배경과 공개 의의

Thinking Machines Lab은 Inkling을 자사의 첫 번째 오픈 웨이트 모델로 공개했다. 원문에 따르면 이 모델은 외부 기반 모델을 미세 조정한 것이 아니라, 45조 토큰 규모의 멀티모달 데이터를 사용해 처음부터 사전 학습한 대규모 언어 모델이다. 흔히 오픈소스 또는 오픈 웨이트로 불리는 공개 모델 중에서도, 사전 학습 단계의 가중치를 처음부터 모두 공개했다는 점에서 공개 범위가 매우 넓은 축에 속한다. 자체 평가 체계를 공개해 재현 가능성을 높인 점도 함께 부각되고 있다.

오픈 웨이트 정책의 차별점

Inkling의 공개 범위는 모델 가중치뿐 아니라 평가 방식까지 포함한다. 원문에서는 특정 벤치마크 수치에 의존하기보다 에이전트 작업과 추론 능력을 중심으로 한 자체 평가 체계를 강조한 것으로 확인된다. 이러한 접근은 외부 평가 점수만으로는 모델의 실제 활용 가치를 판단하기 어렵다는 업계 인식이 반영된 결과로 해석된다. 가중치 공개와 평가 체계 공개가 결합되면, 외부 연구자와 기업이 Inkling의 성능을 독립적으로 검증하고 자체 서비스에 이식하기 쉬워진다.

핵심 사양 분석

975B 총량·41B 활성 MoE Transformer 구조

Inkling의 아키텍처는 MoE Transformer다. 원문 기준으로 총 파라미터 수는 975B이며, 입력 토큰당 실제로 활성화되는 파라미터는 41B에 불과하다. MoE 구조는 추론 시 모든 파라미터를 사용하지 않고 라우터가 선택한 전문가 네트워크만 작동하기 때문에, 대규모 모델임에도 토큰당 연산량을 크게 줄일 수 있다. 즉 모델 자체의 표현력은 975B 규모지만, 실제 응답 생성에 드는 비용은 41B 모델급으로 설계된 것으로 볼 수 있다.

Inkling 핵심 사양 요약
항목 수치 또는 내용
총 파라미터 975B
활성 파라미터 41B
아키텍처 MoE Transformer
최대 문맥 길이 1M 토큰
지원 모달리티 텍스트, 이미지, 오디오, 비디오
사전 학습 토큰 수 45조

1M 토큰 문맥과 텍스트·이미지·오디오 멀티모달

Inkling은 최대 1M 토큰의 문맥 길이를 제공한다. 이는 일반적인 100K 토큰 이하의 컨텍스트 윈도우와 비교했을 때 한 자릿수 이상 큰 수치로, 장문 문서 요약, 코드베이스 단위 분석, 다권 대화 로그 처리 같은 워크로드에 유리한 사양이다. 또한 추론 단계에서 텍스트는 물론 이미지·오디오·비디오까지 멀티모달 입력을 지원하도록 설계된 것으로 소개됐다. 비디오가 별도 학습 데이터에 포함되어 있어도, 실제 추론 입력에서 비디오까지 안정적으로 받는지는 향후 검증이 필요한 부분으로 보인다.

학습 데이터와 평가 철학

45조 토큰 멀티모달 사전 학습 구성

원문에 따르면 Inkling의 사전 학습 데이터는 텍스트, 이미지, 오디오, 비디오를 아우르는 멀티모달 구성으로 총 45조 토큰 규모다. 텍스트 중심 데이터에 이미지와 오디오가 함께 포함된 점이 특징이며, 45조라는 수치는 오픈소스 공개 모델 가운데에서도 상위권에 해당하는 학습량으로 평가된다. 다만 텍스트와 비텍스트 모달리티의 토큰 비율, 데이터 큐레이션 정책, 정제 방식 등 세부 내용은 원문만으로는 확인이 어려워 추가 정보가 필요한 영역으로 남아 있다.

에이전트·추론 중심 자체 벤치마크

Inkling은 특정 학술 벤치마크 점수를 전면에 내세우기보다, 에이전트 작업과 추론 능력을 중심으로 한 자체 평가 체계를 공개한 점이 눈에 띈다. 이는 다단계 도구 사용, 계획 수립, 환경과의 상호작용이 필요한 시나리오에서 모델의 실질적 성능을 측정하려는 의도로 해석된다. 일반적인 객관식 벤치마크만으로는 실제 배포 환경에서의 가치를 충분히 설명하기 어렵다는 비판이 커지는 가운데, Inkling의 평가 방식은 후속 오픈 웨이트 모델의 벤치마크 설계에도 참고 사례가 될 것으로 보인다.

생태계 영향과 전망

오픈소스 거대 모델 경쟁 구도 변화

975B 규모의 가중치가 공개된다는 점 자체가 이벤트다. 오픈소스 거대 모델 영역에서는 그동안 100B 안팎의 모델이 주를 이뤘고, 400B를 넘는 규모의 가중치 공개는 제한적이었다. Inkling이 풀 가중치를 공개함에 따라, 동일 또는 유사 규모의 모델을 재현하거나 미세 조정해 서비스화하려는 시도가 늘 것으로 분석된다. 다만 975B 모델을 실제 운영하려면 상당한 GPU 메모리와 디스크, 그리고 분산 추론 인프라가 요구되므로, 중소 사업자 입장에서는 라우팅이나 양자화 같은 후속 최적화 생태계가 함께 성숙해야 실용적 도입이 가능할 것으로 보인다.

에이전트 시장 및 활용 시나리오

에이전트 중심 평가가 강조되는 만큼, Inkling은 단순한 챗봇을 넘어 다단계 추론과 도구 호출이 필요한 워크플로우 자동화 영역에서 활용 가능성이 주목된다. 1M 토큰 문맥은 대규모 코드베이스나 사내 문서 전체를 한 번에 컨텍스트에 넣고 추론하는 형태의 에이전트를 뒷받침할 수 있는 사양이다. 단일 토큰당 활성 파라미터가 41B 수준이므로, 동급 밀도 모델 대비 추론 단가를 낮게 유지하면서 장문 처리와 멀티모달을 동시에 제공할 수 있다는 점은 에이전트 서비스의 단가 경쟁에 영향을 줄 것으로 보이며, 구체적인 도입 사례와 비용 구조는 향후 커뮤니티 검증이 필요하다.

정리 포인트

  • Inkling은 975B 총 파라미터와 토큰당 41B 활성의 MoE Transformer 구조로, 대규모 모델의 표현력과 41B급의 추론 효율을 동시에 겨냥한 설계다.
  • 최대 1M 토큰 문맥과 텍스트·이미지·오디오·비디오 멀티모달을 지원해, 장문 추론과 멀티모달 에이전트 워크로드에 적합한 사양을 제공한다.
  • 45조 토큰의 멀티모달 사전 학습과 자체 에이전트·추론 평가 체계 공개는, 외부 점수보다 실제 활용 가치 중심의 검증 흐름을 강화하는 신호로 해석된다.
  • 풀 가중치 공개는 오픈소스 거대 모델 생태계의 규모 상한을 끌어올렸다는 점에서 의의가 있으며, 운영 인프라와 후속 최적화 생태계의 성숙이 확산의 핵심 변수가 될 것으로 보인다.

참고 자료

Inkling, Thinking Machines Lab, 오픈웨이트, MoE Transformer, 975B 파라미터, 41B 활성 파라미터, 1M 토큰 문맥, 멀티모달, 텍스트 이미지 오디오 비디오, 45조 토큰 사전학습, 에이전트 AI, 자체 평가 벤치마크, 오픈소스 LLM, 거대언어모델, AI 생태계

댓글 남기기