스트랜즈, 텍스트 생성 배제한 2B 오픈소스 의사결정 모델 'Strands Decider 2B' 공개… 100ms대 초고속 에이전트 라우팅 지원

스트랜즈(Strands)가 에이전트 워크플로우에 특화된 20억 파라미터(2B) 규모의 경량 오픈소스 의사결정 모델 '스트랜즈 디사이더 2B(Strands Decider 2B)'를 공식 출시했다. 최근 타입세이프 AI(TypeSafe AI)의 'Jev' 출시 이후 주목받고 있는 '시스템 1(System 1)' 의사결정 모델 계열로, 임의의 긴 텍스트를 생성하는 대신 여러 선택지 중 최적의 항목을 선별하고 수치화된 신뢰도 점수를 부여하는 데 집중한 것이 핵심이다. 이번 릴리스를 통해 개발자들은 고비용 거대언어모델(LLM) 대신 로컬 환경에서 구동 가능한 초소형 모델로 도구 호출 및 라우팅을 효율화할 수 있게 됐다.

스트랜즈 디사이더 2B는 텍스트 생성 헤드를 과감히 제거하여 추론 유연성을 낮춘 대신, 고정된 크기 대비 뛰어난 역량과 수십 밀리초(ms) 수준의 초저지연 응답 속도를 확보했다. 모든 출력을 단일 병렬 패스로 처리하기 때문에 복잡한 다단계 추론이나 코딩, 요약 등 일반적인 텍스트 생성 작업에는 부적합하지만, 에이전트의 다음 행동 결정이나 분류 작업에는 탁월한 성능을 보인다. 특히 기존 상용 LLM 추론 API에서는 제공되지 않는 고품질의 신뢰도 보정 점수를 반환하며, 동일한 프롬프트에 대해 여러 질문을 동시에 처리할 때도 연산 효율이 극대화된다.

Qwen3.5 기반 토르소와 포인터 헤드 결합 아키텍처

모델의 핵심 아키텍처는 사전 학습된 'Qwen3.5-2B'의 토르소(Torso)를 기반으로 구축됐다. 기존 언어 모델의 LM 헤드를 완전히 제거하고, 각 선택지 위치의 은닉 상태(hidden state)와 특수 토큰(<answer>) 위치의 은닉 상태를 비교해 점수를 산출하는 약 100만 파라미터 규모의 경량 '포인터 헤드(Pointer Head)'를 탑재했다. 백본 토르소는 Rank-16 LoRA 어댑터를 적용해 미세조정되었으며, 초기 슬롯 헤드(Slot Head) 구조 대비 정확도와 보정 성능이 대폭 개선된 v19 아키텍처가 이번 릴리스에 최종 채택됐다.

성능 평가에서도 높은 경쟁력을 입증했다. 공개 의사결정 벤치마크인 'JevBench' 퍼블릭 세트 평가에서 2B 클래스 모델 33종 중 정확도 및 브라이어 점수(Brier Score, 예측 확률의 정확성을 측정하는 보정 지표) 종합 3위를 기록했으며, 2B 파라미터를 살짝 초과하는 모델을 제외한 30종 중에서는 1위를 차지했다. 지연 시간 측면에서도 로컬 엔비디아 RTX 3090 GPU 기준 중앙값 약 115ms의 빠른 반응 속도를 보였으며, M3 맥북 환경에서도 소형 태스크 기준 중앙값 약 153ms를 기록해 일반 소비자용 온디바이스 하드웨어에서도 무리 없이 구동된다.

에이전트 인터벤션 및 실시간 도구 검증에 최적화

이 모델은 스트랜즈 하네스(Strands Harness) SDK 및 에이전트 프레임워크와의 결합을 염두에 두고 설계됐다. 에이전트 시스템에서 빈번하게 발생하는 모델 라우팅, 도구 선택, 가드레일 판정, 메모리 관리 등 정형화된 판단 업무를 LLM 대신 디사이더 모델이 전담함으로써 전체 워크플로우의 비용과 지연 시간을 획기적으로 단축한다. 예를 들어 도구 실행 직전 개입하는 '인터벤션 핸들러(InterventionHandler)' 단계에서 사용자가 입력한 사실에 기반한 도구 호출인지, 혹은 조기 호출인지를 디사이더 모델이 실시간으로 교차 검증하여 환각 기반 도구 실행을 선제적으로 차단할 수 있다.

스트랜즈 디사이더 2B는 모델 가중치와 학습 데이터셋, 스크립트 전체가 완전한 오픈소스로 공개됐다. 파이썬 환경에서 pip install strands-decider 명령어로 CLI 도구를 설치한 뒤 허깅페이스 저장소(StrandsAgents/strands-decider-2B-hobson-v19)를 통해 즉시 로컬 추론을 테스트할 수 있으며, 소스 코드와 상세 구현 가이드는 깃허브 strands-labs 저장소에서 확인할 수 있다.