FEATURE ARTICLE

Alibaba Qwen 3.5 Small: 9B 모델이 GPT-oss-120B를 GPQA Diamond에서 추월

📌 핵심 요약 Alibaba가 0.8B, 2B, 4B, 9B 네 가지 크기의 Qwen 3.5 Small 시리즈를 Apache 2.0 라이선스로 공개했다. 텍스트, 이미지, 비디오를 네이티브 멀티모달로 처리하며, 9B 모델이 GPQA Diamond 벤치마크에서 81.7점을 기록해 GPT-oss-120B(71.5점)를 상회했다. 🔍 왜 주목해야 하나 파라미터 규모가 13배 이상 차이 나는 모델을 GPQA Diamond(대학원 수준 과학 추론 벤치마크)에서 앞서는 것은 소형 모델의 '인지 밀도(cognitive density)' 향상이 실질적 임계점에 도달했음을 보여준다. 멀티모달을 별도 어댑터 없이 단일 모델로 처리하고 Apache 2.0으로 자유롭게 사용 가능하다는 점에서 엣지 및 온디바이스 AI 배포 가능성이 대폭 확대된다. ⚡ 실무 시사점 비용 제약이 있는 환경에서 멀티모달 AI 기능이 필요하다면 Qwen 3.5-9B를 즉시 평가 파이프라인에 추가할 것을 권장한다. 특히 이미지·영상 이해가 필요한 엔터프라이즈 내부 도구 구축에 즉각 활용 가능하다.

2026년 3월 26일수정 2026년 3월 26일원문 링크

OpenAI, GPT-oss-120B/20B 오픈 웨이트 모델 Apache 2.0으로 공개

📌 핵심 요약 OpenAI가 GPT-oss-120B(MoE, 활성 파라미터 5.1B)와 GPT-oss-20B 두 모델을 Apache 2.0 라이선스로 Hugging Face에 공개했다. GPT-oss-120B는 단일 80GB GPU(H100, MI300X)에서 실행 가능하며, 핵심 추론 벤치마크에서 o4-mini에 근접하는 성능을 기록한다. 🔍 왜 주목해야 하나 Meta의 Llama 시리즈가 오픈 웨이트 생태계를 장악해온 상황에서, OpenAI가 처음으로 상업적 제약 없는 Apache 2.0 모델을 공개한 것은 전략적 변곡점이다. MoE 아키텍처로 120B 파라미터임에도 5.1B만 활성화하여 추론 효율을 극대화했으며, 128k 컨텍스트 지원과 함께 o3 등 프론티어 모델의 강화학습 기법을 이전받았다. 오픈소스 LLM 경쟁 지형을 단번에 재편할 수 있는 릴리즈다. ⚡ 실무 시사점 상용 API 대비 대폭 낮은 비용으로 고성능 추론이 가능해졌으며, 온프레미스 또는 프라이빗 클라우드 배포를 검토 중인 팀은 GPT-oss-120B를 1순위 평가 대상으로 올려야 한다.

자동수집

Read Story

Article

2026년 3월 26일

Dapr Agents v1.0 GA: 프로덕션 AI 에이전트의 Kubernetes 클라우드 네이티브 표준

📌 핵심 요약 CNCF(Cloud Native Computing Foundation)가 KubeCon + CloudNativeCon Europe 2026(암스테르담)에서 Dapr Agents v1.0 정식 출시를 발표했다. NVIDIA와 오픈소스 커뮤니티가 1년간 협업한 이 Python 프레임워크는 내구성 있는 워크플로우 엔진, 상태 관리, 안전한 멀티 에이전트 조율 기능을 제공한다. 🔍 왜 주목해야 하나 LangChain, AutoGen 등 기존 에이전트 프레임워크들이 프로토타입에서 프로덕션으로 넘어갈 때 장애 복구, 비용 제어, 상태 지속성 문제를 해결하지 못했던 한계를, Dapr의 클라우드 네이티브 인프라 레이어에서 직접 해결한 것이 핵심 차별점이다. ZEISS Vision Care가 비정형 의료 문서에서 광학 파라미터를 추출하는 실사례를 발표하며 프로덕션 검증까지 완료된 상태다. ⚡ 실무 시사점 Kubernetes 기반 인프라를 운영 중인 팀이라면 AI 에이전트 워크로드를 Dapr Agents 위에서 구축하는 것이 벤더 중립적이고 운영 안정성 측면에서 현재 가장 성숙한 선택지다.

자동수집

Read Story

Article

2026년 3월 26일

Google TurboQuant: LLM KV 캐시 6배 압축, 정확도 손실 제로 달성

📌 핵심 요약 Google 리서치팀이 LLM의 KV(Key-Value) 캐시를 6배 압축하면서도 정확도 손실이 전혀 없는 새로운 양자화 알고리즘 TurboQuant를 공개했다. NVIDIA H100 GPU 기준 어텐션 연산 속도를 최대 8배 향상시키며, 재학습이나 파인튜닝 없이 즉시 적용 가능하다. 🔍 왜 주목해야 하나 LLM 서빙의 핵심 병목은 GPU 메모리 대역폭인데, TurboQuant는 KV 캐시를 3비트까지 압축함으로써 이 문제를 정면 돌파한다. 기존 양자화 기법들이 정확도 vs. 압축률 사이에서 트레이드오프를 감수했던 것과 달리, PolarQuant + QJL(Johnson-Lindenstrauss Transform) 조합으로 수학적으로 오차를 최소화한 것이 핵심이다. 데이터셋 특화 캘리브레이션이 불필요한 'data-oblivious' 설계는 범용 프로덕션 배포를 현실화한다. ⚡ 실무 시사점 동일한 GPU 인프라에서 최대 6배 더 많은 컨텍스트를 처리하거나 배치 크기를 늘릴 수 있어, LLM 서빙 비용을 구조적으로 절감할 수 있다. 재학습 없이 적용 가능하므로 기존 파이프라인에 즉각 통합 검토가 권장된다.

자동수집

Read Story

Article

2026년 2월 23일

Gemini 3.1 Pro

3.1 Pro is designed for tasks where a simple answer isn’t enough. (카테고리: AI 모델, HN 961점·댓글 910)

트렌드

Read Story

RE-ENTRY

Alibaba Qwen 3.5 Small: 9B 모델이 GPT-oss-120B를 GPQA Diamond에서 추월

관련 글

OpenAI, GPT-oss-120B/20B 오픈 웨이트 모델 Apache 2.0으로 공개

Dapr Agents v1.0 GA: 프로덕션 AI 에이전트의 Kubernetes 클라우드 네이티브 표준

Google TurboQuant: LLM KV 캐시 6배 압축, 정확도 손실 제로 달성

Gemini 3.1 Pro

최신 글 재진입