Agents & devAgentes & dev
Ternary Bonsai 2Ternary Bonsai 2
Family of 2B, 4B and 9B ternary language models for local useFamília de modelos de linguagem ternários de 2B, 4B e 9B para rodar localmente
What it isO que é
Ternary Bonsai 2, by PrismML, are three compact models based on Qwen3.5 that store each weight as -1, 0 or +1. They weigh 0.43 GB (2B), 0.95 GB (4B) and 2 GB (9B).
Ternary Bonsai 2, da PrismML, são três modelos compactos baseados em Qwen3.5 que guardam cada peso como -1, 0 ou +1. Têm 0,43 GB (2B), 0,95 GB (4B) e 2 GB (9B).
What it’s forPara que serve
To run reasoning, vision and tool calling on PCs, phones and wearables, without depending on the cloud.
Para rodar raciocínio, visão e chamadas de ferramentas em PCs, celulares e dispositivos vestíveis, sem depender de nuvem.
BenefitsVantagens
- Small sizes for local execution
- Support for NVIDIA via llama.cpp and Apple via MLX
- Weights under the Apache 2.0 license
- Tamanhos pequenos para execução local
- Suporte a NVIDIA via llama.cpp e Apple via MLX
- Pesos sob licença Apache 2.0
CaveatsRessalvas
- According to the maker, they keep about 92 to 100% of the original model's performance at 9B and reach up to 5x the throughput
- Benchmarks and speeds are reported by PrismML itself
- Likely match: associated by name and description
- Segundo o fabricante, mantêm cerca de 92 a 100% do desempenho do modelo original no 9B e chegam a 5x o throughput
- Benchmarks e velocidades são relatados pela própria PrismML
- Correspondência provável: associado pelo nome e descrição
