{"id":"kimi-k3-in-c","name":"Kimi K3 in C","url":"https://wunderlust.xyz/r/kimi-k3-in-c","category":"agents","category_label":"Agents & dev","tags":["open-source","free"],"short":"A Kimi K3 inference engine in C99, dependency-free, on CPU","what":"A pure C99 open source implementation of inference for the Kimi K3 model (2.78 trillion parameters) on a single CPU, with no BLAS, framework or GPU.","uses":"A reference for studying large-model inference on CPU with MXFP4 quantization and AVX2 optimizations; not a general-purpose tool.","benefits":["Portable C99 code with CMake and a Makefile, no dependencies","Mixture-of-experts architecture with linear attention and MXFP4 quantization"],"caveats":["Apache-2.0 license","The repository cites about 8 GB of RAM in the test and a checkpoint of roughly 1.56 TB on disk; that doesn't mean it runs on any machine with 8 GB"],"links":{"official":"https://github.com/FareedKhan-dev/kimi-k3-in-c"},"image":"https://wunderlust.xyz/media/kimi-k3-in-c-poster.jpg","video":"https://wunderlust.xyz/media/kimi-k3-in-c.webm","share_image":"https://wunderlust.xyz/og/r/kimi-k3-in-c.jpg","similar":["qwen3-8-max","ollama","mlx","unsloth-studio","gitdiagram","personal-ai-infrastructure"],"added_on":"2026-11-05","pt":{"name":"Kimi K3 in C","short":"Motor de inferência do Kimi K3 em C99, sem dependências, em CPU","what":"Implementação open source em C99 puro da inferência do modelo Kimi K3 (2,78 trilhões de parâmetros) em uma única CPU, sem BLAS, framework ou GPU.","uses":"Referência para estudar inferência de modelos grandes em CPU com quantização MXFP4 e otimizações AVX2; não é ferramenta de uso geral.","benefits":["Código portável em C99 com CMake e Makefile, sem dependências","Arquitetura mixture-of-experts com atenção linear e quantização MXFP4"],"caveats":["Licença Apache-2.0","O repositório cita cerca de 8 GB de RAM no teste e checkpoint de aproximadamente 1,56 TB em disco; isso não significa que rode em qualquer máquina com 8 GB"]},"schema_version":1}