SQUAWK · REPO
jundot/omlx
LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
Voir sur GitHub →repéré le 18/08/2026
APPARITIONS DANS LE DIGEST
jundot/omlx : serveur d'inférence LLM optimisé pour Apple Siliconapparu le 2026-08-18
Serveur d'inférence LLM avec batching continu et cache SSD optimisé pour Apple Silicon, géré depuis la barre de menu macOS, intéressant pour le dev local IA.