llmfit - L'outil qui sait quel LLM votre PC peut encaisser

Vous avez un super GPU de la mort qui tue et vous voulez faire tourner un modèle d'IA en local, mais entre la VRAM dispo, la quantification qui change tout et les 500 modèles existant...

c'est tout simplement le bordel pour savoir lequel va passer crèèème sans faire ramer votre machine.

On galère tous à tester des modèles au pif en voyant la RAM exploser, mais aujourd'hui on a une solution.