Tabby ML

Tabby è un assistente AI alla programmazione in hosting locale. Un'alternativa opensource / on-premise di GitHub Copilot. E' ancora in fase alfa.

Caratteristiche:
- Autosufficiente, non necessita di un DBMS o di un servizio cloud.
- Interfaccia web per la visualizzazione e la configurazione di modelli e MLOP.
- Interfaccia OpenAPI, facile da integrare con l'infrastruttura esistente (ad esempio Cloud IDE).
- Supporto delle GPU di livello consumer (FP-16 weight loading con varie ottimizzazioni).
- Richiede Pascal or newer NVIDIA GPU