Cambia entre Claude, GPT-4o, Llama local en Apple Silicon y los modelos base de Apple con un cambio pequeño en la configuración.
Conduit es un framework de Swift para trabajar con modelos de lenguaje en la nube o en local desde una sola API.
- Rápido: Optimizado para Apple Silicon con soporte de primera clase para MLX.
- Seguro en Tipos: Utiliza macros de Swift para salidas estructuradas garantizadas en tiempo de compilación.
- Memoria Unificada: Aprovecha la arquitectura de memoria unificada de Apple para una inferencia local eficiente.