Qué hace Core
Core es la capa de coordinación de A.S.T.E.R. Su base utiliza una API de Python y una base de datos PostgreSQL, desplegadas mediante contenedores en una máquina virtual.
El cliente se identifica ante Core, crea una conversación y envía mensajes. Core conecta esa petición con el motor de IA correspondiente y devuelve la respuesta.
El recorrido de una conversación
- El usuario escribe desde Pocket.
- Pocket envía el mensaje con su identidad de cliente.
- Core procesa la conversación y selecciona el motor local u online.
- El motor genera la respuesta.
- Core devuelve el resultado y Pocket lo muestra.
La base de la API incluye la creación de conversaciones y el envío de mensajes a una conversación existente.
El motor local
El motor local se ejecuta en un equipo con GPU, separado de la máquina que aloja Core. Ollama sirve el modelo y Core accede a él a través de la red.
En las pruebas registradas se utiliza un modelo Gemma de aproximadamente 12.000 millones de parámetros, con una ventana de contexto configurada en 4.096 tokens. Son los valores de esta configuración de pruebas, no límites generales de A.S.T.E.R.
Local y online
La arquitectura contempla motores locales y servicios online para distintos tipos de consulta. El enrutado dinámico se ha probado desde Pocket. La elección de motor y la política de uso deben seguir evolucionando con el sistema.
El carácter híbrido permite explorar un equilibrio entre control local, capacidad y recursos disponibles.
Acceso remoto
Las pruebas de Pocket fuera de la red local emplearon una conexión HTTPS hacia Core mediante Tailscale Funnel. La identidad del cliente y la sincronización horaria del dispositivo formaron parte de esa validación.
Evolución prevista
El siguiente trabajo incluye mejorar la entrega progresiva de respuestas, la conversación por voz y la robustez de las conexiones. La memoria y las herramientas se desarrollarán como capacidades coordinadas por Core.
Hito relacionado: conectar Core con su motor local.