AcadémicoInvestigación · contenedores y edge computing
Frameworks de contenedores virtuales en entornos edge-to-cloud y serverless
Trabajo Fin de Grado (9,5/10). Extensión del motor de workflows DAGonStar con ejecutores para Docker, Kubernetes (k3s/k0s), Nomad y Apptainer y una capa de staging de datos entre runtimes, con medición de rendimiento, overhead y energía sobre un testbed Edge–Fog–Cloud real.
- Rol
- Autor — diseño, implementación, experimentación y evaluación
- Contexto
- Universidad Carlos III de Madrid
- Periodo
- 2025 – 2026
01Resumen
Las infraestructuras edge-to-cloud combinan dispositivos ARM, equipos de escritorio y servicios cloud gestionados, sin un sistema de ficheros compartido. Mi TFG extendió DAGonStar — un motor de workflows científicos basado en DAGs — para que un mismo workflow pueda ejecutar sus tareas en Docker, Kubernetes (k3s/k0s), Nomad o Apptainer, en local o en nodos remotos, y después midió lo que cuesta cada opción en tiempo, recursos y energía.
02Contexto
Trabajo Fin de Grado en Ingeniería Informática en la Universidad Carlos III de Madrid (2025–2026), tutorizado por Dante Domizzi Sánchez Gallegos y calificado con 9,5/10. El testbed combinaba un nodo Fog (PC de escritorio como orquestador), un nodo Edge (Raspberry Pi 5 que leía un sensor DHT11 de temperatura y humedad a través de un Arduino) y una capa Cloud (MongoDB Atlas).
03Problema
Los workflows distribuidos entre Edge, Fog y Cloud se enfrentan a tres problemas — aislamiento de dependencias, portabilidad entre hardware heterogéneo (x86_64 y ARMv8) y movimiento de datos intermedios entre nodos sin sistema de ficheros compartido. Elegir un runtime de contenedores para dispositivos edge limitados tiene además consecuencias medibles en latencia, energía y temperatura que rara vez se cuantifican.
04Mis responsabilidades
- Diseñé e implementé clases de tareas para Apptainer, Docker, Kubernetes y Nomad, cada una con su variante remota, tras la interfaz homogénea de tareas de DAGonStar.
- Construí un mecanismo de staging entre runtimes (Stager y Data Mover) que combina áreas compartidas en el host, transferencias SSH/SCP y streaming entre pods para Kubernetes.
- Integré Prometheus, Node Exporter y Grafana para monitorizar tiempo de ejecución, uso de recursos, temperatura y energía.
- Diseñé y ejecuté experimentos de nodo único, distribuidos y de telemetría IoT completa, y analicé los resultados.
05Arquitectura
El nodo Fog ejecuta DAGonStar y orquesta tareas en el nodo Edge por SSH. En el Edge, el runtime elegido — Docker, Apptainer, Nomad o k3s/k0s — ejecuta las tareas que capturan y procesan los datos del sensor. El Stager/Data Mover mueve los ficheros intermedios entre tareas y nodos, los resultados se persisten en MongoDB Atlas y las métricas de Node Exporter las recoge Prometheus y se visualizan en Grafana.
- Entrega y automatización
- Código y configuración
- Plataforma / runtime
- Dispositivo
- Datos y almacenamiento
- Observabilidad
Descripción textual del diagrama
Un nodo Fog ejecuta el motor de workflows DAGonStar y su Stager/Data Mover. Lanza tareas remotas por SSH a un nodo edge Raspberry Pi 5 con Docker, Apptainer, Nomad o k3s/k0s y un sensor DHT11 conectado mediante Arduino. Los resultados se persisten en MongoDB Atlas en la nube. Prometheus recoge las métricas de Node Exporter y Grafana las visualiza.
Flujos
- DAGonStar → Docker (SSH)
- Stager · Data Mover → Edge — Raspberry Pi 5 (staging)
- Sensor DHT11 vía Arduino → Nomad
- Apptainer → MongoDB Atlas (persiste)
- Edge — Raspberry Pi 5 → Node Exporter (métricas host)
- Node Exporter → Prometheus (scrape)
- Prometheus → Grafana
Componentes
DAGonStar · Stager · Data Mover · Docker · Apptainer · Nomad · k3s · k0s · Sensor DHT11 vía Arduino · MongoDB Atlas · Node Exporter · Prometheus · Grafana
06Stack tecnológico
- Runtimes y orquestadores
- Docker
- Apptainer
- HashiCorp Nomad
- k3s
- k0s
- Workflow y datos
- DAGonStar
- Python
- SSH / SCP
- MongoDB Atlas
- Observabilidad
- Prometheus
- Node Exporter
- Grafana
- Matplotlib
- Hardware
- Raspberry Pi 5
- Arduino + DHT11
- x86_64 desktop
07Enfoque de implementación
- Una jerarquía de clases de tareas — ApptainerTask, DockerTask, KubernetesTask, NomadTask y sus variantes remotas — para cambiar de runtime sin modificar cómo se escribe el workflow.
- Credenciales y parámetros de conexión centralizados en un fichero de configuración (dagon.ini) en lugar de embebidos en el código del workflow.
- Staging basado en volúmenes para Docker, Apptainer y Nomad; streaming entre pods para Kubernetes, eliminando la suposición de un sistema de ficheros compartido.
- Benchmarks implementados como workflows de DAGonStar, desde ejecuciones solo en el edge hasta ejecución distribuida Edge–Fog y un workflow completo de telemetría IoT Edge–Fog–Cloud.
- Energía, CPU, RAM y temperatura monitorizadas en tiempo real con dashboards de Grafana por runtime, y postprocesadas con Python y Matplotlib.
08Retos y decisiones de ingeniería
Reto
No hay sistema de ficheros compartido entre los nodos Edge, Fog y Cloud.
Decisión
Una capa de staging transversal que elige el mecanismo por runtime — volúmenes compartidos en el host, SSH/SCP o streaming entre pods.
Reto
Comparar runtimes de forma justa cuando procesaron distinta cantidad de trabajo (Nomad gestionó ~150 registros; Docker y Apptainer, ~292).
Decisión
Normalizar la energía por carga de trabajo (julios por registro) en lugar de comparar totales brutos.
Reto
Kubernetes (k3s/k0s) en una Raspberry Pi 5 con tarjeta SD de 8 GB se volvió inestable en ejecuciones largas al llenar el disco los componentes del clúster y las imágenes.
Decisión
Mantener la implementación de KubernetesTask (plenamente funcional) pero documentar la limitación de hardware como resultado, y soportar runtimes más ligeros o la delegación a la capa Fog.
09Consideraciones de seguridad
- La ejecución remota y las transferencias de datos van sobre SSH/SCP y no por canales sin autenticar.
- Credenciales de conexión en un fichero de configuración dedicado, separado de las definiciones de workflow.
- Identificado como trabajo futuro — cifrado de extremo a extremo en el staging y cofres de secretos con rotación automática para datos regulados.
10Consideraciones operativas
- El impacto térmico importa en el edge — el mayor uso de CPU de Nomad (10,8 % de media frente al 0,38 % de Apptainer) elevó la temperatura de operación unos 5 °C, un riesgo de throttling en despliegues largos o calurosos.
- La eficiencia de Apptainer depende de imágenes preconstruidas y de gestionar activamente el almacenamiento; Docker y Nomad gestionan la distribución de imágenes de forma más transparente con un mayor coste base.
11Resultados e impacto
- Apptainer fue el runtime más eficiente en el nodo edge — 1,68 J por registro, con menos de un 1 % de overhead de orquestación.
- Apptainer redujo el consumo energético un 26 % respecto a Docker y un 43 % respecto a Nomad.
- Docker ofreció un perfil equilibrado para despliegues Edge–Fog heterogéneos; Nomad encaja en orquestación multinodo centralizada, pero no en cargas edge de baja latencia con restricciones energéticas.
- Los ejecutores de Kubernetes son funcionales, pero k3s/k0s resultaron inviables en hardware edge mínimo — un resultado documentado, con trabajo futuro en clústeres de varias Raspberry Pi o HPC.
| Runtime | Registros | Energía (J) | J / registro | Temp. (°C) | Overhead |
|---|---|---|---|---|---|
| Apptainer | 292 | 490.8 | 1.68 | 46.1 | < 1% |
| Docker | 291 | 666.3 | 2.29 | 47.3 | ~ 29.2% |
| Nomad | 150 | 859.3 | 5.73 | 51.1 | 54.4% |
Fuente — TFG, Tabla 4.15.
12Lecciones aprendidas
- Normalizar antes de comparar — los totales brutos ocultaban que Nomad dedicaba la mayor parte de su energía a la orquestación y no a trabajo útil.
- Elegir runtime es una decisión de infraestructura con consecuencias energéticas, térmicas y de vida útil del hardware, no solo una preferencia de desarrollo.
- Una infraestructura heterogénea necesita un motor capaz de elegir el runtime viable más ligero en cada nodo, o de delegar el trabajo hacia arriba.