AcadémicoInvestigación · contenedores y edge computing

Frameworks de contenedores virtuales en entornos edge-to-cloud y serverless

Trabajo Fin de Grado (9,5/10). Extensión del motor de workflows DAGonStar con ejecutores para Docker, Kubernetes (k3s/k0s), Nomad y Apptainer y una capa de staging de datos entre runtimes, con medición de rendimiento, overhead y energía sobre un testbed Edge–Fog–Cloud real.

Rol
Autor — diseño, implementación, experimentación y evaluación
Contexto
Universidad Carlos III de Madrid
Periodo
2025 – 2026

01Resumen

Las infraestructuras edge-to-cloud combinan dispositivos ARM, equipos de escritorio y servicios cloud gestionados, sin un sistema de ficheros compartido. Mi TFG extendió DAGonStar — un motor de workflows científicos basado en DAGs — para que un mismo workflow pueda ejecutar sus tareas en Docker, Kubernetes (k3s/k0s), Nomad o Apptainer, en local o en nodos remotos, y después midió lo que cuesta cada opción en tiempo, recursos y energía.

02Contexto

Trabajo Fin de Grado en Ingeniería Informática en la Universidad Carlos III de Madrid (2025–2026), tutorizado por Dante Domizzi Sánchez Gallegos y calificado con 9,5/10. El testbed combinaba un nodo Fog (PC de escritorio como orquestador), un nodo Edge (Raspberry Pi 5 que leía un sensor DHT11 de temperatura y humedad a través de un Arduino) y una capa Cloud (MongoDB Atlas).

03Problema

Los workflows distribuidos entre Edge, Fog y Cloud se enfrentan a tres problemas — aislamiento de dependencias, portabilidad entre hardware heterogéneo (x86_64 y ARMv8) y movimiento de datos intermedios entre nodos sin sistema de ficheros compartido. Elegir un runtime de contenedores para dispositivos edge limitados tiene además consecuencias medibles en latencia, energía y temperatura que rara vez se cuantifican.

04Mis responsabilidades

  • Diseñé e implementé clases de tareas para Apptainer, Docker, Kubernetes y Nomad, cada una con su variante remota, tras la interfaz homogénea de tareas de DAGonStar.
  • Construí un mecanismo de staging entre runtimes (Stager y Data Mover) que combina áreas compartidas en el host, transferencias SSH/SCP y streaming entre pods para Kubernetes.
  • Integré Prometheus, Node Exporter y Grafana para monitorizar tiempo de ejecución, uso de recursos, temperatura y energía.
  • Diseñé y ejecuté experimentos de nodo único, distribuidos y de telemetría IoT completa, y analicé los resultados.

05Arquitectura

El nodo Fog ejecuta DAGonStar y orquesta tareas en el nodo Edge por SSH. En el Edge, el runtime elegido — Docker, Apptainer, Nomad o k3s/k0s — ejecuta las tareas que capturan y procesan los datos del sensor. El Stager/Data Mover mueve los ficheros intermedios entre tareas y nodos, los resultados se persisten en MongoDB Atlas y las métricas de Node Exporter las recoge Prometheus y se visualizan en Grafana.

ArquitecturaTestbed Edge–Fog–Cloud
Testbed Edge–Fog–CloudUn nodo Fog ejecuta el motor de workflows DAGonStar y su Stager/Data Mover. Lanza tareas remotas por SSH a un nodo edge Raspberry Pi 5 con Docker, Apptainer, Nomad o k3s/k0s y un sensor DHT11 conectado mediante Arduino. Los resultados se persisten en MongoDB Atlas en la nube. Prometheus recoge las métricas de Node Exporter y Grafana las visualiza.Fog — PC de escritorioEdge — Raspberry Pi 5CloudMonitorizaciónSSHstagingpersistemétricas hostscrapeDAGonStarmotor de workflows DAGStager · Data MoverSSH / SCP · pod streamingDockerApptainerNomadk3s · k0sSensor DHT11 vía Arduinotemperatura y humedadMongoDB Atlasmétricas y resultadosNode ExporterPrometheusGrafana
  • Entrega y automatización
  • Código y configuración
  • Plataforma / runtime
  • Dispositivo
  • Datos y almacenamiento
  • Observabilidad
Descripción textual del diagrama

Un nodo Fog ejecuta el motor de workflows DAGonStar y su Stager/Data Mover. Lanza tareas remotas por SSH a un nodo edge Raspberry Pi 5 con Docker, Apptainer, Nomad o k3s/k0s y un sensor DHT11 conectado mediante Arduino. Los resultados se persisten en MongoDB Atlas en la nube. Prometheus recoge las métricas de Node Exporter y Grafana las visualiza.

Flujos

  • DAGonStar → Docker (SSH)
  • Stager · Data Mover → Edge — Raspberry Pi 5 (staging)
  • Sensor DHT11 vía Arduino → Nomad
  • Apptainer → MongoDB Atlas (persiste)
  • Edge — Raspberry Pi 5 → Node Exporter (métricas host)
  • Node Exporter → Prometheus (scrape)
  • Prometheus → Grafana

Componentes

DAGonStar · Stager · Data Mover · Docker · Apptainer · Nomad · k3s · k0s · Sensor DHT11 vía Arduino · MongoDB Atlas · Node Exporter · Prometheus · Grafana

06Stack tecnológico

Runtimes y orquestadores
  • Docker
  • Apptainer
  • HashiCorp Nomad
  • k3s
  • k0s
Workflow y datos
  • DAGonStar
  • Python
  • SSH / SCP
  • MongoDB Atlas
Observabilidad
  • Prometheus
  • Node Exporter
  • Grafana
  • Matplotlib
Hardware
  • Raspberry Pi 5
  • Arduino + DHT11
  • x86_64 desktop

07Enfoque de implementación

  • Una jerarquía de clases de tareas — ApptainerTask, DockerTask, KubernetesTask, NomadTask y sus variantes remotas — para cambiar de runtime sin modificar cómo se escribe el workflow.
  • Credenciales y parámetros de conexión centralizados en un fichero de configuración (dagon.ini) en lugar de embebidos en el código del workflow.
  • Staging basado en volúmenes para Docker, Apptainer y Nomad; streaming entre pods para Kubernetes, eliminando la suposición de un sistema de ficheros compartido.
  • Benchmarks implementados como workflows de DAGonStar, desde ejecuciones solo en el edge hasta ejecución distribuida Edge–Fog y un workflow completo de telemetría IoT Edge–Fog–Cloud.
  • Energía, CPU, RAM y temperatura monitorizadas en tiempo real con dashboards de Grafana por runtime, y postprocesadas con Python y Matplotlib.

08Retos y decisiones de ingeniería

  1. Reto

    No hay sistema de ficheros compartido entre los nodos Edge, Fog y Cloud.

    Decisión

    Una capa de staging transversal que elige el mecanismo por runtime — volúmenes compartidos en el host, SSH/SCP o streaming entre pods.

  2. Reto

    Comparar runtimes de forma justa cuando procesaron distinta cantidad de trabajo (Nomad gestionó ~150 registros; Docker y Apptainer, ~292).

    Decisión

    Normalizar la energía por carga de trabajo (julios por registro) en lugar de comparar totales brutos.

  3. Reto

    Kubernetes (k3s/k0s) en una Raspberry Pi 5 con tarjeta SD de 8 GB se volvió inestable en ejecuciones largas al llenar el disco los componentes del clúster y las imágenes.

    Decisión

    Mantener la implementación de KubernetesTask (plenamente funcional) pero documentar la limitación de hardware como resultado, y soportar runtimes más ligeros o la delegación a la capa Fog.

09Consideraciones de seguridad

  • La ejecución remota y las transferencias de datos van sobre SSH/SCP y no por canales sin autenticar.
  • Credenciales de conexión en un fichero de configuración dedicado, separado de las definiciones de workflow.
  • Identificado como trabajo futuro — cifrado de extremo a extremo en el staging y cofres de secretos con rotación automática para datos regulados.

10Consideraciones operativas

  • El impacto térmico importa en el edge — el mayor uso de CPU de Nomad (10,8 % de media frente al 0,38 % de Apptainer) elevó la temperatura de operación unos 5 °C, un riesgo de throttling en despliegues largos o calurosos.
  • La eficiencia de Apptainer depende de imágenes preconstruidas y de gestionar activamente el almacenamiento; Docker y Nomad gestionan la distribución de imágenes de forma más transparente con un mayor coste base.

11Resultados e impacto

  • Apptainer fue el runtime más eficiente en el nodo edge — 1,68 J por registro, con menos de un 1 % de overhead de orquestación.
  • Apptainer redujo el consumo energético un 26 % respecto a Docker y un 43 % respecto a Nomad.
  • Docker ofreció un perfil equilibrado para despliegues Edge–Fog heterogéneos; Nomad encaja en orquestación multinodo centralizada, pero no en cargas edge de baja latencia con restricciones energéticas.
  • Los ejecutores de Kubernetes son funcionales, pero k3s/k0s resultaron inviables en hardware edge mínimo — un resultado documentado, con trabajo futuro en clústeres de varias Raspberry Pi o HPC.
Eficiencia normalizada en el nodo edge — workflow completo de telemetría IoT
RuntimeRegistrosEnergía (J)J / registroTemp. (°C)Overhead
Apptainer292490.81.6846.1< 1%
Docker291666.32.2947.3~ 29.2%
Nomad150859.35.7351.154.4%

Fuente — TFG, Tabla 4.15.

12Lecciones aprendidas

  • Normalizar antes de comparar — los totales brutos ocultaban que Nomad dedicaba la mayor parte de su energía a la orquestación y no a trabajo útil.
  • Elegir runtime es una decisión de infraestructura con consecuencias energéticas, térmicas y de vida útil del hardware, no solo una preferencia de desarrollo.
  • Una infraestructura heterogénea necesita un motor capaz de elegir el runtime viable más ligero en cada nodo, o de delegar el trabajo hacia arriba.