Het gehele Kubernetes-systeem bestaat uit diverse hard- en softwarecomponenten. Met Kubernetes manage je een cluster van VMs. Vervolgens plan je – op basis van de beschikbare resources en de afzonderlijke containervereisten – welke containers op welke machines (nodes) moeten worden uitgevoerd. Samenwerkende containers worden gegroepeerd in pods, de operationele basiseenheid voor Kubernetes. Deze pods kun je wederom schalen, al naar gelang de gewenste status of beschikbare capaciteit.