Betrieb / Admin

On-Prem mit k3s

Das Kundenprofil auf einem vorbereiteten Linux-Host einrichten.

30 Min. Lesezeit · Zuletzt aktualisiert:

Status dieser Funktion

Betrieb: On-prem-Profil für Kundeninfrastruktur Vorschau

Status 2026-10-01 auf preview gesetzt: nur auf k3d erprobt, noch nicht auf einem echten Kundenhost. Auf k3d erprobt; install-k3s auf echtem Host noch nicht durchgespielt. Der Upgrade-Test nutzt denselben Build unter neuem Tag (prüft den Upgrade-Ablauf, keine Schemaänderung zwischen zwei Releases); Air-Gap-Import und echte lokale Inferenz noch nicht durchgespielt; eine Replika; Release-Images für db-migrate und same-origin web müssen gebaut werden.

1. Standortdatei vorbereiten

Kopiere das Beispiel aus dem Repository:

bash
cp infra/onprem/onprem.env.example infra/onprem/onprem.env

Bearbeite Hostname, TLS, Modellendpunkt und Images. Wähle für den neuen Linux-Host INSTALL_K3S=yes. Für einen bereits vorhandenen Cluster gilt INSTALL_K3S=no mit eigener kubeconfig. Zugangsdaten und Standortdatei nicht einchecken.

2. TLS und Secrets festlegen

Das Profil unterstützt bereitgestellte Zertifikate, eine eigene CA oder eine erzeugte Standort-CA. Bei letzterer muss die CA auf den Clients vertraut werden. Standardmäßig liegen Secrets im Kubernetes-Pfad; OpenBao ist optional und benötigt im Vorschauaufbau nach einem Neustart manuelles Entsiegeln.

3. Bootstrap starten

Lass den Betreiber nach Prüfung der Konfiguration den Bootstrap ausführen:

bash
infra/onprem/scripts/bootstrap.sh

Er prüft Voraussetzungen, installiert bei Bedarf k3s, Operatoren und OAP, richtet Secrets und TLS ein und startet die Verifikation. DNS für OAP_HOST muss auf den Ingress zeigen. Die erste Anmeldung nutzt OAP_ADMIN_EMAIL und das Initialpasswort aus dem geschützten State; Keycloak verlangt einen Passwortwechsel.

4. Verifikation und Sicherung

Führe bei Bedarf die Verifikation separat aus:

bash
infra/onprem/scripts/verify.sh

Prüfe Login, OIDC, Migrationen und Dienstbereitschaft. Sichere anschließend State und Daten. Für Backup und Restore wird der State mit den Verschlüsselungsschlüsseln benötigt. GPU-Modellbetrieb braucht eine gesonderte Treiber- und Hardwareabnahme.

Grundlage im Repository
  • infra/onprem/README.md
  • docs/pilot/betrieb.md

Deployment / Admin

On-premises deployment with k3s

Set up the customer profile on a prepared Linux host.

30 min read · Last updated:

Feature status

Deployment: on-prem customer-infrastructure profile Preview

Status set to preview on 2026-10-01: proven on k3d only, not yet on a real customer host. Proven on k3d; real-host install-k3s not yet exercised. The upgrade smoke re-tags the same build (proves the upgrade mechanics, not a schema change between two releases); the air-gap import and real local inference not yet exercised; single replica; release images for db-migrate and same-origin web must be built.

1. Prepare the site configuration

Copy the example from the repository:

bash
cp infra/onprem/onprem.env.example infra/onprem/onprem.env

Edit the hostname, TLS settings, model endpoint and images. Choose INSTALL_K3S=yes for a new Linux host. For an existing cluster, use INSTALL_K3S=no with your own kubeconfig. Do not commit credentials or the site configuration file.

2. Configure TLS and secrets

The profile supports supplied certificates, your own CA or a generated site CA. With the last option, clients must trust that CA. By default, secrets use the Kubernetes path; OpenBao is optional and requires manual unsealing after a restart in the preview setup.

3. Run the bootstrap

Have the operator review the configuration and then run the bootstrap:

bash
infra/onprem/scripts/bootstrap.sh

It checks prerequisites, installs k3s if needed, installs operators and OAP, configures secrets and TLS, and starts verification. DNS for OAP_HOST must point to the ingress. The first sign-in uses OAP_ADMIN_EMAIL and the initial password from protected state; Keycloak requires a password change.

4. Verify and back up

Run verification separately if needed:

bash
infra/onprem/scripts/verify.sh

Check sign-in, OIDC, migrations and service readiness. Then back up state and data. Backup and restore requires the state containing the encryption keys. Running GPU models requires separate driver and hardware acceptance testing.

Repository sources
  • infra/onprem/README.md
  • docs/pilot/betrieb.md