Betrieb / Admin
On-Prem mit k3s
Das Kundenprofil auf einem vorbereiteten Linux-Host einrichten.
Status dieser Funktion
Betrieb: On-prem-Profil für Kundeninfrastruktur Vorschau
Status 2026-10-01 auf preview gesetzt: nur auf k3d erprobt, noch nicht auf einem echten Kundenhost. Auf k3d erprobt; install-k3s auf echtem Host noch nicht durchgespielt. Der Upgrade-Test nutzt denselben Build unter neuem Tag (prüft den Upgrade-Ablauf, keine Schemaänderung zwischen zwei Releases); Air-Gap-Import und echte lokale Inferenz noch nicht durchgespielt; eine Replika; Release-Images für db-migrate und same-origin web müssen gebaut werden.
1. Standortdatei vorbereiten
Kopiere das Beispiel aus dem Repository:
cp infra/onprem/onprem.env.example infra/onprem/onprem.envBearbeite Hostname, TLS, Modellendpunkt und Images. Wähle für den neuen Linux-Host INSTALL_K3S=yes. Für einen bereits vorhandenen Cluster gilt INSTALL_K3S=no mit eigener kubeconfig. Zugangsdaten und Standortdatei nicht einchecken.
2. TLS und Secrets festlegen
Das Profil unterstützt bereitgestellte Zertifikate, eine eigene CA oder eine erzeugte Standort-CA. Bei letzterer muss die CA auf den Clients vertraut werden. Standardmäßig liegen Secrets im Kubernetes-Pfad; OpenBao ist optional und benötigt im Vorschauaufbau nach einem Neustart manuelles Entsiegeln.
3. Bootstrap starten
Lass den Betreiber nach Prüfung der Konfiguration den Bootstrap ausführen:
infra/onprem/scripts/bootstrap.shEr prüft Voraussetzungen, installiert bei Bedarf k3s, Operatoren und OAP, richtet Secrets und TLS ein und startet die Verifikation. DNS für OAP_HOST muss auf den Ingress zeigen. Die erste Anmeldung nutzt OAP_ADMIN_EMAIL und das Initialpasswort aus dem geschützten State; Keycloak verlangt einen Passwortwechsel.
4. Verifikation und Sicherung
Führe bei Bedarf die Verifikation separat aus:
infra/onprem/scripts/verify.shPrüfe Login, OIDC, Migrationen und Dienstbereitschaft. Sichere anschließend State und Daten. Für Backup und Restore wird der State mit den Verschlüsselungsschlüsseln benötigt. GPU-Modellbetrieb braucht eine gesonderte Treiber- und Hardwareabnahme.
Grundlage im Repository
infra/onprem/README.mddocs/pilot/betrieb.md
Deployment / Admin
On-premises deployment with k3s
Set up the customer profile on a prepared Linux host.
Feature status
Deployment: on-prem customer-infrastructure profile Preview
Status set to preview on 2026-10-01: proven on k3d only, not yet on a real customer host. Proven on k3d; real-host install-k3s not yet exercised. The upgrade smoke re-tags the same build (proves the upgrade mechanics, not a schema change between two releases); the air-gap import and real local inference not yet exercised; single replica; release images for db-migrate and same-origin web must be built.
1. Prepare the site configuration
Copy the example from the repository:
cp infra/onprem/onprem.env.example infra/onprem/onprem.envEdit the hostname, TLS settings, model endpoint and images. Choose INSTALL_K3S=yes for a new Linux host. For an existing cluster, use INSTALL_K3S=no with your own kubeconfig. Do not commit credentials or the site configuration file.
2. Configure TLS and secrets
The profile supports supplied certificates, your own CA or a generated site CA. With the last option, clients must trust that CA. By default, secrets use the Kubernetes path; OpenBao is optional and requires manual unsealing after a restart in the preview setup.
3. Run the bootstrap
Have the operator review the configuration and then run the bootstrap:
infra/onprem/scripts/bootstrap.shIt checks prerequisites, installs k3s if needed, installs operators and OAP, configures secrets and TLS, and starts verification. DNS for OAP_HOST must point to the ingress. The first sign-in uses OAP_ADMIN_EMAIL and the initial password from protected state; Keycloak requires a password change.
4. Verify and back up
Run verification separately if needed:
infra/onprem/scripts/verify.shCheck sign-in, OIDC, migrations and service readiness. Then back up state and data. Backup and restore requires the state containing the encryption keys. Running GPU models requires separate driver and hardware acceptance testing.
Repository sources
infra/onprem/README.mddocs/pilot/betrieb.md