FAQ
Straight answers.Klare Antworten.
Who will stand behind the project?Wer wird hinter dem Projekt stehen?
The plan is a neutral steward: the Take Control Foundation (working name), intended to be domiciled in a politically neutral jurisdiction with strong data-protection law — e.g. Switzerland or Singapore; the seat is not decided. Hosted services would be run by independent local operating companies under local law. This is the intended structure, not an incorporated one, and it is subject to legal review. Self-hosting does not depend on it.Geplant ist ein neutraler Treuhänder: die Take Control Foundation (Arbeitsname), mit Sitz in einem politisch neutralen Rechtsraum mit starkem Datenschutzrecht — z. B. Schweiz oder Singapur; der Sitz ist nicht entschieden. Gehostete Dienste sollen unabhängige lokale Betriebsgesellschaften nach lokalem Recht erbringen. Das ist die beabsichtigte Struktur, nichts davon ist gegründet, und sie steht unter rechtlichem Prüfvorbehalt. Der Selbstbetrieb hängt nicht davon ab.
Does any data leave my infrastructure?Verlassen Daten meine Infrastruktur?
Not by default. With local models (Ollama or vLLM) behind the LiteLLM gateway, prompts, documents, embeddings and answers stay on your systems. Connecting an external model provider is an explicit decision your platform team makes per model.Nicht standardmäßig. Mit lokalen Modellen (Ollama oder vLLM) hinter dem LiteLLM-Gateway bleiben Prompts, Dokumente, Embeddings und Antworten auf Ihren Systemen. Einen externen Modellanbieter anzubinden ist eine bewusste Entscheidung Ihres Plattform-Teams, pro Modell.
How does the gateway decide where a request goes?Wie entscheidet das Gateway, wohin eine Anfrage geht?
With two settings, nothing else: data residency and cost. The gateway is unmodified open-source LiteLLM; a setup agent turns the two settings into its configuration. Every target that would violate the residency setting is left out — residency options follow data-protection regimes (own infrastructure, a country, EU/EEA, EU/EEA plus adequate countries, DPF-certified US providers, Asia-Pacific per regime, China separately, or any approved provider); among the rest, the target that fits the cost setting (lowest cost, balanced, or best quality within budget) is chosen, with the next eligible one as fallback. Keys, scopes and budgets apply to every request. The setup agent is in development; today the gateway routes to the models your platform team configures.Mit zwei Einstellungen, sonst nichts: Datenresidenz und Kosten. Das Gateway ist unverändertes Open-Source-LiteLLM; ein Setup-Agent macht aus den zwei Einstellungen dessen Konfiguration. Jedes Ziel, das die Residenz-Einstellung verletzen würde, bleibt außen vor — die Residenz-Optionen folgen Datenschutz-Rechtsräumen (eigene Infrastruktur, ein Land, EU/EWR, EU/EWR plus angemessene Länder, DPF-zertifizierte US-Anbieter, Asien-Pazifik je Rechtsraum, China getrennt oder jeder freigegebene Anbieter); unter den übrigen wird das Ziel passend zur Kosten-Einstellung gewählt (niedrigste Kosten, ausgewogen oder beste Qualität im Budget), mit dem nächsten zulässigen Ziel als Ausweichziel. Schlüssel, Scopes und Budgets gelten für jede Anfrage. Der Setup-Agent ist in Entwicklung; heute leitet das Gateway an die Modelle weiter, die Ihr Plattform-Team konfiguriert.
Can I force everything to stay on-prem?Kann ich erzwingen, dass alles on-prem bleibt?
Yes. With residency set to “Own infrastructure”, the gateway only considers local endpoints such as vLLM on your GPUs or Ollama on CPU. If no local model can serve a request, it fails with a clear error instead of quietly leaving your network. Today you get the same result by configuring only local models in the gateway.Ja. Mit der Residenz „Eigene Infrastruktur“ berücksichtigt das Gateway nur lokale Endpunkte, etwa vLLM auf Ihren GPUs oder Ollama auf CPU. Kann kein lokales Modell eine Anfrage bedienen, schlägt sie mit einer klaren Fehlermeldung fehl, statt still Ihr Netz zu verlassen. Heute erreichen Sie dasselbe, indem Sie im Gateway nur lokale Modelle konfigurieren.
Does Watchdog upload my code?Lädt Watchdog meinen Code hoch?
Not by default (the recording daemon is a preview, the desktop app is in development). It records metadata — which agent, which tool, which file, which model, when — and leaves file contents on the developer’s machine. Uploading prompts, diffs or file contents to the platform is a policy choice each tenant makes explicitly, and detected secrets are redacted before anything is stored or sent.Nicht standardmäßig (der Aufzeichnungs-Daemon ist eine Vorschau, die Desktop-App in Entwicklung). Aufgezeichnet werden Metadaten — welcher Agent, welches Tool, welche Datei, welches Modell, wann — Dateiinhalte bleiben auf dem Rechner der Entwicklerin. Prompts, Diffs oder Dateiinhalte an die Plattform zu übertragen ist eine Richtlinie, die jeder Mandant ausdrücklich festlegt, und erkannte Secrets werden geschwärzt, bevor etwas gespeichert oder gesendet wird.
Which models can I use?Welche Modelle kann ich nutzen?
Any model reachable through an OpenAI-compatible API. For agents that use tools and knowledge bases, choose a model with tool-calling support. Models must be approved by the platform team before agents can be released with them.Jedes Modell, das über eine OpenAI-kompatible API erreichbar ist. Für Agenten mit Werkzeugen und Wissensbasen wählen Sie ein Modell mit Tool-Calling. Modelle müssen vom Plattform-Team freigegeben sein, bevor Agenten damit veröffentlicht werden.
Can I bring agents built with LangGraph, CrewAI or the OpenAI Agents SDK?Kann ich Agenten aus LangGraph, CrewAI oder dem OpenAI Agents SDK mitbringen?
Yes, as a preview (LangGraph 1.2.12, CrewAI 1.15.22, OpenAI Agents SDK 0.22.3). Such agents run inside the platform’s agent runtime: isolated execution, model calls through the gateway under your residency and cost policy, and the same tracing, budgets, audit and release gates as native agents. Proven end to end in a local Docker sandbox; the Kubernetes sandbox has not run on a live cluster yet, and CrewAI Flows and hosted OpenAI tools are not supported.Ja, als Vorschau (LangGraph 1.2.12, CrewAI 1.15.22, OpenAI Agents SDK 0.22.3). Solche Agenten laufen in der Agent-Runtime der Plattform: isolierte Ausführung, Modellaufrufe über das Gateway nach Ihrer Residenz- und Kostenrichtlinie und dieselben Tracing-, Budget-, Audit- und Freigabe-Regeln wie native Agenten. Ende-zu-Ende belegt in einer lokalen Docker-Sandbox; die Kubernetes-Sandbox lief noch nicht auf einem echten Cluster, CrewAI-Flows und gehostete OpenAI-Werkzeuge werden nicht unterstützt.
Does it work with Microsoft 365 — SharePoint and Teams?Funktioniert es mit Microsoft 365 — SharePoint und Teams?
Both connectors exist as a preview and have been tested only against local mocks of Microsoft’s services — not yet against a real Microsoft 365 tenant. SharePoint syncs document libraries into a knowledge base and carries document permissions over, so answers only use documents the asking user may open. Teams delivers a released agent into Teams chats (no streaming yet).Beide Konnektoren gibt es als Vorschau; getestet sind sie bisher nur gegen lokale Nachbildungen der Microsoft-Dienste — noch nicht gegen einen echten Microsoft-365-Mandanten. SharePoint synchronisiert Dokumentbibliotheken in eine Wissensbasis und übernimmt die Dokumentberechtigungen, sodass Antworten nur Dokumente nutzen, die die fragende Person öffnen darf. Teams bringt einen freigegebenen Agenten in Teams-Chats (noch ohne Streaming).
Does it classify use cases under the EU AI Act for me?Stuft es Anwendungsfälle für mich nach der KI-Verordnung ein?
No — it helps you do it and keeps the record. The use-case registry (preview) asks a risk questionnaire and suggests a class (prohibited, high, limited, minimal); the classification is your decision and not legal advice. The registry then enforces what follows from it, for example that a use case classified as prohibited cannot move into development.Nein — es hilft Ihnen dabei und dokumentiert es. Das Anwendungsfall-Register (Vorschau) stellt einen Risikofragebogen und schlägt eine Klasse vor (verboten, hoch, begrenzt, minimal); die Einstufung ist Ihre Entscheidung und keine Rechtsberatung. Was daraus folgt, setzt das Register dann durch — etwa, dass ein als verboten eingestufter Anwendungsfall nicht in die Entwicklung gehen kann.
What is the license?Unter welcher Lizenz steht es?
Not decided yet. The license will be announced together with the public repository. We will not claim a license before it is in the repository.Noch nicht entschieden. Die Lizenz wird gemeinsam mit dem öffentlichen Repository veröffentlicht. Wir nennen keine Lizenz, bevor sie im Repository steht.
How are tenants kept apart?Wie werden Mandanten getrennt?
Every request carries a tenant context, and tenant data is protected by row-level security in PostgreSQL. Roles decide what each person sees inside a tenant; platform-wide pages are reserved for platform admins.Jede Anfrage trägt einen Mandantenkontext, Mandantendaten sind in PostgreSQL per Row-Level-Security geschützt. Rollen bestimmen, was jede Person innerhalb eines Mandanten sieht; plattformweite Seiten sind Plattform-Admins vorbehalten.
Do I need a GPU?Brauche ich eine GPU?
Not to try it: the platform itself runs on ordinary CPUs, and small open models can run on CPU. For production workloads, size GPU capacity to the models you choose — we do not publish performance numbers we have not measured.Nicht zum Ausprobieren: Die Plattform selbst läuft auf normalen CPUs, kleine offene Modelle ebenfalls. Für Produktivlast dimensionieren Sie GPU-Kapazität passend zu Ihren Modellen — wir veröffentlichen keine Leistungswerte, die wir nicht gemessen haben.
Can I sign in with my existing identity provider?Kann ich meinen bestehenden Identity Provider nutzen?
Yes. Authentication uses OIDC — Keycloak or any compliant provider. Internal agent apps reuse the tenant SSO; externally facing apps can bring their own OIDC issuer.Ja. Die Anmeldung nutzt OIDC — Keycloak oder jeden konformen Anbieter. Interne Agent-Apps nutzen das Mandanten-SSO; externe Apps können einen eigenen OIDC-Issuer verwenden.