Prompts bleiben intern
Bei vollständig lokaler Verarbeitung können Eingaben, Dokumente und Quellcode innerhalb der kontrollierten Infrastruktur bleiben. Für die Antwortgenerierung müssen sie nicht an öffentliche KI-Dienste gehen.
Unternehmens-KI / Private AI
Ihre eigene KI.
In Ihrer Infrastruktur.
Unter Ihrer Kontrolle.
Nutzen Sie generative KI für Ihr Unternehmenswissen, Ihre Dokumente und Ihren Quellcode. Wir konzipieren eine private KI-Plattform, deren zentrale Verarbeitung in Ihrer kontrollierten Infrastruktur stattfindet.
On-Premise oder dediziert gehostetOffene TechnologienBeratung, Einrichtung & Betrieb
Datenschutz & Datenhoheit
Sensible Daten verdienen eine bewusste Architektur.
Für Geschäftsführung, IT und Datenschutzverantwortliche im Mittelstand ebenso wie für Softwareunternehmen: Ein selbst gehostetes Sprachmodell (LLM) schafft Gestaltungsspielraum bei der Verarbeitung Ihrer Daten.
Datenflüsse bestimmen
Wir planen, welche Daten wohin gelangen dürfen. Externe Dienste, Telemetrie und Modell-Downloads werden gesondert betrachtet; ausgehende Verbindungen lassen sich gezielt begrenzen.
Berechtigungen erhalten
Bestehende Identitätssysteme können den Zugang steuern. Dokumentenrechte müssen auch bei Suche, Indexierung und Antworten berücksichtigt werden. Logging und Auditierung richten sich nach Ihren Vorgaben.
Komponenten wählen
Offene Schnittstellen und austauschbare Modelle können die Bindung an einzelne proprietäre KI-Anbieter reduzieren. Lizenzbedingungen und Aufwand für einen Wechsel bleiben Teil der Auswahl.
Beispielarchitektur
Eine Plattform in Ihrer Hand.
Oberfläche, Zugriffssteuerung, Sprachmodell und Unternehmenswissen werden zu einer zusammenhängenden Lösung. Die Darstellung zeigt eine mögliche Architektur; Komponenten und Datenflüsse legen wir gemeinsam fest.
Mitarbeiter
Ihre kontrollierte Infrastruktur On-Premise oder dediziert gehostet
- Private AI / Web UIDie Oberfläche für Ihr Team
- Authentifizierung / SSOIdentität und Berechtigungen prüfen
- AI Gateway / InferenzserverAnfragen und Werkzeugzugriffe steuern
- Selbst gehostetes Open-Weight-ModellAntworten innerhalb der Infrastruktur berechnen
- GPU-InfrastrukturRechenleistung für das Modell
Unternehmenswissen anbinden
Kontext für die KI über berechtigte Suche (RAG) und interne Schnittstellen.
- Interne Dokumente & Fileserver
- Datenbanken
- Interne APIs
- Git-Repositories
- Unternehmens-Wiki
Kontrollierte Anbindung an das AI Gateway
Nur freigegebene Inhalte und Aktionen; bestehende Dokumentenrechte berücksichtigen.Optional: externe Tools & Dienste
Außerhalb der kontrollierten Infrastruktur. Nur über freigegebene API-/MCP-Verbindungen; mögliche Datenübertragungen vorab prüfen und begrenzen.
Mögliche Anwendungsfälle
KI dort einsetzen, wo Ihre Arbeit stattfindet.
Interner KI-Assistent
Eine ChatGPT-ähnliche Oberfläche im Intranet: Texte entwerfen, Inhalte zusammenfassen und Ideen strukturieren. Als selbst gehostete Alternative lässt sich der Assistent für freigegebene interne Aufgaben bereitstellen.
Antworten aus Ihren Dokumenten
RAG (Retrieval-Augmented Generation) ergänzt eine Anfrage um passende Fundstellen aus Richtlinien, Handbüchern oder Prozessbeschreibungen. Antworten können auf diese Quellen verweisen. Auch Suche und Embedding-Modelle zur Aufbereitung der Dokumente können intern laufen.
Quellcode intern bearbeiten
Selbst gehostete Coding-LLMs können Code erklären, Entwürfe generieren und beim Refactoring helfen. Bei entsprechender Konfiguration bleibt Quellcode für die Inferenz – die Berechnung der Antwort – im Unternehmen. Ergebnisse benötigen weiterhin Code-Review und Tests.
Bestehende Anwendungen anbinden
Datenbanken, REST APIs, Fileserver, Wikis, Git-Repositories, Ticketsysteme oder Dokumentenmanagement: Wir prüfen passende Schnittstellen, auch für SharePoint oder Confluence. Umfang und Machbarkeit hängen von Systemversion, Lizenzen, Zugängen und Berechtigungen ab.
Werkzeuge kontrolliert nutzen
Über APIs oder MCP (Model Context Protocol, ein Protokoll zur Werkzeuganbindung) können Agenten interne und externe Dienste nutzen. Wir begrenzen Berechtigungen und sehen für sensible Aktionen Freigaben vor. Externe Aufrufe können Daten übertragen und werden ausdrücklich geplant.
Mit einem prüfbaren Pilot starten
Wir testen mit repräsentativen Aufgaben, ob Antwortqualität, Laufzeit und Kosten zu Ihrem Bedarf passen. Auch mit RAG können Antworten falsch sein. Quellenkontrolle, Schutz vor manipulativen Dokumenteninhalten und menschliche Prüfung gehören zum Konzept.
Betriebsmodelle
Eigene Hardware oder dedizierte Infrastruktur.
Im eigenen Unternehmensnetz
Die Plattform läuft auf Ihrer Hardware und in Ihrem Netzwerk. Diese Variante ist besonders bei sensiblen Daten und hohen Anforderungen an Datenhoheit zu prüfen.
Hardwarebeschaffung, Strom, Kühlung, Kapazität und Ausfallsicherheit müssen eingeplant werden. Wir unterstützen Ihre IT bei Einrichtung und Betrieb.
Dedizierte Server in Deutschland/EU
Angemietete Server beziehungsweise GPU-Infrastruktur bei einem geeigneten Anbieter ersparen die eigene Hardwarebeschaffung. Standort, Isolation, Betreiberzugriffe und Verträge werden vorab geprüft.
Kapazität und Verfügbarkeit hängen vom Anbieter ab. Wir planen den geschützten Zugang und übernehmen den vereinbarten technischen Betrieb.
Auch hybride Konzepte sind möglich: etwa interne Datenhaltung mit dedizierter Rechenleistung. Welche Daten dabei welche Grenze überschreiten, wird ausdrücklich festgelegt. Mehr zu Hosting & Betrieb →
Technologie
Offene Bausteine.
Passend zusammengestellt.
Wir setzen möglichst auf Open Source und offene Standards. Dieser modulare Stack zeigt mögliche Bausteine, kein starres Produkt. Auswahl und Dimensionierung hängen von Daten, Nutzerzahl, Antwortqualität und Betriebsvorgaben ab.
Inference
Sprachmodelle betreiben
- Ollama
- vLLM
Je nach Modell, Hardware und benötigter Parallelität wählen wir einen passenden Inferenzserver.
Modelle
Open-Weight-Modelle auswählen
- Qwen
- Llama
- Mistral
Weitere geeignete Modelle sind möglich. Open Weight bedeutet verfügbare Modellgewichte, nicht automatisch Open Source im OSI-Sinne. Nutzung und Einschränkungen prüfen wir je Modell und Version.
Benutzeroberfläche
Ein Zugang für Ihr Team
- Open WebUI
- Individuelle Web-Anwendung
Eine passende Oberfläche für Chat und Dokumente. Bei Open WebUI sind die jeweiligen Lizenz- und Brandingvorgaben zu berücksichtigen.
RAG / Daten
Wissen auffindbar machen
- PostgreSQL
- pgvector
- Embedding-Modelle
Für Dokumentensuche und passenden Kontext; je nach Bedarf auch andere Vector-Datenbanken. Zugriffsrechte und Löschung müssen den Suchindex einschließen.
Integration
Ihre Systeme verbinden
- REST APIs
- MCP
- Interne Schnittstellen
Werkzeuge und Datenquellen werden einzeln auf Eignung, Berechtigungen und Datenflüsse geprüft.
Infrastruktur
Reproduzierbar bereitstellen
- Linux
- Docker / Compose
- Reverse Proxy
- NVIDIA GPUs
Hardware passend zur Last; Kubernetes ist eine Option für größere Installationen mit entsprechendem Betriebsbedarf.
Identity & Security
Zugriffe gezielt steuern
- SSO
- LDAP / Active Directory
- Identity Provider
- Rollen & Rechte
- TLS
- Netzwerksegmentierung
- Logging / Monitoring
Vorhandene Identitätssysteme binden wir dort an, wo die gewählten Komponenten und Protokolle es unterstützen.
Offener Quellcode und verfügbare Modellgewichte machen Sicherheit und Eignung nicht selbstverständlich. Wir prüfen Komponenten, Lizenzen und Wartbarkeit für den konkreten Einsatz.
Zusammenarbeit
Mit einem klaren Anwendungsfall beginnen.
Verstehen
Ziele, sensible Daten, bestehende Systeme und Anforderungen gemeinsam erfassen.
Erproben
Modelle und Architektur in einem begrenzten Pilot anhand vereinbarter Kriterien bewerten.
Integrieren
Installation, Zugriffe und Schnittstellen umsetzen, Schutzmaßnahmen testen und Nutzer einführen.
Betreuen
Betriebsverantwortung vereinbaren, Updates und Backups planen und die Lösung weiterentwickeln.
Private AI für Ihr Unternehmen
KI nutzen. Die Kontrolle über Ihre Daten behalten.
Sie möchten KI einsetzen, ohne die Kontrolle über Ihre Unternehmensdaten aus der Hand zu geben? Gemeinsam prüfen wir Ihren Anwendungsfall und entwickeln eine passende Architektur.
Unverbindliches Erstgespräch