FreiKI – Systemüberblick & Datenschutz

Die einfache Erklärung

Fremdes Büro oder eigener Mitarbeiter?

Der Unterschied zwischen einer Cloud-KI und FreiKI lässt sich ganz ohne Fachbegriffe erklären.

API-KI (z. B. ChatGPT) – Das fremde Büro

Das fremde Büro. Sie schicken Ihre Frage per Brief an ein Büro im Ausland. Das Büro liest alles – und schickt eine Antwort zurück. Ob Kopien gemacht oder Infos weitergegeben werden, wissen Sie nicht.

⚠ Daten verlassen Ihre Organisation

FreiKI – Der eigene Mitarbeiter

Der eigene Mitarbeiter. Sie flüstern Ihre Frage einem Mitarbeiter zu, der exklusiv für Sie in einem abgesicherten Büro sitzt. Er antwortet sofort – und verlässt dieses Büro niemals.

✓ Daten bleiben bei Ihnen

Funktionen

Was FreiKI kann

Ein Werkzeugkasten statt eines einzelnen Chatfensters – jeder Baustein lässt sich einzeln freischalten.

Chat & Wissen (RAG)

Freies Gespräch mit dem lokalen LLM – und auf Wunsch direkt mit Antworten aus Ihrem hinterlegten Unternehmenswissen, inklusive Quellenangabe.

„Wie ist unsere Regelung zu Dienstreisen?“

„Laut Reisekostenrichtlinie … Erstattung erfolgt binnen 14 Tagen.“

📄 Quelle: Reisekostenrichtlinie_2026.pdf

Übersetzung & Leichte Sprache

Texte, Dokumente und Fotos zwischen Deutsch und über 100 Sprachen übertragen – oder direkt in leicht verständliche Sprache umformulieren. Wichtig für internationale Teams, Ämter und Kirchengemeinden.

Transkription

Audio → Text → Audio, inkl. Vorlesen

Websuche

Interne Recherche via SearXNG

Texterkennung (OCR)

Text aus Fotos und Scans erkennen

MultiDoc

Mehrere Dokumente vergleichen

Team-Chat

Mattermost mit FreiKI-Bot im Team

Piktogramme

ARASAAC-Bildkarten drucken

Dokumentenmanagement

KI-Archiv mit Volltextsuche

Eigene Workflows möglich

Automatisierung nach Bedarf via n8n

Diagramme

Ablaufdiagramme & Organigramme direkt im Chat als Grafik

Bildgenerierung (Exp.)

Cliparts & Illustrationen aus Textbeschreibung

Wissen (RAG)

Unternehmenswissen bewahren und erschließen

Handbücher, Richtlinien, interne Dokumentationen – meist verteilt über viele Ordner und Köpfe. FreiKI macht dieses Wissen durchsuchbar und für alle nutzbar.

Dokumente hochladen

Handbücher, Richtlinien und Notizen einfach ablegen.

→

Sichere lokale Indexierung

Vektor-Suche läuft ausschließlich auf Ihrem eigenen Server.

→

Mitarbeiter fragen

Antworten mit Quellenangabe – in über 100 Sprachen.

Mitarbeiter gehen, Wissen bleibt.

Wissen bewahren

Erfahrung und Fachwissen gehen nicht verloren, wenn Mitarbeitende das Unternehmen verlassen – Dokumente und Prozesse bleiben dauerhaft auffindbar.

Wissen erschließen

Statt mühsam in Ordnerstrukturen zu suchen, stellt man die Frage direkt – FreiKI durchsucht alle freigegebenen Dokumente und liefert die passende Antwort mit Quellenangabe.

Onboarding & Sprachvielfalt

Neue und internationale Mitarbeitende finden sich schneller zurecht: Fragen zu internen Abläufen lassen sich jederzeit stellen – in über 100 Sprachen beantwortet.

KI-unterstütztes Dokumentenmanagement

Paperless-ngx: das digitale Archiv mit KI-Verstand

FreiKI integriert Paperless-ngx als vollständig selbst gehostetes Dokumentenmanagementsystem. Dokumente werden eingescannt oder per Mail angeliefert – die KI übernimmt den Rest.

Automatisches Verschlagworten

Eingehende Dokumente werden von FreiKI gelesen, erkannt und automatisch mit Titeln, Tags und Dokumenttypen versehen – kein manuelles Einsortieren mehr.

Volltextsuche im Archiv

Alle archivierten Dokumente sind sofort durchsuchbar – per Freitext oder direkt aus dem FreiKI-Chat heraus über die integrierten Wissensbereiche.

Dokumente bleiben im Produktivbetrieb im Haus

Im produktiven Betrieb wird weder für die Texterkennung noch für die KI-Analyse ein externer Dienst genutzt – alles läuft auf Ihrer Infrastruktur. (Der öffentliche Testserver nutzt zur Veranschaulichung ein externes Sprachmodell, siehe Hinweis oben.)

Neu: Team-Chat

Mattermost – Team-Kommunikation und KI in einem

FreiKI bringt jetzt einen vollständig selbst gehosteten Team-Chat mit: Mattermost (Open Source). Teamkommunikation und KI-Unterstützung laufen auf derselben Infrastruktur – datenschutzkonform und ohne Cloud-Abhängigkeit.

Kein Slack, kein Teams – Ihre Daten bleiben bei Ihnen

Bei Slack, Microsoft Teams oder Google Chat liegen Ihre Gespräche auf fremden Servern – oft in den USA. Mattermost läuft ausschließlich auf Ihrer eigenen Infrastruktur. Niemand außer Ihrer Organisation kann auf die Chats zugreifen.

DSGVO-konform ohne Kompromisse

Keine Drittanbieter, keine Datenweitergabe, kein Auftragsverarbeitungsvertrag mit einem US-Konzern nötig. Mattermost läuft auf demselben deutschen Server wie FreiKI – datenschutzrechtlich sauber von Anfang an.

FreiKI-Bot direkt im Chat

Die KI ist mitten im Team-Gespräch erreichbar – Antworten inklusive Quellenangaben aus den internen Wissensbereichen. Im produktiven Betrieb verlassen Ihre Fragen dabei nicht das Haus.

Automatisierung

Mehr als ein Chat: Agenten im Hintergrund

Über die eingebaute Automatisierungs-Engine n8n lassen sich eigene KI-Agenten bauen, die selbstständig arbeiten – ganz ohne Klick in der Oberfläche.

Abwesenheitsassistent

Liest eingehende Mails, ignoriert Newsletter, leitet wichtige Anfragen ans Sekretariat weiter und beantwortet den Rest automatisch mit einer passenden Abwesenheitsinfo.

Selbstständige Recherche & Meldungen

Agenten durchsuchen eigenständig das Internet – z. B. nach aktuellen Wetterwarnungen oder NINA-Katastrophenschutzmeldungen – und stellen relevante Hinweise automatisch per E-Mail oder Team-Chat zu.

Eskalations-Workflow

Die KI bewertet die Dringlichkeit einer Anfrage und löst bei Bedarf sofort eine Benachrichtigung aus – statt auf die normale Bearbeitung zu warten.

Datenschutz konkret

Wie eine Mietwerkstatt – nur für KI

Stellen Sie sich FreiKI wie eine Mietwerkstatt vor: Sie nutzen Chat, Wissenssuche, Übersetzung, Transkription – so viele Teilwerkstätten, wie Sie brauchen. Auf dem Server verbleibt danach nichts, das Sie dort gemacht haben.

Frage gestellt

→

FreiKI antwortet

→

Serverseitig verworfen

→

Kein Server-Verlauf

Anfragen werden serverseitig nicht dauerhaft gespeichert. Der Chatverlauf bleibt lokal in Ihrem Browser erhalten und wird dort nicht automatisch gelöscht – auf gemeinsam genutzten Geräten empfehlen wir, den Browser-Verlauf regelmäßig zu leeren.

Rollen & Sicherheit

Feingranulare Rollen statt Alles-oder-nichts

FreiKI unterscheidet zwischen Nutzerrollen mit unterschiedlichen Rechten – bis hin zu einer eigenen Rolle für Berufsgeheimnisträger:innen, deren Umgang mit besonders schützenswerten Daten nachvollziehbar protokolliert wird.

Rollenkonzept

User, Manager, Admin sowie eine eigene Rolle für Berufsgeheimnisträger:innen (BGT) – jede mit individuell zuweisbaren Wissensbereichen und Werkzeugen.

Eignung für Berufsgeheimnisträger

Ärzt:innen, Seelsorge oder Beratungsstellen dürfen im Rahmen ihrer fachlichen Aufgabe eine dokumentierte Ausnahme vom sonst geltenden Verbot der Eingabe besonders schützenswerter Daten (Art. 9 DSGVO) nutzen.

Zwei-Faktor-Authentifizierung

Für Admin- und BGT-Konten in Produktivinstallationen erzwingbar (TOTP, z. B. Google Authenticator). Auf diesem Testserver bewusst deaktiviert, da für einen reinen Demozugang nicht sinnvoll.

Protokollierung ohne Inhaltszugriff

Auffällige Anfragen können automatisiert erkannt werden. Protokolliert werden dabei ausschließlich Zeitpunkt, Benutzername, Werkzeug und Kategorie – niemals der Inhalt der Anfrage selbst.

Architektur

Wie alles zusammenspielt

(Infos für IT-Spezialisten)

Vollständig containerisiert (Docker), alle Komponenten Open Source – extern nur über einen einzigen, TLS-gesicherten Zugang erreichbar.

Caddy

Reverse Proxy mit TLS, einziger externer Zugang.

FreiKI-UI

Node.js/Express-Backend, Login & Bereichsrechte.

pgvector-RAG

Direkte Vektorsuche im Backend – ohne Middleware.

vLLM + LLM

Lokaler Inferenzserver auf eigener GPU.

PostgreSQL + pgvector

Vektordatenbank für die Wissenssuche.

Whisper + Piper + Tesseract

Transkription (Audio → Text), Sprachausgabe (Text → Audio) & Texterkennung (OCR).

SearXNG

Datenschutzkonforme Metasuche.

n8n

Automatisierung, Mails & eigene Agenten.

Mattermost

Self-hosted Team-Chat mit SSO und eingebautem FreiKI-Bot.

Paperless-ngx

KI-gestütztes Dokumentenmanagement.

Uptime Kuma

Internes Monitoring aller Dienste mit E-Mail-Benachrichtigung bei Ausfall.

Mailserver

Eigener SMTP/IMAP-Server – kein externer Maildienst, Mails verlassen die Infrastruktur nicht.

Portainer

Container-Management – Übersicht und Steuerung aller Docker-Dienste über eine Web-Oberfläche.

Dozzle

Echtzeit-Log-Viewer für alle Container – schnelle Fehleranalyse ohne SSH.

Tailscale

Abgesicherter Fernzugriff für Administration.

Lizenz & Betrieb

Offene Komponenten – Sie selbst sind der Betreiber

Alle Bausteine von FreiKI sind frei verfügbar. Sie sind nicht an einen einzelnen Anbieter gebunden und ihm damit nicht ausgeliefert – es gibt viele Dienstleister, die Sie bei Wartung und Anpassung unterstützen können. Die einzigen laufenden Kosten sind Server und GPU.

0 €

Lizenzkosten

100 %

Daten in eigener Infrastruktur

frei

wählbares LLM

Cloud (EU)

ca. 1.500 €/Monat

Schnell startklar, flexibel
Europäische Anbieter (z. B. centron, Hetzner, OVHcloud)
Dedizierter GPU-Server für den Produktivbetrieb
Keine Einstiegskosten

On-Premises

ab ca. 50.000 € einmalig

Eigener GPU-Server, einmalige Anschaffung
Danach nur Strom & Netzanbindung
Ab ca. 3 Jahren günstiger als Cloud-Miete

API-Anbindung

ca. 100 €/Monat

Kleiner Cloud-Server ohne GPU
KI-Modell per API (z. B. Mistral)
Günstigster Einstieg
Daten werden an einen externen KI-Anbieter übertragen – kein vollständiger Datenschutz

Sprachmodelle

Frei wählbares LLM

FreiKI unterstützt alle gängigen Open-Source-Modelle – austauschbar je nach Hardware und Anforderung.

Modell	Lizenz	VRAM	Deutsch	Eignung
Qwen3-32B-AWQ ★	Apache 2.0	~24 GB	★★★★★	Sehr gute Qualität, 24-GB-GPU
Qwen 2.5-14B-AWQ	Apache 2.0	~10 GB	★★★★☆	Kompromiss, kleinere GPU
Qwen 2.5-72B-AWQ	Apache 2.0	~48 GB	★★★★★	Maximale Qualität, 2× GPU
Llama 3.3-70B	Llama 3	~40 GB	★★★★☆	Sehr stark, weit verbreitet
Mistral Small 3.1 (24B)	Apache 2.0	~14 GB	★★★★☆	Schlank, europäisch
Phi-4 (14B)	MIT	~10 GB	★★★★☆	Stark bei Dokumenten

Europäische Optionen: Mistral (Paris) und Aleph Alpha (Heidelberg) für besondere digitale Souveränität.

Häufige Fragen

Was Skeptiker fragen – und unsere Antworten

Q Ist das wirklich so gut wie ChatGPT?

Für interne Zwecke: ja. Im Produktivbetrieb gewinnen Sie einen DSGVO-konformen Betrieb ohne Datenabfluss an Dritte. Was Sie eventuell aufgeben, sind die allerneuesten Web-Informationen.

Q Lernt die KI aus unseren Daten?

Nein. Das Modell ist statisch und trainiert nicht mit Ihren Eingaben. Es gibt keine Rückkopplung an den Modell-Hersteller. In den Wissensdatenbanken hinterlegen Sie Ihr Unternehmenswissen – das bleibt geschützt auf Ihrem Server.

Q Werden meine Anfragen gespeichert?

Nein. Nach jeder Antwort werden Verlauf und Kontext serverseitig vollständig gelöscht. Der Chatverlauf bleibt nur in Ihrem Browser und nur für die laufende Sitzung erhalten.

Q Was, wenn der Server ausfällt?

Dann ist FreiKI vorübergehend nicht verfügbar. Professionelle Rechenzentren bieten hohe Verfügbarkeit – deutlich mehr als ein eigener Server im Haus.

FreiKI

Datenschutz, Unabhängigkeit und volle Kontrolle – KI in Ihrer eigenen Organisation.

Bei Interesse Anfrage an info@freiki.com. Dann bekommen Sie ein Passwort für den Testserver (nutzt ein externes Sprachmodell zur Veranschaulichung, siehe Hinweis oben – anders als im Produktivbetrieb).

Zugang anfragen →

Adresse direkt: info@freiki.com

Deutscher Server · Für DSGVO-/DSG-EKD-konformen Betrieb ausgelegt · Ohne Lizenzrisiken · Offene Komponenten