David Straub
Der Gramps Web KI-Chat-Assistent auf Grampshub
Der KI-Chat-Assistent ist ein neues experimentelles Feature von Gramps Web, das es ermöglicht, Fragen zum Stammbaum an einen KI-Chatbot zu stellen. Technische Details zur Umsetzung und Hinweise zur Nutzung habe ich in zwei vorherigen Blogposts beschrieben. Ab heute ist der KI-Chat auch auf Grampshub verfügbar.
Den Gramps Web KI-Assistenten aktivieren
Die Schritte zur Aktivierung des KI-Assistenten für den eigenen Stammbaum auf Grampshub sind identisch mit denen jeder anderen Gramps Web-Installation und wurden im vorherigen Blogpost beschrieben. Als Baum-Besitzer muss man den semantischen Suchindex erstellen und dann die Nutzergruppen auswählen, die den Chat nutzen dürfen. Wer nicht Besitzer des Baums ist, kann den Besitzer kontaktieren, wenn Interesse am Chat besteht.
Beachte: Das Erstellen des semantischen Suchindex kann Stunden dauern – bitte nur einmal ausführen!
Auf Grampshub verwendete KI-Modelle
Gramps Web erlaubt die Auswahl verschiedener Modelle und Anbieter für KI-Modelle. Was wurde für Grampshub gewählt und warum?
Für das Vektor-Embedding-Modell (wer die technischen Details verstehen möchte, kann im ersten Blogpost nachlesen) nutzt Grampshub das Gramps Web-Standardmodell – das Open-Source-Modell distiluse-base-multilingual-cased-v2 von Sentence Transformers. Es funktioniert mit über 50 Sprachen, vermutlich auch mit deiner! Das Modell läuft lokal auf den Grampshub-Servern.
Für das große Sprachmodell (LLM) verwendet Grampshub OpenAIs gpt-4o-mini über deren API. Warum kein Open-Source-Modell lokal? Das ist derzeit schlicht zu teuer. Moderne LLMs benötigen leistungsstarke Grafikkarten (GPUs), die rund um die Uhr sehr kostspielig sind.
Was bedeutet das für den Datenschutz? KI-Chat ist standardmäßig deaktiviert und die Nutzung ist freiwillig. Selbst bei Nutzung wird nicht der gesamte Stammbaum an Dritte gesendet. Da der Vektorindex lokal berechnet wird, wird nur der für die jeweilige Frage relevante Kontext an das LLM geschickt. Die Kommunikation ist transportverschlüsselt. Natürlich werden alle Datenschutzgesetze (Deutschland, EU) eingehalten; mit OpenAI wurde ein DSGVO-konformer Vertrag abgeschlossen.
Wichtig: Keine genealogischen Daten werden von OpenAI, Grampshub oder dem Gramps Web-Projekt zum Training von KI-Modellen verwendet.
KI-Chat in Grampshub-Abos
Aktuell steht der KI-Chat allen Grampshub-Abonnenten zur Verfügung. In den Nutzereinstellungen gibt es ein neues Kontingent für KI. Das ist ein Gramps Web-Feature, das die Anzahl der Chat-Nachrichten pro Baum zählt und ein Limit erlaubt. Auf Grampshub gibt es derzeit kein solches Limit; wir beobachten die Nutzung und passen ggf. an.
Falls ein Kontingent nötig wird, wird es wie andere Limits behandelt – mit festen Quoten je nach Abo. Da Grampshub ein Hosting-Anbieter und keine “Freemium”-App ist, wird es keine Zusatzkosten oder eingeschränkte Funktionen geben!
Ausprobieren
Viel Spaß beim Ausprobieren des neuen Gramps Web KI-Assistenten – er ist noch in einer frühen Phase und noch nicht sehr mächtig. Erwartet daher nicht zu viel und bleibt kritisch gegenüber den Antworten. Teilt eure Erfahrungen mit der Community, damit der Assistent stetig besser wird.