Kontext, Tokens und Datenschutz

Jede Anfrage an ein Modell trägt das bisherige Gespräch mit: deine Nachrichten, die Schritte von AI Pilot und ihre Ergebnisse. Diese Seite erklärt, wie viel vom Kontextfenster des Modells ein Chat belegt, was passiert, wenn es voll wird, wofür du bezahlst und welche Daten deinen Rechner verlassen.

Die Anzeige Kontext & Tokens

Neben der Modellauswahl im AI-Pilot-Panel sitzt ein kleiner Ring. Er füllt sich, während das Gespräch wächst, und seine Beschriftung zeigt, wie voll das Kontextfenster des Modells ist: – vor der ersten Anfrage, danach ein Prozentwert wie 23%. Bei 70 % und noch einmal bei 90 % wechselt der Ring die Farbe. Kennt kaiport das Kontextfenster des Modells nicht, zeigt die Beschriftung stattdessen die Zahl der Tokens, zum Beispiel 18.4k. Ein ≈ davor bedeutet, dass die Zahlen geschätzt sind.

Klicke auf den Ring, um Kontext & Tokens (Context & tokens) zu öffnen:

Meldet dein Anbieter keine Token-Zahlen, steht im Popover Geschätzt – der Anbieter meldet keine Token-Zahlen. kaiport schätzt dann etwa vier Zeichen pro Token. Die letzte Zeile erinnert dich: „Neuer Chat“ leert den Kontext.

Das Kontextfenster erfährt kaiport vom Anbieter: aus den Modellinformationen von Anthropic oder aus der Modellliste eines OpenAI-kompatiblen Anbieters, wenn sie den Wert enthält. Sonst schätzt kaiport es anhand des Modellnamens.

Lange Gespräche

Belegt ein Gespräch 70 % des Kontextfensters, fasst AI Pilot vor der nächsten Anfrage die ältere Hälfte zusammen. Das Modell verdichtet, worum du gebeten hast, was erledigt wurde, wichtige Ausgaben und offene Fragen, und die Zusammenfassung ersetzt die älteren Nachrichten. Die jüngsten Runden bleiben wortwörtlich erhalten. Das Zusammenfassen kostet eine zusätzliche Anfrage und passiert nur, wenn das Kontextfenster bekannt ist.

In jedem Fall schickt AI Pilot höchstens die 80 jüngsten Nachrichten eines Gesprächs mit, wobei jedes Werkzeugergebnis als Nachricht zählt; ältere fallen weg. Für ein neues Thema klickst du am besten auf Neuer Chat: Das leert den Kontext und macht Anfragen kleiner und günstiger.

Kosten

kaiport verlangt nichts für die Nutzung der Modelle und verkauft keine Tokens. Dein Anbieter rechnet die Tokens über dein Konto zu seinen Preisen ab; die Anzeige zeigt Token-Zahlen, keine Beträge. Tokens verbrauchen:

• jeder Schritt einer Aufgabe, weil jede Anfrage das ganze Gespräch mitschickt, einschließlich Befehlsausgaben und Dateiauszügen,
• die Anweisungen und Systemangaben, die jede Anfrage mitträgt,
• Verbindung testen mit einer winzigen Anfrage,
• automatische Zusammenfassungen langer Gespräche,
• Anfragen des Editor-Assistenten.

Lokale Modelle über Ollama oder LM Studio kosten nichts pro Token.

Was AI Pilot an deinen Anbieter sendet

Anfragen gehen direkt von deinem Rechner an die API-URL aus deinen Einstellungen. Nichts läuft über die Server von kaiport. Eine Anfrage enthält:

• die Anweisungen von AI Pilot, einschließlich deines Textes aus Zusätzliche Anweisungen und aus KI-Anweisungen für diese Verbindung,
• Name, Benutzername und Host der Verbindung; in Speicher-Tabs außerdem Speicherart, Endpunkt, Region und Bucket oder Container – nie Passwörter oder Schlüssel,
• die Systemangaben aus der Prüfung beim Sitzungsstart: Betriebssystem, Hostname, Benutzer und Gruppen, Werkzeuge und Ressourcen,
• deine Nachrichten, einschließlich des herausgezogenen Textes angehängter Dateien,
• das bisherige Gespräch: die Antworten von AI Pilot und die Ergebnisse seiner Schritte – Befehlsausgaben, Bildschirminhalte, Ordnerlisten, Suchtreffer und die Dateiinhalte, die er gelesen hat,
• in Speicher-Tabs die Ordner, die du gerade ansiehst, und nach einem Verbindungsfehler die Fehlermeldung und die Hinweise von kaiport.

Wie dein Anbieter mit diesen Daten umgeht, regeln seine Bedingungen. Prüfe sie, bevor du AI Pilot auf vertraulichen Systemen einsetzt.

Was auf deinem Rechner bleibt

• Die Passwörter, Schlüssel und Tokens, die mit deinen Verbindungen gespeichert sind. AI Pilot sieht sie nie.
• Passwörter, die du im Terminal eintippst, wenn sudo oder ein anderes Programm danach fragt. AI Pilot fragt im Chat nie danach, und Passwortabfragen zeigen nicht an, was du tippst.
• Dein API-Token. kaiport bewahrt ihn verschlüsselt auf und nutzt ihn nur, um seine Anfragen bei deinem Anbieter zu authentifizieren.
• Der Chatverlauf und das KI-Protokoll, siehe Wo die Daten liegen.

Steuern, was deinen Rechner verlässt

Einstellungen → AI Pilot hat zwei Einstellungen für Dateiinhalte:

• Dateiinhalte an die KI senden – ausgeschaltet kann AI Pilot keine Dateien lesen und keine Inhalte durchsuchen, und der Editor-Assistent kann nur neuen Inhalt erzeugen. AI Pilot arbeitet dann nur mit Namen, Größen und Datum.
• Limit pro Datei (KB) – begrenzt, wie viel von einer einzelnen Datei gesendet wird, standardmäßig 64 KB. Längere Dateien werden auf Anfang und Ende gekürzt; die Inhaltssuche überspringt sie.

Auch mit eingeschalteten Dateiinhalten schickt die Inhaltssuche nie ganze Dateien, sondern nur die passenden Zeilen, und ihre Karte listet jede Datei auf, die sie gelesen hat.

Dürfen überhaupt keine Daten deinen Rechner verlassen, nutze ein lokales Modell über Ollama oder LM Studio. Siehe AI Pilot einrichten.

Wo die Daten liegen

Die Dateien von AI Pilot liegen im Datenordner der Mac-App, ~/Library/Containers/de.kernich.kaiport/Data/Library/Application Support/kaiport. Den Pfad zeigt Einstellungen → Über unter Daten.