Was bedeutet lokal?
Bei lokaler KI findet die eigentliche Modellberechnung auf Hardware statt, die du selbst betreibst oder kontrollierst. Das kann ein einzelner Rechner, ein lokaler Server oder eine eigene technische Umgebung sein. Lokal bedeutet dabei nicht automatisch offline, sicher oder besser – diese Eigenschaften müssen separat geprüft werden.
Welche Vorteile kann das haben?
Daten können innerhalb der eigenen Umgebung bleiben, Systeme können auch ohne ständige Verbindung zu einem externen KI-Dienst funktionieren und bestimmte Abläufe lassen sich enger kontrollieren. Gleichzeitig hängen Geschwindigkeit und Modellgröße stärker von der vorhandenen Hardware ab.
Was gehört zur Entscheidung dazu?
Neben Datenschutz und Datenzugriff zählen Wartung, Updates, Modellqualität, Strom- und Hardwarebedarf sowie die Absicherung des lokalen Systems. Für manche Aufgaben ist eine Cloud-Lösung sinnvoller, für andere eine lokale oder gemischte Architektur.