Der Test
Mit Rudi Kirschen haben wir im Oktober 2026 in Leipzig drei Rechner von Apple mit lokalen Sprachmodellen geprüft: einen Mac mini mit 16 GB Arbeitsspeicher, ein MacBook Pro mit 128 GB und einen Mac Studio mit 256 GB. Apple hat uns die Geräte für den Test zur Verfügung gestellt. Entstanden ist der Test für ein Video auf dem YouTube-Kanal von Felixba. Die Modelle liefen auf den Geräten selbst, ohne Verbindung zu einem Cloud-Anbieter.
Die Aufgaben kamen aus dem Arbeitsalltag: ein Gespräch abschreiben, Alltagsfragen beantworten, einen Reklamationsfall mit 19 Belegen auswerten, ein Video schneiden und eine kleine Anwendung programmieren. Alle Messwerte stehen auf unserer Ergebnisseite.
Was wegfällt, wenn die KI im eigenen Haus läuft
Wer einen Cloud-Dienst wie ChatGPT oder Microsoft Copilot nutzt, gibt Daten an einen Anbieter weiter. Bei den großen Anbietern sitzt die Muttergesellschaft in den USA. Daraus entstehen drei Fragen, die bei lokaler KI entfallen:
- Keine Übermittlung in ein Drittland. Die Regeln für Übermittlungen außerhalb der EU (Kapitel V DSGVO) spielen keine Rolle, wenn die Daten den eigenen Rechner nicht verlassen.
- Kein Zugriff über den US Cloud Act. Das US-Gesetz verpflichtet US-Unternehmen, Daten auf behördliche Anordnung herauszugeben, auch wenn sie in Europa gespeichert sind. Ohne US-Anbieter in der Kette greift es nicht.
- Keine Abhängigkeit von fremden Vertragsbedingungen. Sie müssen nicht prüfen, ob ein Anbieter Ihre Eingaben speichert oder zum Training nutzt. Verträge, Reklamationen und Angebote bleiben im Haus.
Das ist ein echter Gewinn. Gerade bei Kundendaten, Personalunterlagen oder Geschäftsgeheimnissen ist es der Punkt, an dem viele Vorhaben bisher stehen bleiben.
Was bleibt
Die DSGVO gilt für jede Verarbeitung personenbezogener Daten, egal ob sie in der Cloud oder im Serverraum stattfindet. Verantwortlich bleibt das Unternehmen, das die KI einsetzt. Was die Aufsichtsbehörden dabei erwarten, hat die Datenschutzkonferenz im Mai 2024 in einer Orientierungshilfe zu KI zusammengefasst. Lokal bleiben diese Pflichten:
- Rechtsgrundlage und Zweck. Sie brauchen weiterhin einen Grund, die Daten zu verarbeiten (Art. 6 DSGVO), und dürfen sie nur für den festgelegten Zweck nutzen (Art. 5).
- Technische und organisatorische Maßnahmen. Wer hat Zugriff auf den Rechner? Wo landen Eingaben und Ergebnisse? Wie lange werden sie gespeichert? Diese Fragen beantwortet kein Modell für Sie (Art. 32).
- Dokumentation und Folgenabschätzung. Die Verarbeitung gehört ins Verzeichnis (Art. 30). Bei umfangreicher Verarbeitung sensibler Daten kann eine Datenschutz-Folgenabschätzung nötig sein (Art. 35).
- Mitbestimmung. Sobald sich über das System auswerten lässt, wer es wie nutzt, hat der Betriebsrat ein Mitbestimmungsrecht (§ 87 Abs. 1 Nr. 6 BetrVG). Der Standort der KI ändert daran nichts.
- KI-Kompetenz. Die KI-Verordnung verlangt seit Februar 2025, dass Unternehmen die KI-Kompetenz ihrer Beschäftigten fördern (Art. 4). Auch das gilt lokal wie in der Cloud.
Was uns im Test am meisten überrascht hat
Die größte offene Frage war am Ende nicht der Datenschutz, sondern die Verlässlichkeit.
Ein KI-Agent sollte auf dem MacBook ein Video aus drei Kamerawinkeln schneiden. Er meldete am Ende „Qualitätsprüfung bestanden“. Im Schnittprogramm fanden wir keinen einzigen Schnitt, Bild und Ton liefen nicht synchron. Auf dem Mac Studio fand ein anderes Modell bei unserem Reklamationsfall alle 108 geprüften Fakten. Das gelang aber nur in einem von zwei Läufen, der zweite überschritt das Zeitlimit.
Lokale KI ist also nicht automatisch verlässlicher. Sie verändert, wo die Daten liegen, nicht, wie gut die Ergebnisse sind. Die Prüfung bleibt Ihre Aufgabe, und sie gehört in jeden Prozess, der KI nutzt.
Was das für Ihr Unternehmen heißt
Lokale KI ist dann eine echte Alternative, wenn die Daten zu sensibel für einen Cloud-Dienst sind und die Aufgabe klar umrissen ist. Vier Fragen helfen bei der Entscheidung:
- Welche Daten sollen in die KI? Je sensibler die Daten, desto mehr spricht für den eigenen Rechner.
- Welche Aufgabe soll die KI erledigen? Ein Gespräch abzuschreiben gelang schon auf dem kleinsten Mac. Den Reklamationsfall mit 19 Belegen löste nur das große Modell auf dem Mac Studio vollständig. Komplexe Aufgaben mit vielen Schritten brauchen große Modelle und viel Arbeitsspeicher.
- Wer prüft die Ergebnisse, und wie? Ohne festen Prüfschritt sollte kein KI-Ergebnis in einen Geschäftsprozess gelangen.
- Wer betreibt das System? Modelle müssen ausgewählt, aktualisiert und überwacht werden. Das ist Arbeit, die in die Rechnung gehört.
In den nächsten Beiträgen zeigen wir, was ein Mac mini mit 16 GB leisten kann, warum dasselbe Modell auf allen drei Macs dieselbe Antwort gibt und ab welchem Umfang sich eigene Hardware gegenüber der Cloud rechnet.
Dieser Beitrag gibt unsere Einschätzung wieder und ist keine Rechtsberatung. Für Ihren konkreten Fall sprechen Sie bitte mit Ihrer Datenschutzbeauftragten oder Ihrem Datenschutzbeauftragten.