Guten Morgen zum KDB-Tech-Update: KI wird Alltag – Sicherheit muss mitziehen
Guten Morgen! Im heutigen KDB-Tech-Update und im Podcast geht es um eine Frage, die zwischen KI-Euphorie und Tagesgeschäft gern liegen bleibt: Wer prüft eigentlich, worauf die neuen Helfer zugreifen und was mit den Daten passiert? Eine Studie von BSI und TÜV-Verband zeigt Sicherheitslücken beim KI-Einsatz in Unternehmen. Dazu kommen Warnungen zum Datenschutz bei Chatbots, neue KI-Funktionen für Windows und Google Workspace sowie ein konkreter Termin für Outlook-Administratoren. Außerdem schauen wir auf Ransomware-Ermittlungen, einen folgenreichen fehlenden Patch und die Frage, wie digitale Prozesse auch im Krisenfall funktionieren. Also: Kaffee her, Berechtigungen im Blick behalten – und los.
KI im Unternehmen: Ausprobieren ist noch kein Sicherheitskonzept
Etwa jedes zweite der rund 500 befragten Unternehmen nutzt laut einer Studie von BSI und TÜV-Verband KI-Anwendungen. Besonders häufig werden Texte und Bilder erstellt, etwa mit ChatGPT, Microsoft Copilot oder Canva. Für die Automatisierung betrieblicher Abläufe setzt dagegen nur etwa jedes vierte Unternehmen mit KI-Nutzung die Technologie ein.
Die Sicherheitsmaßnahmen halten nicht überall Schritt: Nur rund die Hälfte der Unternehmen prüft KI-Anwendungen vor ihrem Einsatz auf Sicherheit. Spezielle Verfahren für KI-bezogene Sicherheitsvorfälle haben lediglich elf Prozent. Gleichzeitig berichteten 17 Prozent, in den vergangenen zwölf Monaten KI-gestützte Cyberangriffe oder Betrugsversuche erlebt oder vermutet zu haben. Unter den Unternehmen mit entsprechenden Hinweisen waren täuschend echte Phishing-Mails besonders verbreitet.
Für Deinen Betrieb heißt das nicht „Finger weg von KI“. Es heißt: erst den Anwendungsfall und den Datenzugriff klären, dann das Werkzeug freigeben. Wer darf welche Informationen eingeben? Welche Systeme werden angebunden? Wer prüft Ergebnisse, und was passiert bei einem Sicherheitsvorfall? Gerade bei automatisierten Abläufen im Kundenservice oder Rechnungswesen werden diese Fragen schnell praktisch. KDB verbindet bei solchen Projekten Prozessgestaltung und Automatisierung mit IT-Sicherheit – damit aus einer guten Idee kein unkontrollierter Datenweg wird.
Der EU AI Act führt zudem schrittweise Anforderungen ein, besonders für Hochrisikobereiche wie Medizin, Personalwesen und Energiewirtschaft. Dort kommt es unter anderem darauf an, Systeme zu überwachen sowie Sicherheit und Leistungsfähigkeit zu prüfen. Der KI-Forscher Geoffrey Hinton fordert darüber hinaus unabhängige Sicherheitsprüfungen neuer KI-Systeme vor ihrer Veröffentlichung. Das ist ein Vorschlag, keine bereits geltende Zulassungsregel. Für Unternehmen bleibt unabhängig davon die naheliegende Aufgabe: eigene KI-Anwendungen nicht erst nach einem Vorfall kritisch anschauen.
Chatbot-Gespräche und Tracker: Was Du eingibst, verdient Vertraulichkeit
Eine vorläufige Studie des IMDEA Networks Institute hat neun KI-Chatbot-Dienste untersucht, darunter ChatGPT, Claude, Gemini und Microsoft Copilot. Ihr Befund: Bei allen untersuchten Anbietern gelangen Nutzerdaten an Dritte; Art und Umfang unterscheiden sich jedoch je nach Dienst. Besonders kritisch sind laut Untersuchung bei fünf Anbietern Links zu Chats, die beim Browserzugriff an Tracker weitergegeben wurden. Sind solche Links nicht ausreichend geschützt, könnten Dritte unter Umständen Gesprächsverläufe aufrufen.
Die Forschenden berichten außerdem, dass bei drei Diensten automatisch erzeugte Chat-Zusammenfassungen an Werbepartner übermittelt wurden. Selbst nach Ablehnung optionaler Cookies seien noch zahlreiche Drittanbieter-Tracker aktiv gewesen. Wichtig bei der Einordnung: Die Studie unterscheidet zwischen allgemeinen Nutzerdaten, Zusammenfassungen und vollständigen Chatverläufen. Für ChatGPT hebt der bereitgestellte Bericht beispielsweise hervor, dass laut Studie Nutzerdaten an Dritte gelangen, aber keine Chatverläufe weitergegeben werden.
Die Konsequenz für den Arbeitsalltag ist klar: Vertrauliche Kundeninformationen, Gesundheitsdaten, Gehälter oder interne Zugangsdaten gehören nicht gedankenlos in einen Chatbot. Auch das Teilen eines Chat-Links sollte eine bewusste Entscheidung sein. Prüfe bei eingesetzten Diensten Datenflüsse, Freigabefunktionen und organisatorische Regeln. An das Thema knüpft unser früheres KDB-Tech-Update zum sicheren KI-Einsatz und Datenschutz an.
KI rückt näher an Dateien und Arbeitsabläufe
Microsoft baut Windows 11 stärker zur Plattform für KI-Agenten aus. Die sogenannten Microsoft Execution Container sind nun allgemein verfügbar und sollen Agenten eine abgeschirmte Umgebung für Aufgaben bieten. Microsoft plant außerdem eigene Nutzerkonten für Agenten und gezielt begrenzte Rechte; die vorgesehene Integration mit Microsoft Entra soll folgen. Mit Agent 365 sollen Organisationen Agenten zentral verwalten können.
Parallel setzt Microsoft auf eine Kombination aus lokaler und cloudbasierter KI. Copilot soll nach Zustimmung der Nutzenden künftig lokale Inhalte einbeziehen und beispielsweise Dateien sortieren können. Weitere angekündigte Funktionen für Copilot+-PCs sollen in den kommenden Monaten folgen. Für Unternehmen ist dabei weniger entscheidend, wie beeindruckend eine Demo aussieht. Entscheidend ist, ob ein Agent nur die Dateien und Dienste erreicht, die er für seine Aufgabe tatsächlich benötigt – und ob ein Mensch wichtige Ergebnisse vor der Weitergabe prüft.
Auch in Google Workspace wird KI direkter Teil des Arbeitsablaufs: Anthropic bietet Claude als Erweiterung für Docs, Sheets und Slides an. Claude kann unter anderem Textänderungen vorschlagen, Tabellen und Formeln bearbeiten oder Präsentationen anhand vorhandener Vorlagen erstellen. Standardmäßig fragt die Integration vor Änderungen nach; eine automatische Bestätigung lässt sich einstellen. Für verwaltete Workspace-Konten kann eine Freigabe durch Administratoren nötig sein, außerdem ist ein Claude-Abo erforderlich. Unser Rat: Die Nachfrage vor Änderungen ist kein lästiger Klick, sondern eine sinnvolle Kontrollstelle – besonders bei gemeinsam genutzten Dateien.
Eine andere Richtung zeigt Googles neue macOS-App AI Edge Foresight. Sie soll Meetings transkribieren, Notizen mit freigegebenen lokalen Dateien verknüpfen und laut Google vollständig lokal sowie offline arbeiten. Das kann Datenübertragungen an externe Cloud-Server vermeiden. Trotzdem bleibt die Berechtigung entscheidend: Auch eine lokal arbeitende KI sollte nur Zugriff auf die Audioquellen und Dokumente erhalten, die sie wirklich braucht. Foresight ist für Macs mit Apple Silicon vorgesehen; ob sämtliche App-Funktionen auf Deutsch verfügbar sind, war im bereitgestellten Bericht noch offen.
KI-Inhalte erkennen: Wasserzeichen helfen, beweisen aber nicht alles
Google hat den Zugang zu seinem SynthID-Detector ausgeweitet. Das Portal kann Bilder, Videos und Audio auf Wasserzeichen des SynthID-Systems prüfen – auch bei Inhalten teilnehmender Partner. Allerdings ist für die Nutzung eine Anmeldung mit einem Google-, Apple- oder ChatGPT-Konto erforderlich.
Für Marketing, Design und Social Media ist Herkunftsprüfung wichtig, gerade wenn Material schnell veröffentlicht werden soll. Ein gefundenes Wasserzeichen kann ein hilfreicher Hinweis sein. Ein fehlendes Wasserzeichen beweist aber nicht, dass ein Inhalt echt ist: Nicht jedes KI-System verwendet SynthID, und Manipulationen sind nicht ausgeschlossen. Vor einer Veröffentlichung bleiben Quellenprüfung und redaktioneller Blick gefragt. Des passt scho – aber eben nicht blind.
Digitale Gewalt: Gesetzentwurf nimmt Deepfakes und Identitätsmissbrauch ins Visier
Das Bundeskabinett hat am 7. Oktober einen Gesetzentwurf gegen digitale Gewalt beschlossen. Er richtet sich insbesondere gegen bildbasierte sexualisierte Gewalt, darunter sexualisierte Deepfakes und heimlich angefertigte intime Aufnahmen. Vorgesehen sind außerdem Regelungen zu ansehensschädigender Kommunikation über Fake-Profile, Identitätsmissbrauch und Cyberstalking mit satellitengestützten Trackern. Betroffene sollen leichter gerichtlichen Schutz beantragen können, etwa die Sperrung eines Accounts.
Beschlossenes Recht ist das noch nicht: Der Bundestag muss über den Entwurf beraten und entscheiden. Für alle, die Websites, Profile oder Social-Media-Kanäle verantworten, unterstreicht die Debatte bereits jetzt, wie ernst gefälschte Identitäten und manipulierte Medien zu nehmen sind. Klare Zuständigkeiten für Accounts und ein schneller Umgang mit Missbrauchsmeldungen gehören zu einer verantwortungsvollen digitalen Präsenz. Der Deutsche Richterbund erinnert zugleich daran, dass neue Vorschriften nur dann wirksam schützen können, wenn ihre Durchsetzung praktisch möglich ist.
Ransomware und ein fehlender Patch: Zwei Fälle, eine Lehre
Im Kampf gegen die Ransomware-Gruppe Qilin haben Ermittler in Nordrhein-Westfalen einen mutmaßlichen führenden Angehörigen festgenommen. Der 28-Jährige war bereits im Mai mit Unterstützung der japanischen Polizei in Tokio festgenommen und am 2. Oktober nach Deutschland ausgeliefert worden. Ihm wird unter anderem eine Beteiligung an einem Angriff auf ein deutsches Logistikunternehmen vorgeworfen; über den Tatverdacht ist nicht entschieden. Nach Angaben des NRW-Innenministers soll Qilin seit 2024 weltweit fast 4.000 Einrichtungen angegriffen haben.
Ein anderer Fall zeigt, wie teuer eine Lücke zwischen Warnung und Handlung werden kann: Nach einem Datenabfluss über eine extern betreute Personalplattform entfernte das FBI einen Dienstleister aus dem Auftrag. Nach Angaben eines FBI-Verantwortlichen war ein ausdrücklich bereitgestellter Sicherheitspatch nicht installiert worden. Reuters ordnet die betroffene Plattform Oracle PeopleSoft und den Dienstleister Accenture zu; FBI und Accenture bestätigten diese Zuordnung dem Bericht zufolge nicht ausdrücklich. Die kritische Schwachstelle CVE-2026-35273 war zunächst auch als Zero-Day ausgenutzt worden, bevor Oracle einen Notfall-Patch veröffentlichte.
Beide Meldungen betreffen unterschiedliche Teile der Cybersicherheit: Angriffe müssen verfolgt werden – Unternehmen müssen zugleich ihre eigenen Systeme pflegen. Dazu gehören klare Verantwortlichkeiten für Updates, die Kontrolle externer Dienstleister, begrenzte Zugriffe und vorbereitete Reaktionswege. Ein Vertrag allein installiert schließlich noch keinen Patch.
Für Admins vormerken: Outlook blockiert MSIX-Anhänge ab November
Ab Anfang November 2026 sollen sich Anhänge mit den Endungen .msix und .msixbundle im Web-Outlook und im neuen Outlook für Windows standardmäßig weder öffnen noch herunterladen lassen. Microsoft plant, die Umstellung bis Mitte November abzuschließen. Betroffen sind die entsprechenden Dateityp-Listen der Exchange-Online-Postfachrichtlinien.
MSIX ist ein Format zur Bereitstellung von Windows-Anwendungen. Die Pakete sind nicht grundsätzlich schädlich, können aber missbraucht werden. Wenn Deine Organisation solche Dateien tatsächlich per E-Mail austauschen muss, solltest Du die verwendeten OwaMailboxPolicies vor der Umstellung prüfen und erforderliche Ausnahmen gezielt in der AllowedFileTypes-Liste eintragen. Wenn nicht, ist die Änderung vor allem ein Anlass, Softwareverteilung und erlaubte Anhänge sauber zu dokumentieren.
Vom Heimrouter bis zur kritischen Infrastruktur: Reaktion muss funktionieren
Das BSI empfiehlt, Router regelmäßig zu aktualisieren und ihre Sicherheitseinstellungen zu prüfen. Konkret: unterstützte Hardware verwenden, Updates zeitnah einspielen, das voreingestellte Administrationspasswort ersetzen und das WLAN mit mindestens WPA2 sowie einem langen Passwort schützen. Auch Firewall und Fernzugriff gehören auf die Prüfliste. Wird Fernzugriff nicht gebraucht, sollte er deaktiviert werden; für Gäste oder weniger vertrauenswürdige Geräte kann ein getrenntes Netz sinnvoll sein. Gerade im Homeoffice ist der Router eben nicht bloß die Kiste mit den blinkenden Lämpchen.
Im größeren Maßstab beschreibt eine AFCEA-Studie eine „Verkettungslücke“ beim Schutz kritischer Infrastruktur: Informationen, Zuständigkeiten und Einsatzmittel kommen in Krisen nicht immer rechtzeitig zusammen. Die Studie fordert unter anderem besser verknüpfte Lagebilder, klare Übergaben und Übungen vor dem Ernstfall. Auch für kleinere Unternehmen steckt darin ein brauchbarer Gedanke: Eine Warnung hilft wenig, wenn niemand weiß, wer entscheidet, wen man informiert und wie der Betrieb weiterläuft.
Dazu passt der Test der EU-Kommission mit Element Pro. Die auf dem offenen Matrix-Standard basierende Kommunikationsplattform läuft auf eigener Infrastruktur und soll vorerst nicht Microsoft Teams ersetzen, sondern bei dessen Ausfall als Ausweichweg dienen. Einzelne Beschäftigte äußerten laut Bericht deutliche Kritik an der Testversion; ihre Aussagen sind keine repräsentative Bewertung. Ein Plan B ist nur dann nützlich, wenn Menschen ihn kennen und im Bedarfsfall tatsächlich verwenden können.
Digitale Verwaltung und Cyber-KI: Fortschritt braucht Leitplanken
Die Bundesregierung lässt von T-Systems einen Prototyp für eine dialogbasierte Deutschland-App entwickeln. Erprobt werden soll die Plattform in Dortmund, Dresden, Erfurt, Hamburg, Nürnberg und Wiesbaden – zunächst mit ausgewählten Leistungen aus Familie, Wohnen, Soziales und Unternehmensgründung. Für die Anmeldung ist die eID-Funktion des Personalausweises vorgesehen; die EUDI-Wallet wird in einer Testumgebung erprobt. Wann die App verfügbar sein wird und was sie zum Start genau kann, ist noch offen. Das Projekt zeigt dennoch, worauf es bei Digitalisierung ankommt: Angebote müssen über Zuständigkeitsgrenzen hinweg auffindbar und nutzbar werden, ohne Identitätsschutz und Datenschutz aus dem Blick zu verlieren.
Anthropic wiederum erweitert den kontrollierten Zugang zu leistungsfähigeren Cyber-KI-Modellen für verifizierte Sicherheitsarbeit. Das neue Programm unterscheidet defensive Forschung, autorisierte Red-Team-Arbeit und besonders sensible Tests kritischer Systeme. Dahinter steht ein echtes Spannungsfeld: KI kann helfen, Schwachstellen zu finden und zu beheben – dieselben Fähigkeiten können auch für Angriffe nützlich sein. Berechtigungen und Überprüfung sind deshalb nicht nur beim alltäglichen KI-Agenten wichtig, sondern ebenso bei Werkzeugen für Sicherheitsprofis.
Was Du heute mitnehmen solltest
Prüfe, welche KI-Dienste und Erweiterungen in Deinem Unternehmen bereits genutzt werden und welche Daten sie erreichen. Halte Patch-Verantwortlichkeiten fest – auch bei extern betriebenen Systemen. Schau bei Bedarf auf die Outlook-Richtlinien für MSIX-Anhänge und vergiss den Router im Homeoffice nicht. Vor allem aber: Lege fest, wer bei einer Warnung handelt und wer im Störfall übernimmt.
KDB unterstützt Dich dabei, IT-Sicherheit, Managed Services und sinnvolle Automatisierung zusammenzudenken – ebenso wie einen verantwortungsvollen Umgang mit KI in digitalen Prozessen und Medienarbeit. Denn die beste neue Funktion bringt wenig, wenn am Ende niemand die Tür abschließt.
