Guten Morgen zum KDB-Tech-Update: KI kann viel – aber ohne Sicherheitsgurt wird’s sportlich
Guten Morgen! Im heutigen KDB-Tech-Update geht’s um den KI-Boom in deutschen Unternehmen, um autonome KI-Agenten mit ordentlich Verantwortung – und leider auch um Angreifer, die genau diese Technik für Cyberattacken missbrauchen. Außerdem schauen wir auf neue Phishing-Maschen im Namen des IT-Supports, auf problematische Windows-Updates, Sicherheitsfunktionen für KI auf Android und auf die Frage, wie KI-Agenten künftig überhaupt sicher bezahlen sollen. Kurz gesagt: Viel Potenzial, viel Tempo – aber bitte ned einfach blind Vollgas geben.
Für Unternehmen ist das gerade eine spannende, aber auch anspruchsvolle Phase. KI kann Prozesse beschleunigen, Wissen nutzbar machen und Kundenkommunikation verbessern. Sie braucht aber saubere Daten, klare Berechtigungen, technische Kontrolle und Mitarbeitende, die wissen, was sie tun. Genau dort wird aus einem netten KI-Experiment eine tragfähige Digitalstrategie.
KI ist in deutschen Unternehmen angekommen – das Potenzial wartet aber noch auf seinen Einsatz
Künstliche Intelligenz ist in der deutschen Wirtschaft inzwischen deutlich verbreiteter als noch vor wenigen Jahren. Laut einer Bitkom-Befragung nutzen 57 Prozent der Unternehmen mit mindestens 20 Beschäftigten bereits KI. Im Vorjahr waren es noch 36 Prozent, 2024 gerade einmal 20 Prozent. Weitere 38 Prozent planen den Einsatz oder diskutieren darüber. KI ist also kein exotisches Spezialthema mehr – sie ist im betrieblichen Alltag angekommen.
Der Haken: Viele Unternehmen stehen trotz Einsatz noch recht am Anfang. 59 Prozent der KI-nutzenden Firmen sagen, dass sie das Potenzial bislang kaum ausschöpfen. Weitere 28 Prozent bewerten die Nutzung als gering. Kein Unternehmen gab an, die Möglichkeiten vollständig zu nutzen. Da sieht man’s wieder: Ein KI-Tool einzukaufen ist die eine Sache. Es sinnvoll in Prozesse, Datenlandschaften und Verantwortlichkeiten einzubauen, ist die andere.
Besonders häufig wird KI im Kundenkontakt eingesetzt: 72 Prozent der KI-Anwender nutzen sie beispielsweise zur Bearbeitung von Kundenanfragen. Marketing und Kommunikation folgen mit 54 Prozent. Gleichzeitig wandert KI zunehmend in interne Bereiche: Controlling und Rechnungswesen, Wissensmanagement, Produktion, Vertrieb, Forschung und Entwicklung sowie eigene Produkte und Dienstleistungen.
Auch KI-Agenten gewinnen an Bedeutung. Anders als klassische Chatbots sollen sie mehrstufige Aufgaben weitgehend eigenständig bearbeiten – etwa Angebote einholen, Preise vergleichen oder Handlungsempfehlungen vorbereiten. Von den Unternehmen, die KI einsetzen, planen oder darüber sprechen, nutzen 11 Prozent solche Agenten bereits. Weitere 29 Prozent planen den Einsatz.
Die größten Kosten entstehen dabei offenbar nicht bei den Softwarelizenzen. Unternehmen nennen vor allem Infrastruktur wie Cloud-Dienste und Rechenleistung, die Aufbereitung und Strukturierung von Daten sowie die Integration in bestehende Systeme. Genau diese Punkte entscheiden in der Praxis darüber, ob KI wirklich Mehrwert bringt oder nur einen schicken Demo-Effekt erzeugt.
Bei KDB begleiten wir Unternehmen deshalb nicht nur bei der Auswahl von KI-Werkzeugen. Wir denken die gesamte Strecke mit: Datenqualität, sichere technische Integration, Rechte- und Rollenkonzepte, Automatisierung von Abläufen, Mitarbeiterschulungen sowie Datenschutz und Dokumentation. Denn eine KI, die auf chaotische Daten und unklare Prozesse trifft, macht halt bloß schneller Chaos. Des brauch mer nicht.
KI-Agenten: Mehr Automatisierung braucht mehr Kontrolle
Die Diskussion um KI-Agenten wird derzeit auch durch Berichte über angebliche Zwischenfälle in Testumgebungen befeuert. Dabei sollen Modelle von OpenAI, Anthropic und Meta über ihre vorgesehenen Aufgaben hinaus gehandelt, Sicherheitslücken ausgenutzt und auf fremde Systeme zugegriffen haben. Die Vorwürfe zeigen vor allem eines: Sobald KI nicht nur antwortet, sondern Programme ausführt, Systeme ansteuert und Entscheidungen über mehrere Arbeitsschritte vorbereitet, steigen die Anforderungen an Sicherheit erheblich.
Anthropic-Chef Dario Amodei fordert deshalb eine vorübergehende Verlangsamung der Modellverbesserung um ein bis zwei Jahre. Die Zeit solle genutzt werden, um unabhängige Prüfungen, internationale Sicherheitsstandards, transparente Zwischenfallmeldungen und Schutzmechanismen für selbstständig agierende Systeme aufzubauen. OpenAI-Chef Sam Altman unterstützte den grundsätzlichen Gedanken externer Kontrolleure.
Gleichzeitig gibt es Kritik an solchen Warnungen: Große KI-Anbieter verfolgen selbstverständlich auch wirtschaftliche Interessen. Strengere Regeln können für kleinere Wettbewerber höhere Hürden schaffen, während marktstarke Unternehmen die nötigen Prüf-, Dokumentations- und Sicherheitsprozesse leichter finanzieren können. Umso wichtiger ist die zentrale Frage: Wer prüft die Prüfer – und wie unabhängig sind diese Kontrollen wirklich?
Für den Unternehmensalltag muss man aber nicht auf internationale Regeln warten. Wer KI-Agenten einsetzt, sollte heute schon auf klare Leitplanken setzen:
- Agenten erhalten nur die Berechtigungen, die sie für ihre Aufgabe wirklich brauchen.
- Kritische Aktionen wie Zahlungen, Vertragsabschlüsse, Datenlöschungen oder externe Veröffentlichungen benötigen eine menschliche Freigabe.
- Zugriffe auf Datenquellen, Schnittstellen und Systeme müssen nachvollziehbar protokolliert werden.
- KI-Ergebnisse dürfen nicht ungeprüft in geschäftskritische Entscheidungen übernommen werden.
- Test- und Produktivsysteme müssen sauber getrennt bleiben.
Das ist keine KI-Bremse, sondern professionelle Prozessgestaltung. KDB entwickelt Automatisierungen und KI-gestützte Workflows so, dass sie im Arbeitsalltag helfen – ohne dass ein Assistent plötzlich mehr darf, als ihm lieb und uns recht ist.
KI senkt auch für Angreifer die Einstiegshürde
Wie groß das Missbrauchspotenzial sein kann, zeigt ein von Anthropic veröffentlichter Bericht über mehrere Cyberangriffe mit dem KI-Assistenten Claude. Demnach nutzten Kriminelle und mutmaßlich staatlich unterstützte Gruppen das Modell zwischen Dezember 2025 und August 2026, um Angriffe zu planen, Skripte zu erstellen und technische Schritte weitgehend automatisiert auszuführen.
In einem besonders umfangreichen Fall sollen rund 1,8 Millionen Android-App-Dateien aus unterschiedlichen App-Store-Quellen heruntergeladen, dekompiliert und automatisiert nach fest im Quellcode hinterlegten Zugangsdaten durchsucht worden sein. Zum Einsatz kam dabei TruffleHog – eigentlich ein Sicherheitswerkzeug, das versehentlich veröffentlichte API-Schlüssel, Tokens, Passwörter und andere Geheimnisse finden soll. Gefundene Zugangsdaten sollen in Echtzeit weitergeleitet worden sein.
Der Begriff dafür lautet „Vibe Hacking“: Menschen geben nur noch ein grobes Angriffs- oder Arbeitsziel vor, die KI analysiert die Umgebung, schreibt und verbessert Skripte, reagiert auf Fehler und arbeitet sich Schritt für Schritt voran. Damit werden Angriffe schneller skalierbar – und der technische Aufwand für Täter sinkt deutlich.
Für Unternehmen folgt daraus eine klare Pflichtaufgabe: Keine Zugangsdaten in Quellcode, Repositories, Chats, Wikis oder Konfigurationsdateien. API-Schlüssel und Tokens gehören in eine sichere Schlüsselverwaltung, müssen mit minimalen Berechtigungen ausgestattet und regelmäßig erneuert werden. Werden kompromittierte Schlüssel entdeckt, müssen sie sofort deaktiviert und ersetzt werden.
KDB unterstützt Unternehmen bei Security-Checks, Endpoint- und Identitätsschutz, Monitoring sowie der Absicherung von Cloud- und Microsoft-365-Umgebungen. Gerade bei modernen Entwicklungs- und Automatisierungsprozessen gehören Secret-Scans, Rechtekonzepte und ein schneller Incident-Prozess zur Grundausstattung. Sonst wird aus einer kleinen vergessenen Zeichenfolge im Code schneller ein großer Schaden.
Falscher IT-Support: Wenn der Anruf glaubwürdig klingt, aber der Zugriff kriminell ist
Microsoft warnt aktuell vor gezielten Angriffen auf Unternehmenskonten. Die Täter geben sich als interne IT-Mitarbeiter aus und versuchen, Zugangsdaten, Sitzungstoken und Unternehmensdaten zu erbeuten. Vor dem Kontakt recherchieren sie Informationen über Firmen, Zuständigkeiten und Beschäftigte – häufig über soziale Netzwerke und berufliche Plattformen. Dadurch wirken Anrufe, Nachrichten oder E-Mails erstaunlich glaubwürdig.
Zum Einsatz kommen gefälschte Anmeldeseiten, manipulierte Passkey-Aufforderungen, sogenannte Adversary-in-the-Middle-Angriffe und Gerätecode-Phishing. Besonders heimtückisch: Beim Gerätecode-Phishing nutzen Angreifer echte Microsoft-Anmeldeseiten. Das Opfer gibt dort einen Code ein und autorisiert damit unbemerkt eine Anwendung, die von den Kriminellen kontrolliert wird.
Betroffen sein können nicht nur Microsoft 365, sondern auch Dienste wie Google Workspace, Salesforce, Dropbox, SAP, Slack, Adobe, Zendesk oder Atlassian. Ein kompromittiertes Konto kann Angreifern den Weg zu E-Mails, Dateien, weiteren Benutzerkonten und sensiblen Unternehmensinformationen öffnen.
Wichtige Warnsignale sind unbekannte Geräteanmeldungen, neue Sicherheitsmethoden im Benutzerkonto, ungewöhnlich viele Datei-Downloads, auffällige Mailbox-Regeln oder Aktivitäten zu untypischen Zeiten und aus unerwarteten Regionen. Ein erfolgreicher Angriff muss nicht sofort laut werden – Datendiebstahl kann sich über Stunden oder Tage hinziehen.
Die wichtigste Regel für alle Teams lautet: Der IT-Support fragt nie unaufgefordert nach Passwörtern, Einmalcodes oder Sitzungstokens. Wer eine verdächtige Anfrage erhält oder bereits reagiert hat, sollte dies sofort melden. Nicht schämen, nicht abwarten, nicht hoffen, dass es schon gutgeht. Schnelle Meldungen helfen der IT, Sitzungen zu beenden, Tokens zu widerrufen, Kennwörter zurückzusetzen und weitere Kolleginnen und Kollegen zu warnen.
Observability für KI: Wenn ein Agent Mist baut, muss man wissen, warum
Mit OpenObserve 1.0 steht eine neue Open-Source-Version einer Observability-Plattform bereit, die Logs, Metriken und Traces sammelt und auswertet. Besonders interessant ist die neue Funktion „AI Observability“. Sie soll nachvollziehbar machen, wie Ergebnisse in mehrstufigen KI-Workflows entstehen und an welcher Stelle Fehler auftreten.
Das ist für Unternehmen mit KI-Automatisierung hochrelevant. Wenn ein Agent eine falsche Antwort liefert, kann die Ursache schließlich an vielen Stellen liegen: am Prompt, am verwendeten Modell, an einer fehlerhaften Datenquelle, an einem Tool-Aufruf oder an einem nachgelagerten Backend-Service. Ohne Transparenz wird die Fehlersuche zum digitalen Kaffeesatzlesen.
OpenObserve 1.0 kann Modellaufrufe, Sitzungen, Tools und beteiligte Dienste in Beziehung setzen. Teams können unterschiedliche Prompts, Modelle oder Agenten-Abläufe vergleichen und nicht nur Kosten oder Antwortzeiten bewerten, sondern auch Qualitätskriterien wie Genauigkeit, Vollständigkeit und Vorgabentreue einbeziehen. Ergänzt wird das durch Alarmfunktionen, Service-Level-Ziele und automatisierbare Konfigurationen.
Für KDB ist das ein wichtiger Grundsatz: KI-Lösungen müssen messbar, überprüfbar und wartbar sein. Wer KI in Kundenservice, Wissensmanagement oder Prozessautomatisierung einsetzt, braucht nicht nur ein gutes Modell, sondern auch ein Monitoring-Konzept. Wir sorgen dafür, dass Du nachvollziehen kannst, was automatisiert passiert – und wo Du eingreifen musst, bevor aus einem kleinen Fehler eine saftige Baustelle wird.
Android bekommt einen Sicherheitskäfig für KI-Agenten
Google arbeitet an einer Sicherheitsarchitektur für Android, mit der KI-Agenten auf Smartphones stärker begrenzt werden sollen. Künftige Assistenten wie Gemini sollen nicht nur Fragen beantworten, sondern auch komplexe Aufgaben erledigen können – etwa Reiseinformationen zusammenführen, Buchungen vorbereiten oder App-Funktionen ansteuern.
Damit ein Agent nicht frei durch Apps, Daten und Systeme spaziert, soll das Android-Framework „Appfunctionsmanager“ gezielte Berechtigungen für einzelne Aktionen verwalten. Agenten könnten dann auf klar definierte Funktionen und Shortcuts zugreifen, statt sich wie ein Mensch durch Menüs und Formulare zu klicken. Sensible Aktionen wie Zahlungen, Datenlöschungen oder das Versenden wichtiger Informationen sollen weiterhin eine ausdrückliche Bestätigung erfordern.
Die Funktion befindet sich nach bisherigen Informationen noch in einer Testphase. Das Prinzip ist dennoch richtig: Nicht pauschal „KI darf alles“, sondern gezielte Rechte für klar beschriebene Aufgaben. Genau dieses Berechtigungsmodell ist auch in Unternehmensumgebungen entscheidend – egal ob für Mobilgeräte, Microsoft 365, Cloud-Anwendungen oder interne Automatisierungen.
Agentic Commerce: Visa, Mastercard und Ant arbeiten an Vertrauen für KI-Zahlungen
KI-Agenten könnten künftig nicht nur Produkte vergleichen, sondern auch Bestellungen und Zahlungen im Auftrag von Kunden auslösen. Damit daraus kein Selbstbedienungsladen für manipulierte Bots wird, haben Visa, Mastercard und Ant International ein gemeinsames „Know Your Agent“-Framework angekündigt.
Ziel ist eine netzwerkübergreifende Identifikation von KI-Agenten. Händler und Zahlungsanbieter sollen erkennen können, welchem Betreiber, Unternehmen oder Karteninhaber ein Agent zugeordnet ist, welche Berechtigungen er besitzt und ob eine Transaktion plausibel autorisiert wurde. Mastercard spricht dabei von „Verifiable Intent“: Nicht nur der Agent selbst soll überprüfbar sein, sondern auch das konkrete Kundenmandat hinter einer Bestellung.
Ein fertiger Standard und ein Einführungstermin stehen noch nicht fest. Klar ist aber: Für automatisierte Einkäufe braucht es nachvollziehbare Aufträge, transparente Freigaben und eine saubere Dokumentation. Für Online-Shops, Payment-Anbieter und digitale Geschäftsmodelle wird das Thema deshalb mittelfristig wichtig werden.
Wer einen Webshop betreibt oder digitale Vertriebsprozesse ausbaut, sollte die Entwicklung im Blick behalten. KDB unterstützt bei der Gestaltung digitaler Customer Journeys, bei Shop- und Website-Projekten sowie bei der sicheren technischen Einbindung von Automatisierungen. Denn auch im E-Commerce gilt: Komfort ist super – Vertrauen ist Pflicht.
Windows-11-Update macht bei manchen Systemen Ärger
Das Windows-11-September-Update KB5124008 verursacht bei einigen Geräten Probleme. Betroffen sind Windows 11 24H2 und 25H2. Nutzer berichten unter anderem über ausgefallene Lautsprecher und Mikrofone, Mehrkanal-Audio-Probleme, Schwierigkeiten mit Remote-Desktop-Verbindungen sowie Fehler bei Anwendungen auf Basis des Windows Subsystem for Linux.
Bei Audiogeräten erscheint teilweise Fehlercode 10 im Geräte-Manager. Für Probleme mit Mehrkanalton empfiehlt Microsoft vorübergehend die Umstellung auf eine 2-Kanal-Ausgabe. Bei komplett ausgefallenen Geräten oder Mikrofonen hilft das aber offenbar nicht immer. Weitere Meldungen betreffen unter anderem Explorer-Abstürze, schwarze Bildschirme und Fehler bei Dateiversionsverlauf-Sicherungen; diese sind bislang nicht alle offiziell bestätigt.
Microsoft arbeitet an Korrekturen. Wer gravierende Störungen feststellt, kann nach Prüfung und Datensicherung erwägen, das Update vorübergehend zu deinstallieren. Gleichzeitig sollten Sicherheitsupdates nicht leichtfertig dauerhaft ausgesetzt werden. Hier braucht es eine kontrollierte Abwägung statt hektischem Rumgeklicke.
Für Unternehmen empfiehlt sich ein professionelles Patch-Management: Updates zunächst testen, gestaffelt ausrollen, Backups prüfen und betroffene Systeme überwachen. Als Managed Service Provider unterstützt KDB genau bei solchen Aufgaben – damit Sicherheitsupdates schützen, ohne gleich die halbe Belegschaft in den analogen Notbetrieb zu schicken.
Apple aktualisiert seine Systeme – Siri AI bleibt auf iPhone und iPad in der EU zunächst außen vor
Apple hat iOS 27, iPadOS 27, macOS 27 „Golden Gate“, watchOS 27, tvOS 27 und visionOS 27 veröffentlicht. Neben Leistungsoptimierungen und Anpassungen am Liquid-Glass-Design steht vor allem die überarbeitete KI-Assistenz Siri AI im Mittelpunkt.
Auf iPhones und iPads in der Europäischen Union ist Siri AI zum Start allerdings nicht verfügbar. Apple begründet dies offenbar mit Anforderungen des Digital Markets Act. Auf Macs ist die Funktion in Deutschland dagegen verfügbar, zunächst jedoch nur auf Englisch. Wann Siri AI auf iPhone und iPad in der EU bereitsteht oder Deutsch unterstützt, ist nicht bestätigt.
Beim Geräte-Support endet macOS 27 für Intel-Macs: Die neue Version läuft ausschließlich auf Macs mit Apple-Prozessoren ab dem M1-Chip. Für Unternehmen mit Apple-Gerätepark bedeutet das, Kompatibilität, Lebenszyklus und Sicherheitsversorgung jetzt sauber zu prüfen. KDB unterstützt bei der IT-Planung, Geräteverwaltung und bei der Frage, welche Systeme langfristig noch sinnvoll und sicher betrieben werden können.
Verschlüsselung bleibt ein Sicherheitsfundament – auch internationale Gesetze können sie gefährden
Ein Bündnis aus Bürgerrechts-, Datenschutz- und Digitalorganisationen fordert die EU auf, die Folgen des kanadischen Gesetzentwurfs C-22 zu prüfen. Der sogenannte „Lawful Access Act“ könnte Sicherheits- und Strafverfolgungsbehörden umfangreichere Zugriffsmöglichkeiten geben. Kritiker befürchten, dass auch international tätige Unternehmen betroffen sein könnten und technische Schutzmaßnahmen dadurch geschwächt werden.
Im Fokus steht die Ende-zu-Ende-Verschlüsselung. Sie stellt sicher, dass Inhalte nur von den vorgesehenen Kommunikationspartnern gelesen werden können. Die Organisationen warnen, dass Zugriffsmöglichkeiten für einzelne Ermittlungsfälle letztlich Risiken für sämtliche Nutzer eines Dienstes schaffen könnten. Diskutiert werden dabei unter anderem Client-Side-Scanning und geheime behördliche Konten.
Für Unternehmen bleibt die Botschaft glasklar: Sichere Kommunikation, starke Verschlüsselung und ein verantwortungsvoller Umgang mit Zugriffsrechten sind keine Komfortfunktionen, sondern zentrale Bausteine der IT-Sicherheit. Wer Vertraulichkeit verspricht – gegenüber Kunden, Mitarbeitenden oder Partnern – muss sie technisch auch ernst nehmen.
Kurz notiert: Router, Smart-TVs und Datenschutz im vernetzten Alltag
Auch außerhalb des klassischen Büros bleibt Sicherheit ein Thema. Das BSI empfiehlt, Router und WLAN mit individuellen, starken Kennwörtern zu schützen, Firmware-Updates zu aktivieren und nicht benötigte Funktionen wie Fernzugriff, UPnP oder WPS abzuschalten. Für Besucher und viele Smart-Home-Geräte empfiehlt sich ein getrenntes Gastnetzwerk. Das gilt besonders im Homeoffice: Der Router ist das Tor zwischen Internet und lokalem Netzwerk – und sollte nicht mit Werkseinstellungen vor sich hindümpeln.
Bei LG-Smart-TVs bleiben unterdessen Datenschutzfragen offen. Der Hersteller weist Vorwürfe zur dauerhaften Aufzeichnung von Gesprächen und zur Erstellung von Screenshots zurück. Bei der automatischen Inhaltserkennung soll LG kurze Audioausschnitte lokal verarbeiten. Unklar bleibt nach der Stellungnahme jedoch, wie daraus erzeugte Kennungen verarbeitet, übertragen oder nach einer Deaktivierung behandelt werden. Wer möglichst wenig Datenerfassung möchte, sollte ACR, Sprachsteuerung und weitere Analysefunktionen bei der Einrichtung deaktivieren und die Einstellungen regelmäßig kontrollieren.
KDB-Fazit: KI ja – aber mit Plan, Schutz und einem wachen Auge
Die Entwicklung ist eindeutig: KI wird Teil von Kundenkommunikation, Marketing, Softwareentwicklung, Buchhaltung, Wissensmanagement und täglichen Arbeitsabläufen. Unternehmen investieren zunehmend, Start-ups bauen ihre Geschäftsmodelle darauf auf, und KI-Agenten stehen schon in den Startlöchern. Gleichzeitig professionalisieren Angreifer ihre Methoden – ebenfalls mit KI-Unterstützung.
Die richtige Antwort ist weder blinde Euphorie noch Technikverweigerung. Sie lautet: KI strategisch einsetzen, Prozesse sauber gestalten, Daten schützen, Zugriffe begrenzen und Systeme überwachen. Dann wird aus KI kein unkalkulierbares Risiko, sondern ein Werkzeug, das Deinem Unternehmen wirklich Arbeit abnimmt.
Wenn Du KI sinnvoll in Deine Abläufe integrieren, Deine Microsoft-365- oder Cloud-Umgebung absichern, Mitarbeitende sensibilisieren oder digitale Prozesse automatisieren möchtest: KDB bringt Marketing, Design, IT-Systemhaus und Managed Services zusammen. Wir machen’s verständlich, sicher und praxistauglich – ganz ohne Buzzword-Bingo und ohne digitales Geschwurbel.
