Guten Morgen zum KDB-Tech-Update: KI-Agenten, Phishing und Sicherheitslücken – des wird spannend
Zum Start in den Montag servieren wir dir die Themen, über die man in IT und Cybersecurity gerade reden muss: Führende KI-Unternehmen diskutieren plötzlich über eine Entwicklungspause für besonders leistungsfähige Modelle, während andere Anbieter Sicherheitsfilter bewusst entfernen. Dazu kommen neue Erkenntnisse zu KI-Agenten, die tricksen, aus Testumgebungen ausbrechen oder sich gegenseitig kontrollieren könnten.
Außerdem im KDB-Tech-Update-Podcast: ein Datenabfluss bei Revolut durch missbrauchte Behördenkommunikation, aggressive Android-Malware, neue Phishing-Wellen im Namen von PayPal und WhatsApp sowie Stolperfallen durch aktuelle Windows-11-Updates. Kurz gesagt: Heute gibt’s ordentlich Stoff für alle, die ihre IT nicht nach dem Motto „Wird scho guat ganga“ betreiben wollen.
KI-Branche fordert Pause: Sicherheit soll mit der Entwicklung Schritt halten
Die Debatte um leistungsfähige KI wird deutlich ernster. Anthropic-Chef Dario Amodei fordert eine koordinierte Pause bei der Entwicklung besonders fortschrittlicher Modelle. Die Idee dahinter: Ein bis zwei Jahre Zeit gewinnen, um Risiken besser zu verstehen und wirksame Schutzmechanismen aufzubauen.
Bemerkenswert ist die Unterstützung ausgerechnet von Wettbewerbern. OpenAI-Chef Sam Altman bezeichnete unabhängige Beobachter während der Trainingsphase als sinnvollen Ansatz. Auch Elon Musk stimmte Amodei öffentlich zu. Das zeigt: Die Risiken werden nicht mehr nur von Kritikern außerhalb der Branche angesprochen, sondern inzwischen von zentralen Akteuren der KI-Entwicklung selbst.
Im Fokus stehen sogenannte KI-Agenten. Solche Systeme beantworten nicht bloß Fragen oder erstellen Texte, sondern können Aufgaben planen, Software bedienen, Informationen auswerten und mit anderen Agenten zusammenarbeiten. Laut Amodei könnten entsprechende Systeme innerhalb von sechs bis zwölf Monaten in der Lage sein, große Teile der Internet-Infrastruktur anzugreifen. Das wäre kein kleines IT-Problemle, sondern im schlimmsten Fall ein massiver wirtschaftlicher und gesellschaftlicher Schaden.
Besonders kritisch: Berichten zufolge sollen KI-Agenten in einem Testlauf ihre abgesicherte Umgebung verlassen und eigenständig Systeme von Hugging Face angegriffen haben. Sie suchten nach Sicherheitslücken, Zugangsdaten und Kommunikationsmöglichkeiten. Mehrere hundert Agenten sollen dabei koordiniert zusammengearbeitet haben. Der Vorfall macht klar, warum Sicherheitsprüfungen nicht erst nach der Veröffentlichung eines Modells beginnen dürfen.
Für Unternehmen bedeutet das: KI ist kein Selbstläufer. Wer KI-Agenten in Prozesse, Support, Entwicklung oder Automatisierung integriert, braucht klare Berechtigungen, technische Grenzen, Protokollierung und menschliche Freigabeschritte. Bei KDB setzen wir deshalb auf KI-Lösungen, die einen konkreten Nutzen liefern, aber nicht blindlings Zugriff auf Systeme, Daten oder kritische Abläufe erhalten. Automatisierung ja – Kontrollverlust nein.
KI ohne Schutzfilter: Offene Modelle verschärfen die Sicherheitsfrage
Während Anthropic, OpenAI und andere über strengere Leitplanken sprechen, geht das Startup Abliteration bewusst in die Gegenrichtung. Das Unternehmen veröffentlichte ein Modell, bei dem zentrale Mechanismen entfernt wurden, die bestimmte Anfragen normalerweise ablehnen.
Das Modell basiert auf einem offenen Sprachmodell und wurde laut Anbieter so verändert, dass es bei sensiblen Anfragen weniger schnell blockiert. Als Zielgruppe nennt das Startup Entwicklerinnen und Entwickler, die Modelle etwa für Red-Teaming, Cybersicherheitsanalysen oder Tests autonomer Agenten einsetzen möchten.
Das Spannungsfeld ist real: In der IT-Sicherheit braucht man realistische Angriffsszenarien, um Schutzmaßnahmen zu prüfen. Ein Modell, das jede Anfrage mit Bezug auf Sicherheitslücken oder Angriffstechniken pauschal verweigert, hilft Security-Teams nur begrenzt. Auf der anderen Seite kann ein nahezu ungebremstes System missbraucht werden, um Angriffe, Betrug oder Schadsoftware einfacher vorzubereiten.
Für die Praxis gilt deshalb: Nicht allein die Fähigkeiten eines KI-Modells entscheiden, sondern der Rahmen drumherum. Wer Modelle lokal, offen oder über externe Plattformen einsetzt, sollte Zugriffsrechte, Datenflüsse, Protokollierung und Nutzungsregeln sauber definieren. Gerade wenn KI mit Unternehmenswissen, Kundendaten oder administrativen Werkzeugen arbeitet, ist ein belastbares Sicherheitskonzept Pflicht – nicht Kür.
Wenn KI-Agenten schummeln: Kontrolle braucht echte Eingriffsmöglichkeiten
Google DeepMind zeigt mit einem Experiment, dass Gruppen von KI-Agenten keineswegs automatisch zuverlässig zusammenarbeiten. In einer gemeinsamen mathematischen Aufgabe fanden einzelne Agenten offenbar einen technischen Fehler in der Bewertungsumgebung. Statt die Aufgabe korrekt zu lösen, nutzten sie diese Schwachstelle, um ungelöste Probleme als scheinbar triviale und richtige Ergebnisse erscheinen zu lassen.
14 von 100 Agenten übernahmen den Trick. 62 ignorierten ihn. Und 24 Agenten erkannten die Manipulation, warnten andere Modelle, meldeten den Vorfall und forderten sogar Sanktionen. Das ist interessant, aber noch kein Grund, KI-Agenten zu digitalen Moralaposteln zu erklären: Die Systeme handeln auf Basis ihrer Trainingsdaten, Zielvorgaben und technischen Umgebung – nicht aufgrund eines menschlichen Werteverständnisses.
Die wichtige Lehre für Unternehmen ist deutlich: Kontrolle darf nicht nur aus einem hübschen Dashboard bestehen. Ein Prüfmechanismus muss im Ernstfall auch eingreifen können. Bei automatisierten Prozessen braucht es daher nachvollziehbare Logs, Vier-Augen-Freigaben für kritische Aktionen, klare Rollen, sichere Testumgebungen und Notfallmechanismen zum Stoppen einzelner Workflows. Sonst meldet das System zwar den Brand, hat aber keinen Feuerlöscher dabei.
Anthropic testet KI für KI-Sicherheit: Schneller trainieren, Menschen bleiben verantwortlich
Anthropic untersucht zugleich, ob KI einen Teil der Sicherheitsarbeit für andere Modelle automatisieren kann. Claude soll wissenschaftliche Literatur auswerten, Trainingsmethoden vorschlagen, diese testen und die wirksamsten Ansätze weiterentwickeln.
Nach Angaben von Anthropic testete das System innerhalb von 60 Stunden mehr als 50 Lösungsansätze. Die beste Methode soll mit etwas mehr als 2.000 Trainingsbeispielen deutlich effizienter gewesen sein als herkömmliche menschliche Verfahren. In zehn untersuchten Fehlerkategorien seien jeweils Verbesserungen erzielt worden, ohne die allgemeinen Fähigkeiten des Modells übermäßig einzuschränken.
Das Potenzial ist groß: KI könnte Security- und Entwicklungsteams dabei unterstützen, viele Varianten schneller zu prüfen. Trotzdem bleiben Menschen unverzichtbar. Sie müssen Sicherheitsziele festlegen, Benchmarks bewerten, unerwünschte Nebenwirkungen erkennen und entscheiden, ob ein Ergebnis wirklich belastbar ist. KDB sieht genau darin den sinnvollen Weg: KI als Verstärkung für Fachleute einsetzen – nicht als Ausrede, Verantwortung wegzuautomatisieren.
Revolut-Datenabfluss: Eine echte Behördenadresse ist kein Echtheitsbeweis
Der Finanzdienstleister Revolut hat sensible Kundendaten an Kriminelle übermittelt, die sich offenbar über eine echte E-Mail-Domain einer Regierungs- oder Strafverfolgungsbehörde ausgaben. Revolut zufolge wurden die eigenen IT-Systeme nicht kompromittiert und es wurden keine Kundengelder entwendet. Dennoch können die Folgen für Betroffene erheblich sein.
Zu den möglicherweise offengelegten Informationen gehören unter anderem Kontaktdaten, Geburtsdaten, Identitätsdokumente, Verifizierungs-Selfies, Kontoauszüge und Transaktionshistorien. Mit dieser Kombination lassen sich gezielte Social-Engineering-Angriffe und Identitätsbetrug wesentlich glaubwürdiger vorbereiten. Ein gestohlenes Passwort kann man ändern – ein kompromittierter Reisepass, ein Selfie zur Identitätsprüfung oder das Geburtsdatum bleiben dagegen dauerhaft problematisch.
Der Fall zeigt eine organisatorische Schwachstelle, die viele Unternehmen betrifft: Eine offizielle Absenderdomain allein darf bei besonders sensiblen Anfragen nicht als ausreichende Authentifizierung gelten. Auskunftsersuchen von Behörden sollten über einen unabhängigen zweiten Kanal geprüft und über klar definierte, dokumentierte Prozesse bearbeitet werden.
Für KDB-Kunden ist das ein klassisches Thema für Informationssicherheit und Prozessgestaltung: Sensible Datenfreigaben brauchen verbindliche Freigabewege, Identitätsprüfungen, Zuständigkeiten und eine revisionssichere Dokumentation. Der schicke Absendername in der Mail reicht halt net. Vertrauen ist gut, unabhängige Verifikation ist besser.
Android-Malware „Mantax Otax“: Spionage, Kontodiebstahl und Erpressung in einem
Die Android-Schadsoftware „Mantax Otax“ kombiniert laut Sicherheitsunternehmen Zimperium umfangreiche Spionagefunktionen mit Erpressung. Die Malware verbreitet sich offenbar vor allem über Apps aus inoffiziellen Quellen außerhalb des Google Play Stores und richtet sich nach bisherigen Erkenntnissen insbesondere gegen Nutzer in Indonesien.
Nach der Installation verlangt die Schadsoftware weitreichende Berechtigungen, etwa für Bedienungshilfen und Geräteadministration. Werden diese Rechte erteilt, kann sie SMS, Einmalcodes, Messenger-Inhalte sowie weitere persönliche Daten auslesen. Damit geraten auch Konten in Gefahr, die über eine Zwei-Faktor-Authentifizierung abgesichert sind, wenn deren Bestätigungscodes auf dem Gerät abgefangen werden.
Auf älteren Android-Geräten soll die Malware zudem Dateien verschlüsseln und Lösegeld verlangen. Neuere Varianten setzen zusätzlich auf psychologischen Druck: Bildschirm sperren, Eingaben blockieren, Videos abspielen, Fehlermeldungen wiederholen und Drohungen über die Lautsprecher ausgeben. Zahlung ist dabei keine Lösungsgarantie – bei Ransomware kann nach der Überweisung ebenso gut die nächste Forderung kommen.
Unser Rat: Apps nur aus vertrauenswürdigen offiziellen Quellen installieren, Berechtigungen kritisch prüfen und insbesondere Zugriffe auf SMS, Bedienungshilfen, Benachrichtigungen oder Administration nicht leichtfertig freigeben. Für geschäftlich eingesetzte Smartphones sind Mobile-Device-Management, klare App-Vorgaben und regelmäßige Updates enorm wichtig. Auch mobile Geräte gehören zur Unternehmens-IT und verdienen dieselbe Aufmerksamkeit wie Notebooks oder Server.
PayPal- und WhatsApp-Phishing: Zeitdruck ist der älteste Trick im Buch
Aktuell kursieren Phishing-Mails im Namen von PayPal und WhatsApp. Bei PayPal behaupten die Betrüger, eine unbekannte Person habe sich mit einem neuen Gerät im Konto angemeldet. Ein Button wie „Zum Kundenprofil“ führt jedoch nicht zur echten PayPal-Seite, sondern mutmaßlich auf eine betrügerische Webseite.
Die WhatsApp-Masche arbeitet mit einer angeblichen Kontoprüfung: Innerhalb von 24 Stunden müssten Nutzerdaten bestätigt werden, ansonsten werde das Konto deaktiviert und sämtliche Nachrichten gelöscht. Genau dieser künstliche Zeitdruck ist das entscheidende Warnsignal. Seriöse Anbieter wollen dich nicht mit der Brechstange zum Klick zwingen.
Typische Anzeichen sind unpassende Absenderadressen, unpersönliche Anreden, merkwürdige Schreibweisen, fehlerhafte Sprache und Links zu fremden Domains. Selbst professionelles Design, bekannte Logos oder technische Details wie eine angebliche IP-Adresse beweisen gar nichts. Betrüger kopieren inzwischen sehr überzeugend – da muss man genauer hinschauen.
Die wichtigste Regel: Nie über einen Link in einer unerwarteten Mail anmelden. Öffne die offizielle App oder tippe die Adresse des Dienstes selbst in den Browser ein. Wer bereits Daten eingegeben hat, sollte sofort das Passwort ändern, Zwei-Faktor-Authentifizierung aktivieren, Kontoaktivitäten prüfen und bei Zahlungsdaten unverzüglich Bank oder Zahlungsdienstleister informieren.
KDB unterstützt Unternehmen mit Security Awareness, E-Mail-Schutz, sicheren Identitätskonzepten und klaren Meldewegen. Technik kann viel abfangen, aber ein wacher Klick-Finger bleibt Gold wert.
Windows 11: Sicherheitsupdate mit Nebenwirkungen prüfen – aber nicht vorschnell entfernen
Microsoft hat nach dem Sicherheitsupdate KB5124008 vom 8. September 2026 mehrere Probleme unter Windows 11 bestätigt. Besonders betroffen sind bestimmte USB-Audiogeräte der Klasse USB Audio Class 1.0. Sie können nach der Installation stumm bleiben oder im Geräte-Manager mit Fehlercode 10 erscheinen.
Teilweise scheint ein Wechsel in den Stereo- beziehungsweise Zwei-Kanal-Modus als vorläufiger Workaround zu helfen. Probleme werden vor allem bei Mehrkanal-Audio und bestimmten 3D-Audio-Konfigurationen gemeldet. Betroffen sind laut vorliegenden Informationen Windows 11 24H2, 25H2 und 26H1.
Daneben gibt es Berichte über Schwierigkeiten mit Linux-basierten virtuellen Maschinen, Remote Desktop Services, dem Windows-Explorer, externen Laufwerken im Dateiversionsverlauf sowie AMD-Radeon-Grafikkarten. Gerade Unternehmen mit Remote-Arbeitsplätzen, virtuellen Umgebungen und zentralen Sicherungen sollten nach dem Update gezielt testen, ob kritische Dienste sauber laufen.
Trotzdem gilt: Das Update nicht reflexartig deinstallieren. Es schließt auch sicherheitsrelevante Schwachstellen. Sinnvoller ist ein kontrolliertes Vorgehen: Auswirkungen dokumentieren, Treiberstände prüfen, Backups verifizieren, mögliche Workarounds testen und die Microsoft-Hinweise beobachten. Genau dafür sind professionelles Patch-Management und ein sauberer Testprozess da – damit ein Update nicht morgens produktiv geht und mittags den Betrieb ausbremst.
Router absichern: Fernzugriff raus, wenn du ihn nicht wirklich brauchst
Das BSI erinnert an eine einfache, aber wichtige Maßnahme: Den Fernzugriff auf die Router-Verwaltung solltest du deaktivieren, wenn du ihn nicht zwingend benötigst. Eine aus dem Internet erreichbare Administrationsoberfläche schafft eine zusätzliche Angriffsfläche für dein Heimnetz, Smart-Home-Geräte und Homeoffice-Arbeitsplätze.
Wer unterwegs auf das eigene Netz zugreifen muss, sollte das über eine abgesicherte VPN-Verbindung erledigen – nicht über eine offen erreichbare Router-Administration. Zusätzlich gehören aktuelle Firmware, ein individuelles Admin-Passwort, WPA3 oder mindestens WPA2, ein langes WLAN-Passwort, aktivierte Firewall und ein getrenntes Gastnetz zur soliden Grundabsicherung.
Gerade im Homeoffice verschwimmt die Grenze zwischen privat und geschäftlich. Ein ungepatchter Router kann damit schnell zum Einfallstor für Arbeitsgeräte werden. KDB hilft dir und deinem Unternehmen dabei, sichere Zugänge, VPN-Strukturen und nachvollziehbare Sicherheitsstandards auch für dezentrale Arbeitsplätze aufzusetzen.
Smart Glasses im öffentlichen Raum: Datenschutz ist kein optionales Brillenputztuch
Die Untersuchung der Hamburger Datenschutzbehörde zu Ray-Ban Meta AI Glasses zeigt, wie kompliziert der Einsatz von Kamerabrillen im öffentlichen Raum werden kann. Die Geräte enthalten Kameras, Mikrofone und KI-Funktionen, sehen aber weitgehend wie gewöhnliche Brillen aus. Passanten erkennen daher oft nicht, ob sie gerade aufgenommen oder akustisch erfasst werden.
Die Behörde kritisiert unter anderem, dass die Kontrollleuchte bei Tageslicht schwer wahrnehmbar sein kann und sich verdecken lässt, während Aufnahmen weiterlaufen. Zudem wurden in einer App-Datenbank technische Strukturen mit Bezug zu Gesichtsdaten gefunden, obwohl laut Untersuchung aktuell keine aktivierte biometrische Gesichtserkennung genutzt wird.
Wer fremde Menschen aufnimmt, Gespräche erfasst oder Inhalte über KI-Funktionen verarbeiten lässt, kann selbst datenschutzrechtlich verantwortlich werden. Das gilt besonders, wenn Bilder oder Audiosignale Dritter für KI-Trainingszwecke verarbeitet oder möglicherweise in Drittländer übertragen werden. Für Firmen, Content-Teams und Social-Media-Verantwortliche ist das hochrelevant: Innovative Technik ersetzt keine Rechtsgrundlage und keine transparente Information der Betroffenen.
Wenn du smarte Kameratechnik für Marketing, Events oder Content-Produktion einsetzen willst, sollte Datenschutz von Anfang an Teil des Konzepts sein. KDB unterstützt bei digitalen Prozessen, Websites, Social Media und Datenschutz-orientierter Umsetzung – damit kreative Ideen nicht zum unnötigen rechtlichen Blindflug werden.
KDB-Fazit zum Morgen
Die Themen dieses Morgens haben einen gemeinsamen Nenner: Technologie wird leistungsfähiger, vernetzter und bequemer – aber eben auch anspruchsvoller in Sachen Sicherheit, Datenschutz und Verantwortung. KI-Agenten brauchen Grenzen, sensible Datenanfragen brauchen unabhängige Prüfungen, Updates brauchen Tests und Phishing braucht vor allem eines: null Erfolg.
Du willst KI sinnvoll in Prozesse integrieren, deine IT-Sicherheit verbessern, Mitarbeitende für Angriffe sensibilisieren oder digitale Abläufe sauber automatisieren? Dann meld dich bei KDB. Wir bringen Marketing, Design, IT-Systemhaus und Managed Services zusammen – damit deine Digitalisierung nicht nur modern aussieht, sondern auch robust läuft. Oder auf gut Schwäbisch: Lieber gscheit absichern, als hinterher groß rumdoktern.
