KDB-Tech-Update: Morgendliche Ausgabe
Guten Morgen und herzlich willkommen zum heutigen KDB-Tech-Update! Wir haben wieder spannende Themen für euch vorbereitet. Heute erfahrt ihr, wie Microsofts Copilot zur Phishing-Maschine werden könnte, welche Kontroversen die neue UN-Cybercrime-Konvention mit sich bringt und wie Microsoft und Palantir ihre Zusammenarbeit ausbauen. Außerdem werfen wir einen Blick auf Sicherheitstipps von CISA, neue Erkenntnisse über das Verhalten von Menschen beim Training von KIs, sowie die Zukunft des Fernsehens und der Arbeitswelt. Los geht’s!
Copilot: Wie das KI-Tool zu einer Phishing-Maschine wird – und warum Microsoft das verhindern muss
In der digitalen Welt, in der Künstliche Intelligenz (KI) zunehmend an Bedeutung gewinnt, ist es unerlässlich, die Sicherheitsaspekte solcher Technologien zu betrachten. Ein aktueller Bericht von Sicherheitsforscher Michael Bargury auf der Black Hat Security Conference in Las Vegas zeigt auf, wie Microsofts KI-Tool Copilot von Cyberkriminellen ausgenutzt werden kann, um Phishing-Angriffe durchzuführen. Diese Erkenntnisse werfen ein grelles Licht auf die potenziellen Gefahren, die mit der Nutzung von KI-Tools verbunden sind.
Bargury demonstrierte, dass Hacker:innen mit relativ einfachen Mitteln Microsofts Copilot, der eigentlich dazu gedacht ist, Büroarbeiten zu erleichtern, in eine Phishing-Maschine verwandeln können. Der Schlüssel dazu ist der Zugriff auf die Arbeits-Mail-Adresse des Opfers. Mit dieser Adresse können Angreifer:innen nicht nur den Zugang zum Copilot-Tool, sondern auch zum E-Mail-Konto des Ziels übernehmen. Dies versetzt sie in die Lage, Copilot für die Erstellung von täuschend echten Phishing-E-Mails zu nutzen.
Einmal im Besitz der Adresse, können Hacker:innen mit Copilot herausfinden, mit wem ihr Ziel zuletzt kommuniziert hat und welche Themen besprochen wurden. Diese Informationen ermöglichen es den Angreifern, personalisierte Antworten zu formulieren, die im besten Fall so aussehen, als kämen sie von einer vertrauenswürdigen Quelle. Bargury betont: „Ich kann das mit allen machen, mit denen ihr jemals geschrieben habt und ich kann Hunderte Mails in eurem Namen schicken.“ Die Effizienz, die Copilot bietet, ist alarmierend: Wo ein Hacker früher Tage benötigt hätte, um eine einzige überzeugende E-Mail zu erstellen, können nun Hunderte dieser Mails in wenigen Minuten generiert werden.
Ein weiterer Aspekt, den Bargury hervorhebt, ist die Möglichkeit für Hacker:innen, sensible Informationen zu extrahieren, wie beispielsweise Gehaltsdaten. Obwohl Microsoft Sicherheitsmaßnahmen implementiert hat, um solche Aktivitäten zu verhindern, können diese laut dem Forscher durch gezielte Manipulation umgangen werden.
Ein zusätzliches Risiko besteht darin, dass Angreifer:innen nicht einmal Zugriff auf das E-Mail-Konto der Mitarbeiter:innen benötigen. Stattdessen können sie schädliche E-Mails senden, die dann von Copilot gescannt werden. Diese E-Mails könnten Bankinformationen enthalten, die den Angreifern ermöglichen, legitime Überweisungen zu manipulieren.
Die Dringlichkeit, diese Sicherheitsprobleme zu beheben, ist laut Bargury offensichtlich. Microsoft arbeite bereits an Lösungen, um die Risiken zu minimieren. „Man spricht mit Copilot und führt eine eingeschränkte Konversation, weil Microsoft Sicherheitsmaßnahmen eingefügt hat. Aber wenn man ein paar magische Worte nutzt, dann öffnet es sich und kann tun, was du willst“, erklärt er.
In Anbetracht der wachsenden Bedrohungen durch Cyberkriminalität ist es von größter Bedeutung, dass Unternehmen und Entwickler sicherstellen, dass ihre KI-Tools nicht nur effektiv, sondern auch sicher sind. Microsoft steht vor der Herausforderung, das Vertrauen in seine Produkte zu wahren und gleichzeitig die notwendigen Sicherheitsvorkehrungen zu treffen, um die Nutzer:innen vor potenziellen Angriffen zu schützen.
UN-Cybercrime-Konvention: Ein umstrittenes Abkommen in der digitalen Welt
Am Donnerstag wurde in New York die umstrittene UN-Cybercrime-Konvention nach dreijährigen Verhandlungen einstimmig angenommen. Die Initiative, die von Russland und China im Jahr 2017 ins Leben gerufen wurde, zielt darauf ab, Cyberkriminalität international zu bekämpfen. Trotz massiver Proteste von Bürgerrechtlern und großen Technologieunternehmen wurde der Entwurf genehmigt. Kritiker warnen, dass die Konvention einen zu breiten Anwendungsbereich hat und als „Überwachungsvertrag“ missbraucht werden könnte, um Repressionen gegen Bürger auszuüben.
Ein zentrales Element der Konvention ist die Kriminalisierung unberechtigter Zugriffe auf Informations- und Kommunikationssysteme. Staaten, die der Konvention beitreten, müssen sicherstellen, dass Maßnahmen gegen das Beschädigen, Löschen oder Verändern elektronischer Daten ergriffen werden. Auch der Besitz von Hackerwerkzeugen wird unter Strafe gestellt. Dies betrifft nicht nur die Verwendung, sondern auch die Herstellung und den Verkauf solcher Werkzeuge. Die Regelungen umfassen auch schwerwiegende Straftaten wie Cyber-Grooming und die Verbreitung von nicht einvernehmlichen intimen Bildern, die mit einer Haftstrafe von mindestens vier Jahren geahndet werden sollen.
Ein umstrittener Aspekt ist die vorgeschriebene Echtzeit-Überwachung. Die Polizei erhält umfangreiche Befugnisse zur Erfassung von Verbindungs- und Standortdaten. Außerdem wird die sofortige Sicherung elektronischer Daten gefordert, die sich auf den Systemen anderer Vertragsstaaten befinden. Kritiker, darunter 22 zivilgesellschaftliche Organisationen, warnen vor möglichen Missbräuchen, die durch diese Regelungen legitimiert werden könnten. Auch internationale Organisationen wie Human Rights Watch und Privacy International haben Bedenken geäußert, die von vielen Menschenrechtsvertretern geteilt werden.
Die Konvention wird nun der UN-Generalversammlung vorgelegt, wo ihre Annahme als Formsache gilt. Sie tritt in Kraft, sobald 40 Mitgliedsstaaten sie ratifiziert haben. Die Diskussion über die Auswirkungen der Konvention auf die digitale Freiheit und den Schutz der Menschenrechte wird jedoch weiterhin intensiv geführt.
KI-Produkte für US-Geheimdienst: Palantir und Microsoft erweitern Zusammenarbeit
In einer bedeutenden Entwicklung haben Microsoft und das Datenanalyseunternehmen Palantir ihre Partnerschaft erweitert, um KI-gestützte Lösungen für die US-Verteidigung und Geheimdienste bereitzustellen. Bisher nutzte Palantir für seine Software Foundry Microsoft Azure, doch nun gehen die beiden Unternehmen einen Schritt weiter, um den Behörden die “sichersten Cloud-, KI- und Analysefunktionen” anzubieten. Dieser Schritt ist besonders relevant, da bei der Nutzung von Künstlicher Intelligenz im Verteidigungssektor strenge Sicherheitsvorkehrungen eingehalten werden müssen, um die höchsten Geheimhaltungsstufen zu garantieren.
Microsoft beschreibt die neue Technologie-Suite als die “erste ihrer Art”. Die Integration von OpenAIs Cloud-KI in die “Top Secret”-Umgebungen von Microsoft Azure soll es ermöglichen, KI-Modelle wie GPT-4 und andere Sprachmodelle zu nutzen. Diese KI-Modelle werden mit den Datenintegrations- und Ontologie-Funktionen von Palantirs Foundry kombiniert, um die Analyse großer Datenmengen aus unterschiedlichen Quellen zu optimieren. Palantirs Gotham-Plattform spielt hierbei eine Schlüsselrolle, da sie es Nutzern ermöglicht, komplexe Sicherheitsprobleme zu lösen und tiefere Einblicke in Daten zu gewinnen.
Die geplante Integration in Microsoft Azure soll den Zugang zu KI- und Analysefunktionen in einer “sicheren und skalierbaren Umgebung” gewährleisten. Der genaue Zeitrahmen für die Verfügbarkeit dieser Dienste hängt jedoch von den zuständigen Regierungsbehörden ab, was darauf hindeutet, dass regulatorische Hürden berücksichtigt werden müssen, bevor diese Technologien in vollem Umfang eingesetzt werden können.
Alex Karp, CEO von Palantir, berichtete kürzlich in einem Brief an Investoren über den Erfolg des Unternehmens im öffentlichen Sektor der USA. Er stellte fest, dass Palantirs Geschäft mit Verteidigungs- und Nachrichtendiensten in den letzten zwölf Monaten zum ersten Mal einen Umsatz von über 1 Milliarde US-Dollar erzielt hat. Karp hebt hervor, dass auch die US-Regierung die Möglichkeiten, die KI bietet, zunehmend erkannt hat, was die Relevanz dieser Partnerschaft unterstreicht.
Trotz des positiven Geschäftswachstums sieht sich Palantir auch Kritik ausgesetzt. Ein kürzlich veröffentlichter Dokumentarfilm über Alex Karp und die Firma hat Fragen zu den ethischen Implikationen der Software aufgeworfen, die in der Vergangenheit mit Menschenrechtsverletzungen in Verbindung gebracht wurde. Bisher hat Palantir zu diesen Vorwürfen keine Stellung genommen. Vor etwa einem halben Jahr gab das Unternehmen bekannt, Mitglied des U.S. Artificial Intelligence Safety Institute zu sein, das sich für den sicheren, ethischen und vertrauenswürdigen Einsatz von KI einsetzt.
Diese Entwicklungen verdeutlichen die fortschreitende Verflechtung von Technologie und Verteidigungsstrategien und werfen gleichzeitig wichtige Fragen zur ethischen Nutzung von Künstlicher Intelligenz im sensiblen Bereich von Geheimdiensten auf.
Sicherheitstipps von CISA: Schutz vor Angriffen über das Smart-Install-Protokoll von Cisco
In der heutigen digitalen Welt ist die Sicherheit von Netzwerken wichtiger denn je. Die US-Behörde Cybersecurity & Infrastructure Security Agency (CISA) hat kürzlich eine Warnung herausgegeben, die sich auf Angriffe auf Cisco-Produkte konzentriert. Diese Angriffe nutzen insbesondere das Smart-Install-Protokoll, einen Plug-and-Play-Dienst zur Fernkonfiguration von Cisco-Switches. Historisch gesehen war dieses Protokoll bereits mehrfach ein Einfallstor für Cyberkriminelle.
Die CISA hat in ihrem aktuellen Beitrag betont, dass der Smart Install-Dienst standardmäßig aktiviert ist und daher ein potenzielles Ziel für Angreifer darstellt. Der Dienst ermöglicht es Angreifern, ohne Authentifizierung auf Konfigurationsdaten zuzugreifen und den Startvorgang der Geräte zu manipulieren. Eine erfolgreiche Attacke könnte dazu führen, dass eine mit Schadcode verseuchte Version der ISO-Systemsoftware auf dem Zielgerät installiert wird, was die vollständige Kompromittierung des Gerätes zur Folge haben kann. Von dort aus könnten Angreifer ihre Aktivitäten innerhalb des Unternehmensnetzwerks weiter ausweiten.
Obwohl Cisco in einem im April 2023 veröffentlichten Beitrag erklärt hat, dass der Smart Install-Dienst durch ein Softwareupdate eingestellt wurde, zeigen aktuelle Beobachtungen, dass viele Switches in den Netzwerken von Unternehmen noch nicht auf dem neuesten Stand sind. Daher bleibt der Smart Install-Dienst in vielen Fällen aktiv und stellt ein Sicherheitsrisiko dar.
Die CISA gibt daher wichtige Sicherheitstipps für Netzwerkadministratoren. Dazu gehört die Empfehlung, den Smart Install-Dienst auf allen Cisco-Netzwerkgeräten zu deaktivieren. Dies ist ein essenzieller Schritt, um das Risiko einer Kompromittierung zu minimieren. Darüber hinaus verweist die CISA auf einen Katalog der National Security Agency (NSA), der wertvolle Tipps zur allgemeinen Absicherung von Netzwerken bietet. Diese beinhalten Strategien zum Aufspüren von Hintertüren sowie die Einteilung von Netzwerken in voneinander abgeschottete Bereiche.
Ein weiterer wichtiger Aspekt der Sicherheitsmaßnahmen sind sichere Passwörter. Die CISA empfiehlt die Verwendung von modernen Passwortschutzfunktionen wie PBKDF2, um die Sicherheit von Kennwörtern zu erhöhen. In einer Zeit, in der Cyberangriffe zunehmen, sind diese Maßnahmen unerlässlich, um die Integrität und Sicherheit von Netzwerken zu gewährleisten.
Zusammenfassend lässt sich sagen, dass es von entscheidender Bedeutung ist, die Sicherheit von Cisco-Netzwerkgeräten ernst zu nehmen. Durch die Deaktivierung des Smart Install-Dienstes und die Implementierung robuster Sicherheitspraktiken können Unternehmen ihre Netzwerke effektiv schützen und potenzielle Angriffe verhindern.
Menschen verhalten sich fairer, wenn sie KI trainieren: Eine neue Studie
Eine aktuelle Studie der Washington University in St. Louis hat eine faszinierende Entdeckung gemacht: Menschen neigen dazu, sich fairer zu verhalten, wenn sie wissen, dass sie zum Training einer Künstlichen Intelligenz (KI) beitragen. Diese Erkenntnisse könnten weitreichende Implikationen für die Entwicklung von KI-Systemen haben, da sie auf die Möglichkeit hinweisen, dass menschliches Verhalten durch das Bewusstsein um die Verwendung ihrer Daten beeinflusst wird.
Die Forscher führten insgesamt fünf Experimente durch, an denen jeweils etwa 200 bis 300 Teilnehmer beteiligt waren. Im Rahmen dieser Experimente spielten die Teilnehmer das sogenannte „Ultimatum-Spiel“, bei dem sie kleine Geldbeträge untereinander aufteilen mussten. In diesem Spiel mussten die Teilnehmer Vorschläge zur Aufteilung des Geldes machen, wobei einige Vorschläge von den Teilnehmern selbst und andere von einer KI kamen.
Ein entscheidender Aspekt des Experiments war, dass einige Teilnehmer darüber informiert wurden, dass ihre Daten für das Training der KI verwendet werden würden, während andere diese Information nicht erhielten. Die Ergebnisse waren deutlich: Die Teilnehmer, die über die Verwendung ihrer Daten informiert waren, machten überwiegend faire Vorschläge zur Geldverteilung. Im Gegensatz dazu schienen die uninformierten Teilnehmer eher dazu geneigt, unfaire Vorschläge zu machen.
Ein besonders interessanter Befund war, dass die faire Verhaltensweise der informierten Gruppe auch in einer weiteren Runde des Spiels anhielt, selbst nachdem ihnen mitgeteilt wurde, dass ihre Daten nicht für das KI-Training verwendet würden. Dies legt nahe, dass das faire Verhalten nicht nur eine unmittelbare Reaktion war, sondern dass es möglicherweise zu einer dauerhaften Gewohnheit geworden ist.
Für Entwickler von Künstlicher Intelligenz bedeutet dies, dass das menschliche Verhalten nicht statisch ist, sondern sich ändern kann, sobald die Menschen wissen, dass ihre Daten für das Training einer KI verwendet werden. KI-Entwickler sollten sich dieser Verhaltensänderung bewusst sein, um sicherzustellen, dass sie unvoreingenommene und repräsentative Trainingsdaten erhalten. Die Studie zeigt eindrücklich, wie wichtig es ist, das Verhältnis zwischen Mensch und Maschine zu verstehen, insbesondere in einem Bereich, der zunehmend von menschlichen Interaktionen geprägt ist.
Insgesamt eröffnet diese Studie spannende Perspektiven für die zukünftige Entwicklung von KI-Systemen und wirft Fragen zur Ethik und Fairness im Umgang mit Daten und menschlichen Verhaltensweisen auf. Es bleibt abzuwarten, wie diese Erkenntnisse in der Praxis umgesetzt werden, aber sie könnten eine Schlüsselrolle dabei spielen, wie wir das Potenzial von KI in der Gesellschaft nutzen.
Künstliche Intelligenz in der Webentwicklung: Webinar-Serie von heise online
In der heutigen schnelllebigen digitalen Welt gewinnt Künstliche Intelligenz (KI) zunehmend an Bedeutung, insbesondere in der Webentwicklung. Der Artikel von heise online beleuchtet, wie KI als wertvolle Unterstützung in allen Phasen der Webentwicklung fungiert. Um die Leser und Zuhörer noch tiefer in diese Thematik einzuführen, wird eine Webinar-Serie angeboten, die sich mit den vielfältigen Aspekten der Anwendung von KI in der Softwareentwicklung beschäftigt.
Die Webinar-Serie, die in Zusammenarbeit mit Rheinwerk von der heise academy präsentiert wird, besteht aus drei Live-Webinaren, die alle darauf abzielen, einen praxisnahen Einblick in die Integration von KI in die Webentwicklung zu geben. Diese Webinare sind nicht nur für erfahrene Entwickler von Interesse, sondern auch für Einsteiger, die die Möglichkeiten von KI in der Applikationsentwicklung erkunden möchten.
Die Teilnehmer lernen unter anderem, wie sie KI-basierte Tools wie GitHub Copilot nutzen können, um die Code-Vervollständigung zu automatisieren. Dies führt zu einer erheblichen Reduzierung des Aufwands beim Programmieren und ermöglicht es Entwicklern, sich auf komplexere Aufgaben zu konzentrieren. Auch die Generierung von Testdaten und die Durchführung automatisierter Tests werden behandelt, was die Wartungskosten von Softwareprojekten signifikant senken kann.
Ein weiterer spannender Aspekt der Webinare ist die Integration von Sprachsteuerung in Webanwendungen. Hier erfahren die Teilnehmer, wie sie es Nutzern ermöglichen können, Anwendungen einfach per Sprache zu steuern, was die Benutzerfreundlichkeit enorm erhöht. Außerdem wird die Objekterkennung in Bildern und Videos thematisiert, ein Bereich, der durch Computer Vision revolutioniert wird und zahlreiche Anwendungsgebiete eröffnet.
Die Termine für die Webinare sind wie folgt:
- 12. September: KI im Softwareentwicklungszyklus
- 19. September: Integration von Spracherkennung und -ausgabe in Webapps
- 26. September: Objekterkennung und Bildersuche mit Computer Vision
Jedes Webinar hat eine Laufzeit von vier Stunden und findet von 9 bis 13 Uhr statt. Die Teilnahme an einem einzelnen Webinar kostet 189 Euro (inklusive MwSt.), während das Kombi-Ticket für alle fünf Termine für 495 Euro angeboten wird, was einen attraktiven Preisvorteil bietet.
Die Webinare bieten nicht nur praxisorientiertes Wissen, sondern auch die Möglichkeit, Fragen direkt im Live-Chat zu stellen und sich mit anderen Teilnehmern auszutauschen. Alle Materialien und Aufzeichnungen stehen den Teilnehmern nach dem Webinar zur Verfügung, sodass sie das Gelernte in Ruhe vertiefen können.
Für weitere Informationen und zur Ticketbuchung besuchen Interessierte die Website der Webinar-Serie. Zudem besteht die Möglichkeit, sich für den Newsletter der heise academy anzumelden, um über zukünftige Angebote informiert zu werden.
Insgesamt stellt die Webinar-Serie von heise online eine großartige Gelegenheit dar, die eigene Kompetenz in der Webentwicklung durch das Verständnis und die Anwendung von KI zu erweitern und zu vertiefen.
Millionen von Windows-Systemen betroffen: Ursachen für globalen Ausfall analysiert
Am 19. Juli 2023 erlebten Millionen von Windows-Systemen weltweit einen massiven Ausfall, der erhebliche Auswirkungen auf zahlreiche Organisationen hatte, darunter Fluggesellschaften, Krankenhäuser und Behörden. Die Cybersicherheitsfirma Crowdstrike hat die Ursachen für diesen Vorfall nun eingehend analysiert und einen technischen Fehler als Auslöser identifiziert.
Der Ausfall wurde durch ein fehlerhaftes Konfigurationsupdate für die Falcon Sensor Software verursacht. Dieses Update, das über das Rapid Response Content-Verfahren verteilt wurde, sollte eigentlich dazu dienen, neue Cyberbedrohungen zu erkennen und die Sicherheit der Systeme zu erhöhen. Leider führte ein Fehler bei der Anzahl der Eingabeparameter zu
