Sicherheitslücken von KI in autonomen Fahrzeugen

Sie sind hier: Das Magazin für alle IT-Security-Themen » Markt » Kommentare & Meinungen

Die Automotive-Industrie sollte bei der Entwicklung und dem Einsatz von KI-Funktionalitäten einen Security-by-Design-Ansatz verfolgen, bei dem Cybersicherheit von Anfang an zum zentralen Element des digitalen Designs wird

Neben unbeabsichtigten Bedrohungen, wie etwa plötzlichen Fehlfunktionen, sind diese autonome Systeme anfällig für vorsätzliche Angriffe, die gezielt in das KI-System eingreifen und sich gegen sicherheitskritische Funktionen richten

Die häufigste Ursache von Verkehrsunfällen sind menschliche Fehler. Autonome Fahrzeuge sollen helfen, Verkehrsunfälle zu verhindern und die Zahl der Verkehrstoten zu senken. Diese Fahrzeuge bergen jedoch potenziell andere Risiken für Fahrer, Insassen und Fußgänger. Autonome Fahrzeuge verwenden Systeme mit künstlicher Intelligenz (KI), die Techniken des maschinellen Lernens (ML) einsetzen. Sie sammeln, analysieren und übertragen große Mengen von Daten. Diese bilden die Grundlage von Entscheidungen, die in konventionellen Fahrzeugen Menschen treffen. Solche Systeme sind wie alle anderen IT-Systeme anfällig für Angriffe, die das korrekte Funktionieren des Fahrzeugs beeinträchtigen können.

Ein neuer Bericht der Gemeinsamen Forschungsstelle der EU-Kommission (JRC) und der EU-Agentur für Cybersicherheit (ENISA) beleuchtet Cybersicherheitsrisiken im Zusammenhang mit der Integration von KI in autonome Fahrzeuge, und gibt Empfehlungen, wie man die Risiken senken kann.

Die KI-Systeme eines autonomen Fahrzeugs sind ununterbrochen damit beschäftigt, Verkehrsschilder und Fahrbahnmarkierungen zu erkennen, Fahrzeuge zu erfassen, ihre Geschwindigkeit abzuschätzen und den weiteren Weg zu planen. Neben unbeabsichtigten Bedrohungen, wie etwa plötzlichen Fehlfunktionen, sind diese Systeme anfällig für vorsätzliche Angriffe, die gezielt in das KI-System eingreifen und sich gegen sicherheitskritische Funktionen richten.

Beispiele für solche Angriffe sind das Bemalen des Straßenbelags, um die Navigation fehlzuleiten, oder Aufkleber auf einem Stoppschild, um die Erkennung zu verhindern. Solche Veränderungen können dazu führen, dass das KI-System Objekte falsch einordnet und sich das autonome Fahrzeug in der Folge gefahrenträchtig verhält.

Empfehlungen für eine sicherere KI in autonomen Fahrzeugen

Der Bericht gibt verschiedene Empfehlungen, welche die KI-Sicherheit in autonomen Fahrzeugen verbessern sollen. Eine davon ist, dass über den gesamten Lebenszyklus von KI-Komponenten hinweg regelmäßig Sicherheitsbewertungen durchgeführt werden. Diese systematische Überprüfung von KI-Modellen und -Daten ist unerlässlich, um sicherzustellen, dass sich das Fahrzeug in unerwarteten Situationen oder bei bösartigen Angriffen dennoch korrekt verhält.

Eine weitere Empfehlung ist, kontinuierliche, von Threat Intelligence unterstützte Risikobewertungen durchzuführen, um potenzielle KI-Risiken zu identifizieren sowie aufkommende Bedrohungen im Zusammenhang mit der Integration von KI in das autonome Fahren zu erkennen. Geeignete KI-Sicherheitsrichtlinien und eine KI-Sicherheitskultur sollten die gesamte Automotive-Lieferkette bestimmen.

Dazu ein Kommentar von Gunnar Braun, Technical Account Manager bei Synopsys:

"Der ENISA-Bericht beleuchtet einen interessanten Aspekt der Sicherheit von autonomen Fahrzeugen (AF). Bisher drehte sich die Diskussion zur Sicherheit von AF meistens um das Thema "sich Zugriff auf das Fahrzeug zu verschaffen". Ganz im klassischen Sinne der IT-Sicherheit, zum Beispiel durch das Abfangen von (Remote-)Kommunikation. Bei den im Bericht beschriebenen Angriffsvektoren geht es aber darum, das "Gehirn" des autonomen Fahrzeugs absichtlich zu täuschen. Und diese Art von Angriffen betrifft eine große Bandbreite von Bedrohungen mit potenziell schwerwiegenden Folgen für die Sicherheit.

Computer zu täuschen ist nicht schwierig, und genauso leicht kann man Menschen täuschen.

Man muss nur wissen, welche Sensoren vorhanden sind (Kameras, LiDAR, Augen, Ohren) und wie diese Sensoren einen Input verarbeiten. Ein perfektes Beispiel sind optische Täuschungen. Erinnern Sie sich an Stereogramme? Sie "hacken" quasi den Prozess, wie das Gehirn den Input von Ihrem linken und rechten Auge überlagert, um ein 3D-Bild zu erzeugen. Auf Computerebene lassen sich biometrische Authentifizierungssysteme austricksen, indem man ihnen beispielsweise ein Bild anstelle einer lebendigen Person präsentiert. Im militärischen Bereich werden Leuchtraketen (engl. Flare) verwendet, um wärmesuchenden Raketen auf ein falsches Ziel zu lenken.

Es ist schier unmöglich, gegen jeden dieser Angriffe resistent zu sein. Aber man kann Verteidigungsmaßnahmen entwickeln oder die Angriffe entschärfen, wenn man A) die Bedrohungen und B) die Sicherheitslücken des Systems kennt und versteht. Wie der Bericht erläutert, sind beispielsweise Störsignale eine erhebliche Schwachstelle eines Computer-Vision-Systems. Während winzige Störsignale im Bild vom Menschen gar nicht erkannt werden, führen sie bei ML-Modellen jedoch zu Fehlklassifizierungen mit hohen Erkennungswahrscheinlichkeiten. Wenn Sie allerdings sowohl die Bedrohung als auch die Schwachstelle kennen, lässt sich das Problem angehen.

Das wahrscheinlich wichtigste Tool, um autonome Fahrzeuge zu sichern, ist die kontinuierliche Entwicklung und Aktualisierung der zugrunde liegenden Bedrohungsmodelle. Nur wenn man die Angriffsvektoren kennt, kann man das System auch dagegen absichern. Aber wie eigentlich?

Wenn wir hier wieder den Vergleich mit unseren menschlichen Sinnen und der verarbeitenden Instanz des Gehirns heranziehen, könnte eine Antwort lauten: bessere Sensoren und mehr Sensoren. Unsere biologischen Sensoren sind ziemlich hoch entwickelt, und wir verarbeiten und korrelieren den Input von mehreren Sensoren für ein und dasselbe Ereignis.

Das Problem im Automotive-Bereich ist allerdings, dass die Automobilhersteller aufgrund der Kostensensibilität versuchen, bei den Komponenten zu sparen. Angesichts des Absatzvolumens zählt jeder Cent. Das Konzept ist: billige Sensoren verwenden und den Verlust an Sensorgenauigkeit durch intelligentere Software kompensieren. Dieser Balanceakt macht die Sicherheit im Automotive-Sektor so besonders schwierig." (Synopsys: ra)

eingetragen: 31.03.21
Newsletterlauf: 08.06.21

Synopsys: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Kommentare und Meinungen

Kommentare & Meinungen

Cybersecurity-Spezialisten in der Gesundheitsbranche

Krankenhäuser und Organisationen im Gesundheitswesen werden immer häufiger Ziel von Cyberangriffen. Nicht selten sind dabei Menschenleben direkt bedroht und gefährdet. Cybersicherheit hat daher gerade in dieser Branche oberste Priorität. Doch Gesundheitsdienstleister haben mit einigen Herausforderungen zu kämpfen, wenn es darum geht, Spitzenkräfte für die Cybersicherheit zu gewinnen und zu halten. Warum ist das so und was können Verantwortliche tun?

US-Börsenaufsicht verklagt CISO

Die US-Börsenaufsicht SEC (Security and Exchange Comission) hat Klage gegen den CISO eines sehr bekannten IT-Unternehmens erhoben und damit für ein mittelstarkes Erdbeben in IT-Security-Kreisen gesorgt. Die Sachlage scheint dabei relativ klar. Das Echo der Industrie ist dagegen bemerkenswert und rein theoretisch ist eine solche Klage auch in Deutschland möglich. Und damit hat dieser Fall auch hier seine Relevanz.

Schlechte Passworthygiene bleibt Tradition

Die European Union Agency for Cybersecurity (ENISA) führt gemeinsam mit der Kommission und den Mitgliedstaaten den Europäischen Monat der Cybersicherheit durch. Jedes Jahr finden während des gesamten Monats Oktober europaweit zahlreiche Aktivitäten statt, um die digitale Sicherheit bei Bürgern und Organisationen der EU zu fördern. Die diesjährige Kampagne taucht tief in die Welt des Social Engineering ein, in der Cyberkriminelle Manipulationstaktiken anwenden, um Sicherheitsvorkehrungen zu durchbrechen.

Angriffe auf IoT-Geräte

Im Darknet werden zunehmend Dienste für Angriffe auf IoT-Geräte angeboten. So haben die Sicherheitsexperten von Kaspersky in der ersten Jahreshälfte 2023 über 700 Anzeigen für DDoS-Angriffsdienste in verschiedenen Darknet-Foren identifiziert.

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.