Regulierung der KI keine Frage des "ob"

EU reguliert KI – und erhöht damit den Druck auf USA und China

Wenn der EU AI Act eines ist, dann eine sehr gute Sache



Von Dominik Mohilo, Redakteur und IT-Experte bei der Münchner Kommunikations-Beratungsgesellschaft PR-COM

Europa besinnt sich einmal mehr auf seine moralische Vorreiterrolle in der Welt. Während in den beiden globalen Technologiesupermächten USA und China ein kaum kontrollierter Wildwuchs in Sachen Künstlicher Intelligenz stattfindet, hat die EU sich nicht nur dem technischen Fortschritt, sondern dem großen Ganzen gewidmet: Mit dem nun beschlossenen KI-Gesetz gibt es zum ersten Mal eine umfassende Regulierung in diesem Bereich. Zeit wurde es.

Am Ende dauerte es ziemlich genau 38 Stunden, bis sich die Europäische Kommission, das Europaparlament und die Mitgliedstaaten der EU im Trilog auf das finale Regelwerk des EU AI Act einigten. Dem ging seit 21. April 2021 eine knapp 1.000 Tage dauernde Phase voraus, in der etliche Diskussionen geführt, Stellungnahmen abgegeben und unzählige Änderungsvorschläge eingebracht wurden. Die finalen Verhandlungen vom 6. bis 8. Dezember wirkten aus Sicht von Svenja Hahn, die seit 2019 für die FDP im Europäischen Parlament sitzt, beinahe schon gehetzt: Von selbst auferlegtem Zeitdruck war ihrerseits die Rede und einmal mehr von zahlreichen Widrigkeiten. Auch an den Marathonsitzungen lässt sich der unbedingte Wunsch der Mitgliedstaaten ablesen, Historisches zu schaffen: Einmal 22 und einmal 16 Stunden am Stück tagten die Vertreter der EU-Gremien und Mitgliedstaaten.

Doch was lange währt, wird am Ende bekanntlich gut – und wenn der EU AI Act eines ist, dann eine sehr gute Sache. Mit dem ersten umfassenden Gesetz übernimmt Europa zwar nicht die Führung in Sachen KI, wohl aber in Bezug auf die Formulierung gesetzlicher Rahmenbedingen für deren Entwicklung und Einsatzzwecke. Die EU erreicht somit einen Meilenstein, der auch erheblichen Einfluss auf die USA und China haben wird – und Druck aufbaut, endlich nachzuziehen. Zwar gibt es in beiden Ländern bereits vereinzelte Initiativen zur Regulierung von KI, doch über punktuelle Einzelfallregelungen und Entwürfe ist man weder im "Land of the Free" noch im "Reich der Mitte" bisher hinausgekommen.

Dennoch scheint der weltumspannende gemeinsame Nenner zu sein, dass eine Regulierung der KI keine Frage des "ob", sondern nur des "wie" ist. Chinas Regierung geht beispielsweise bereits seit Mitte April 2023 gegen sogenannte Deepfakes vor und hat neue Gesetze dafür erlassen. Allerdings ist davon auszugehen, dass in China insbesondere Unternehmen und Privatpersonen von Einschränkungen betroffen sein werden, während die Regierung sich selbst von entsprechenden Regelungen bis auf Weiteres ausnimmt.

In den USA ist man deutlich weiter. Dort hat das Office of Science and Technology Policy (OSTP) Ende 2022 einen Entwurf für eine "AI Bill of Rights" vorgestellt, der dem EU AI Act in weiten Teilen ähnelt. Das ist kaum verwunderlich, wie der auf KI spezialisierte Anwalt Shabbi S. Khan erklärt: Ihm zufolge wird die USA keine eigene KI-Regulierung erlassen können, die sich zu weit vom EU AI Act entfernt. Moralische Gründe hat das freilich nicht, sondern wirtschaftliche – Tech-Konzerne wie Google, Microsoft oder Amazon sind global tätig. Sich an zwei grundlegend verschiedene Gesetzgebungen und Regulierungen bei der Entwicklung und Bereitstellung ihrer KI-gestützten Produkte halten zu müssen, wäre ein gigantischer Verwaltungsaufwand. Die europäischen Gesetze einfach zu ignorieren, steht ebenfalls nicht zur Debatte: Die EU hat in der Vergangenheit bewiesen, dass sie durchaus in der Lage ist, schmerzhafte Bußgelder zu verhängen oder Unternehmen gleich ganz vom lukrativen Markt zu verbannen, wie die Causa Huawei zeigte.

Das bringt uns auch zurück zur durch den EU AI Act massiv gestärkten Rolle Europas in der Tech-Welt. Auch wenn wir Europäer noch ein Stück weit davon entfernt sind, technologisch zu den USA und China aufzuschließen, haben wir mit unserer Gesetzgebung in Verbindung mit unserer wirtschaftlichen Bedeutung für beide Technologiesupermächte die Spielregeln vorgegeben, an denen sie sich – wohl oder übel – zukünftig orientieren müssen. Und damit auch, so schwer es ihnen fallen wird, an unseren moralischen und ethischen Werten, die die Grundlage für dieses Gesetz bilden. Chapeau, Europa. (PR-COM: ra)

eingetragen: 23.01.24
Newsletterlauf: 09.04.24

PR-COM: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Kommentare und Meinungen

Zunahme von Bedrohungen nach Authentifizierung

Wie erwartet war 2023 ein weiteres herausforderndes Jahr für die IT-Sicherheit, da die Anzahl und Komplexität von Phishing-Angriffen weiter zugenommen haben. Dies ist vor allem auf KI-gesteuertes Phishing zurückzuführen. Phishing ist dank niedriger Kosten und hoher Erfolgsquote nach wie vor die am weitesten verbreitete Angriffsmethode.

Online-Sicherheitspraktiken auf den Prüfstand stellen

Vertrauen ist gut, Kontrolle besser: Interessanterweise leben insbesondere die Boomer dieses Motto, sodass sie wesentliche bessere Datenschutzpraktiken pflegen, wenn sie im online unterwegs sind, als die Millennials und die Gen Z. Dies ergab eine von OnePoll im Auftrag von Yubico durchgeführte Studie, die sich der Frage widmete, inwiefern Menschen in einer Zeit, in der es immer raffiniertere Phishing-Angriffe gibt, ihre Cybersicherheitshygiene-Praktiken angepasst haben.

Hacktivismus – ein Schutzschild für Gesetzesbrecher?

Hacker sind neugierige, kreative Menschen, die ihr Wissen nutzen, um Probleme zu bewältigen und Lösungen zu entwickeln. Sie sind nicht von vornherein Kriminelle, und es ist wichtig, das zu erkennen.

Cybersecurity-Spezialisten in der Gesundheitsbranche

Krankenhäuser und Organisationen im Gesundheitswesen werden immer häufiger Ziel von Cyberangriffen. Nicht selten sind dabei Menschenleben direkt bedroht und gefährdet. Cybersicherheit hat daher gerade in dieser Branche oberste Priorität. Doch Gesundheitsdienstleister haben mit einigen Herausforderungen zu kämpfen, wenn es darum geht, Spitzenkräfte für die Cybersicherheit zu gewinnen und zu halten. Warum ist das so und was können Verantwortliche tun?

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.

Diese Webseite verwendet Cookies - Wir verwenden Cookies, um Inhalte und Anzeigen zu personalisieren, Funktionen für soziale Medien anbieten zu können und die Zugriffe auf unsere Website zu analysieren. Außerdem geben wir Informationen zu Ihrer Verwendung unserer Website an unsere Partner für soziale Medien, Werbung und Analysen weiter. Unsere Partner führen diese Informationen möglicherweise mit weiteren Daten zusammen, die Sie ihnen bereitgestellt haben oder die sie im Rahmen Ihrer Nutzung der Dienste gesammelt haben. Mit dem Klick auf „Erlauben“erklären Sie sich damit einverstanden. Weiterführende Informationen erhalten Sie in unserer Datenschutzerklärung.