Linse vier: Wachsender Einfluss feindseliger Technologien

Feindselige (engl.: Hostile) Technologien werden gemeinhin mit kriminellen Aktivitäten wie Ransomware, dem Eindringen in ein System zwecks Datendiebstahl oder der Entwicklung von Computerviren in Verbindung gebracht – dies bildet jedoch nicht das gesamte Bild ab. Die Definition von feindseliger Technologie sollte erweitert werden, um legale, ja sogar weithin akzeptierte Handlungen einzuschließen, die letztendlich aber das gesellschaftliche Wohlergehen gefährden.

Unter die Lupe genommen 

Je komplexer Technologien werden, desto mehr Möglichkeiten gibt es, sie zu missbrauchen. Und da sich die Menschen bei ihren täglichen Aktivitäten immer mehr auf Technologien verlassen, sind sie zunehmend unbeabsichtigten – oder sogar feindseligen – Folgen ausgesetzt. Kommt dann noch ein hohes Maß an Automatisierung hinzu – Entscheidungen, die in Maschinengeschwindigkeit getroffen werden –, steigt die Wahrscheinlichkeit, dass Dinge schief gehen, rapide an.

Feindselige Technologien sollten nach unserer Definition nicht nur kriminelle Technologien wie Malware und Hacking-Tools umfassen, sondern teils auch Anwendungsfälle wie Werbung und gezielte Kunden-ansprache. Ob eine Technologie feindselig ist oder nicht, ist häufig eine Frage der Perspektive. Manche Menschen empfinden Internetwerbung, Tracking-Cookies oder Kampagnen zur Beeinflussung sozialer Medien nicht als aufdringlich und sind gerne bereit, ihre Daten gegen personalisierte Angebote oder besondere Vorteile einzutauschen. Andere installieren Adblocker-Software in ihren Browsern und meiden Facebook vollständig. Die Zustimmung zum Tracking oder zur Sammlung personenbezogener Daten erfolgt bei einigen automatisch, bei anderen ist es eine wohlüberlegte Entscheidung. Das liegt daran, dass sich viele Menschen ihrer Wahlmöglichkeiten überhaupt nicht bewusst sind. Dies liegt an unterschiedlichen Erfahrungen mit Technologien in verschiedenen sozialen und demographischen Gruppen sowie der Tatsache, dass die Informationen und Optionen für Zustimmungserklärungen auf unterschiedlichste Weise präsentiert werden.

Nicht jedes feindselige Verhalten ist böswillig oder beabsichtigt. Ein Beispiel dafür repräsentieren Voreingenommenheiten in Algorithmen oder Machine-Learning-Systemen. Diese können aufgrund ungeplanter und unbemerkter Verzerrungen in der Art und Weise, wie sie aufgebaut und entwickelt sind, feindselige Tendenzen gegenüber bestimmten Kund:innengruppen aufweisen, ohne dass sie kompromittiert oder absichtlich so ausgelegt wurden.

Zu den Signalen gehören:

• Die zunehmende Allgegenwärtigkeit der Technologie und die damit einhergehende Zunahme der potenziellen Bedrohungsfläche. Ein einfaches Beispiel ist die schiere Anzahl an Verbindungen: Frost & Sullivan prognostizieren, dass die Anzahl der aktiven Internet of Things (IoT)-Geräte bis 2026 weltweit mehr als 65 Milliarden betragen wird. Jedes dieser Geräte birgt potenzielle Sicherheitslücken, die ausgenutzt werden könnten

• Die sich verändernde Stimmung und das Verhalten der Verbraucher:innen gegenüber Werbe- und Marketingtechnologien sowie die zunehmende Trennung zwischen denen, die eine breite Nutzung ihrer Daten akzeptieren und denen, die um Datenschutz besorgt sind

• Zunehmende Besorgnis über den Einsatz und die Auswirkungen sozialer Medien in Fehlinformationskampagnen und die Art und Weise, wie soziale Medienkanäle gesundheitliche, politische und andere gesellschaftliche Debatten prägen
  

• Unbeabsichtigte Folgen des verstärkten Einsatzes von künstlicher Intelligenz (KI) und Machine Learning (ML), wie zum Beispiel Voreingenommenheiten in Algorithmen und in gesammelten Datensätzen. Die Sorge über feindselige Auswirkungen führt zu Versuchen, den Einsatz von KI in Prozessen wie der Personalbeschaffung zu kontrollieren
  

• Stärkere Regulierung der Datenerfassung, -speicherung und -nutzung, wie das neue chinesische Gesetz zum Schutz personenbezogener Daten, die europäische Datenschutz-Grundverordnung (DSGVO), der California Privacy Rights Act (CPRA) und vergleichbare Gesetze in anderen Rechtsordnungen

Die Chancen

Angesichts von Datenschutzverletzungen, die sich einem Rekordniveau nähern, wird der Schutz gegen vorsätzliche Hackerangriffe und Malware immer wichtiger. Unternehmen müssen in die Verteidigung gegen gut finanzierte, organisierte Gegner und eine steigende Zahl von Berührungspunkten investieren. Doch mit steigendem Gefahrenpotenzial gilt es auch weitere Dimensionen feindseliger Technologien zu berücksichtigen. Wir glauben, dass es nicht nur von Natur aus ethisch ist, Kunden wünsche zu respektieren, aufdringliches und eigennütziges Targeting zu vermeiden und Voreingenommenheiten in algorithmischen Systemen und Datensätzen auszumerzen, sondern auch dem Vertrauen, der positiven öffentlichen Wahrnehmung und letztendlich der Gesundheit des Unternehmens dient.

Medienberichten zufolge hat der Hack der Lieferkette von SolarWinds das Unternehmen fast 20 Millionen US-Dollar gekostet, wobei die Schätzungen für Versicherungsansprüche bis zu 100 Millionen US-Dollar reichen. Das zeigt, wie leicht die finanziellen Folgen eines feindseligen Vorfalls außer Kontrolle geraten können. Nach einem eher zähen Start haben die Geldbußen im Rahmen der DSGVO zugenommen, wobei die gesamten Bußgelder im letzten Jahr um 113,5 % gestiegen sind. Vor allem Amazons gigantische DSGVO-Geldbuße in Höhe von 877 Millionen US-Dollar, die das Unternehmen in seinem Jahresbericht vom Juli 2021 veröffentlichte, ist nahezu 15-mal höher als der bisherige Rekord. Da die Verbraucher:innen mehr Wert auf ihre Privatsphäre legen, sind stabile Sicherheitsmaßnahmen für einige Unternehmen zu einem deutlichen Unterscheidungsmerkmal geworden. Eine kürzlich von Cisco durch geführte Umfrage ergab, dass nahezu 80 % der Verbraucher:innen den Datenschutz in ihren Kaufentscheidungen berücksichtigen und bereit sind, für Produkte oder Anbieter mit höheren Datenschutzstandards mehr zu bezahlen