In diesem Kapitel befassen wir uns mit der Sicherstellung einer geeigneten Bewertung der Risiken und sozialen Auswirkungen von Technologien und der Einbindung von Werten wie Datenschutz, Empathie, Gleichberechtigung und Integration in technische Lösungen.
Ein bewusster Ansatz für technologiegetriebenen Wandel
Verantwortungsvolle Technologie beginnt mit der Erkenntnis, dass Technologie nicht von Natur aus neutral ist. Technologische Lösungen stehen nicht losgelöst von der Gesellschaft und werden nicht im luftleeren Raum entwickelt. Sie sind das Ergebnis von – und dienen oft – denselben Machtdynamiken und Prioritäten, die für viele der Ungleichheiten und Spannungen, mit denen wir heute zu kämpfen haben, verantwortlich sind.
Wir sind an einem Punkt angelangt, an dem digitale Technologien, ob absichtlich oder nicht, zunehmend politisiert werden. Es gibt einen wachsenden und berechtigten Druck auf Technolog:innen und Technologieunternehmen, Verantwortung für die Auswirkungen ihrer Arbeit zu übernehmen. Aus unserer Sicht bedeutet das, dass wir bei der Entwicklung einer Lösung bewusst die direkten und indirekten Auswirkungen berücksichtigen und einen Dialog mit einem breiten Spektrum von Interessengruppen, die nicht nur Technolog:innen umfassen, führen.
Wir konzentrieren uns darauf, eine gerechte technologische Zukunft zu schaffen. Das bedeutet, dass das soziale System hinter dem Konstrukt digitaler Technologien Stimmen einbeziehen muss, die in der Vergangenheit ausgeschlossen waren. Es bedeutet auch, die sozialen Auswirkungen dieser Innovationen zu verinnerlichen, anstatt sie als externe Effekte zu betrachten.
Wir konzentrieren uns darauf, eine gerechte technologische Zukunft zu schaffen. Das bedeutet, dass das soziale System hinter dem Konstrukt digitaler Technologien Stimmen einbeziehen muss, die in der Vergangenheit ausgeschlossen waren. Es bedeutet auch, die sozialen Auswirkungen dieser Innovationen zu verinnerlichen, anstatt sie als externe Effekte zu betrachten.
Der Aufbau integrativer Teams ermöglicht es uns, bei allem, was wir entwickeln, unterschiedliche Perspektiven einzubringen und kritisch über die wirtschaftlichen und sozialen Auswirkungen nachzudenken. Diese Meinungsvielfalt ist eine Grundvoraussetzung für Innovationen und die Entwicklung von Technologien, die einen positiven gesellschaftlichen Wandel unterstützen, anstatt ihn zu untergraben.
Verantwortungsvolle Technologie bezieht sich nicht nur auf die Produkte und Lösungen, die Unternehmen entwickeln. Sie erstreckt sich auch darauf, wie sie Daten und Technologieassets verwalten und schützen – ihre eigenen und die ihrer Kund:innen. Wir arbeiten eng mit Kund:innen und Partnerorganisationen zusammen, um die Widerstandsfähigkeit ihrer Infrastruktur gegen Datenschutz- und Sicherheitsverletzungen sowie gegen neuere Bedrohungen und negative Auswirkungen, die sich aus der zunehmenden Verbreitung von feindseliger Technologie ergeben, zu verstärken. Ziel ist es, Sicherheit und Ethik nicht nur zu einer Reaktion, sondern zu einer Disziplin zu machen, die in allen Bereichen des Unternehmens zum Tragen kommt.
Sicherheit und Ethik sind in die SASB Wesentlichkeitsmatrix für Software und IT-Services integriert, die uns Empfehlungen zu branchenspezifischen Standards und Nachhaltigkeitszielen liefert. Ich habe beim Übersetzen nicht realisiert, dass sich der Nebensatz auf die Wesentlichkeitsmatrix bezieht. Thoughtworks konzentriert sich seit langem darauf, viele dieser Punkte in unsere Arbeitsabläufe und unsere Kundenarbeit einzubinden, und arbeitet daran, sie zu messen und darüber zu berichten. Wo es angebracht ist, sind unsere Fortschritte im Anhang aufgeführt.
Das Engagement für eine verantwortungsvolle und gerechte Technologie fließt in unsere Gespräche mit Kund:innen, unsere übergreifende Strategie und die Projekte ein, an denen wir weltweit beteiligt sind. Es stellt auch sicher, dass wir gemeinsam mit unseren Partner:innen einen Beitrag zum UN-Ziel für nachhaltige Entwicklung (9) leisten, nämlich Infrastrukturen und Innovationen zu schaffen, die nicht nur funktional und effektiv, sondern auch integrativ und nachhaltig sind.
Technologie beeinflusst uns in einer Weise, die unser Leben sowohl positiv als auch negativ verändern kann. Als Technolog:innen haben wir die Verantwortung, bei der Bereitstellung von Technologielösungen alle Interessengruppen zu berücksichtigen, auch diejenigen, die oft unsichtbar bleiben.
Technologie beeinflusst uns in einer Weise, die unser Leben sowohl positiv als auch negativ verändern kann. Als Technolog:innen haben wir die Verantwortung, bei der Bereitstellung von Technologielösungen alle Interessengruppen zu berücksichtigen, auch diejenigen, die oft unsichtbar bleiben.
In der Praxis
Wir engagieren uns in verantwortungsvollen Technologieprojekten, die von Datenschutz bis zur Erforschung der gemeinsamen Grenzen von Technik und Kunst und Voreingenommenheit von KI bis zur Untersuchung des zunehmenden Einflusses feindseliger Technologien reichen. Die folgenden Beispiele wurden ausgewählt, um einen Teil dieses Spektrums aufzuzeigen.
Sensibilisierung für und Stärkung von digitalen Rechten
Die Versuche, Menschen auf Grundlage ihrer persönlichen Daten gezielt zu manipulieren, nehmen immer mehr zu. Es ist unerlässlich, den Zugang der Öffentlichkeit zu Werkzeugen, Fähigkeiten und Ressourcen zu verbessern, die sicherstellen, dass der Zugriff auf diese Daten oder ihre Nutzung nicht ohne Wissen oder Zustimmung erfolgt. Australien ist ein Markt, auf dem wir in diesem Bereich besonders aktiv sind. Die Datenschutzvorschriften unterliegen dort derzeit erheblichen Veränderungen, die sich negativ auf die Sicherheit und die Gesellschaft auswirken könnten.
Wir stehen im Dialog mit politischen Entscheidungsträger:innen, um auf Verbesserungen der Rechtsvorschriften zum Schutz der Privatsphäre und des Datenschutzes zu drängen und auf mögliche Rückschritte hinzuweisen. Wir arbeiten auch mit zivilgesellschaftlichen Organisationen wie Digital Rights Watch zusammen, um das Bewusstsein und die Fähigkeiten an der Basis zu stärken.
Thoughtworker:innen haben beispielsweise Workshops veranstaltet, in denen Journalist:innen gezeigt wurde, wie sie die Sicherheit ihrer digitalen Geräte verbessern können. All dies geschieht in der Überzeugung, dass Rechte nur dann geschützt werden können, wenn sie auf der Grundlage eines gemeinsamen Verständnisses und der Solidarität aktiv verteidigt werden. Da die sichere und respektvolle Nutzung von Daten zunehmend als wesentlicher Bestandteil des Gesellschaftsvertrags eines jeden Unternehmens angesehen wird, sind digitale Rechte auch zu einer Priorität in unserer Arbeit mit Kund:innen geworden. An der Queensland University of Technology arbeiteten wir mit Forscher:innen zusammen, um zu definieren, wie intelligente Städte die Daten der Bürger in einer auf Rechten basierenden Weise nutzen können.
Momentan dient Technologie häufig nicht den Menschen. Das ist schlecht für Wirtschaft und Gesellschaft – muss aber nicht so sein. Wir unterstützen das Konzept der Datensparsamkeit, was bedeutet, nur die Daten zu erheben, die man benötigt, anstelle aller Daten, die man erfassen kann.
Momentan dient Technologie häufig nicht den Menschen. Das ist schlecht für Wirtschaft und Gesellschaft – muss aber nicht so sein. Wir unterstützen das Konzept der Datensparsamkeit, was bedeutet, nur die Daten zu erheben, die man benötigt, anstelle aller Daten, die man erfassen kann.
Technologie wirkt sich auf unzählige komplexe Arten auf die Gesellschaft aus, auch wenn die Richtung oft von einem kleinen Teil der Gesellschaft im Technologiesektor vorgegeben wird. Daher ist es von entscheidender Bedeutung, einen weitreichenden und kontroversen Dialog zwischen den verschiedenen Bereichen der Gesellschaft zu fördern und eine ebenso kontroverse, weitreichende Erforschung neuer Technologien zu ermöglichen.
Thoughtworks Arts ist ein globales Forschungslabor, das Kooperationen zwischen Künstler:innen, Technolog:innen und Expert:innen für verschiedene Themen und Bereiche initiiert. Diese Projekte sind vielfältig und untersuchen unterschiedliche Technologien. Sie werden von Künstler:innen geleitet, die traditionelle Grenzen überschreiten, neue Verbindungen herstellen und Kunstwerke schaffen, die alternative Visionen der Zukunft aufzeigen. Diese Projekte werfen ein neues Licht auf die Auswirkungen aufkommender Technologien auf Industrie, Kultur und Gesellschaft und werden durch praktische Erfahrungen mit Technikexpert:innen aus der Industrie unterstützt.
Eine Reihe aktueller Projekte veranschaulicht die Ergebnisse dieser Interaktionen. Die Tänzerin und Choreografin Catie Cuan tanzte mit einem ca. 5 Meter großen Industrieroboter. Das Projekt war Teil einer Untersuchung menschlicher und mechanischer Bewegungen und der Wahrnehmung von Automatisierung und Robotik und wurde in der New York Times2 vorgestellt. Bei „Dancedemic“, einer Remote-Kollaboration im ersten Sommer der COVID-19-Pandemie, wurden biometrische Geräte eingesetzt, um Einwander:innen zu helfen, ihre Erfahrungen mit Konflikten und Isolation auszudrücken. In der Baltan Labs Masterclass erforschten die Teilnehmer:innen die praktische Anwendung von „Deepfakes“ in kreativen Kontexten als Teil des algorithmischen Geschichtenerzählens und einer Analyse des Vertrauens in digitale Medien. In „A Father's Lullaby“ setzte der Künstler Rashin Fahandej volumetrische Filmtechniken ein, um ehemals inhaftierten Menschen zu helfen, ihre Geschichten über die Trennung von ihren Familien auf neue und eindringliche Weise zu erzählen.
Die Technologie ist immer mehr in den sozialen Strukturen verwurzelt und dringt in immer komplexere und folgenreichere Aspekte der Gesellschaft ein, wie z.B. das Gesundheitswesen und das Justizsystem. Dies hat viele Organisationen dazu veranlasst, die ethischen Auswirkungen ihrer technischen Praktiken zu berücksichtigen.
Da es sich bei verantwortungsvoller Technologie jedoch um ein relativ neues Gebiet handelt, wissen viele Unternehmen nicht, wo sie anfangen können oder welchen Grundsätzen sie folgen sollen.
Es wurden eine Reihe vielversprechender Frameworks, Methoden und Toolkits entwickelt, die Unternehmen dabei helfen sollen, die Auswirkungen und Risiken ihrer Produkte und Lösungen zu bewerten, zu modellieren und abzumildern. Wir haben einige der besten Beispiele im Playbook für verantwortungsvolle Technologie zusammengefasst, in dem diese Konzepte vorgestellt und erläutert werden, um Organisationen bei der Auswahl der richtigen Optionen für ihre Situation zu unterstützen und ihnen den Einstieg zu erleichtern.
Das Responsible Tech Playbook
Das Playbook bietet eine Grundlage für einen durchdachten Entwicklungsansatz, der die Risiken und negativen gesellschaftlichen Auswirkungen von Technologie abmildert und den Unternehmenswert langfristig steigert. Wir werden dieses Playbook in den kommenden Jahren als Referenz für die Technologie-Community kontinuierlich weiterentwickeln, da wir uns auch weiterhin für mehr ethische Standards in unserer Branche einsetzen wollen. Unser Ziel ist es, diese Praktiken auf strukturiertere Weise in jede unserer Verpflichtungen zu implementieren. Wir sehen dies als einen Bereich, in dem wir uns weiterentwickeln und immer schwierigere Fragen stellen müssen, da die Technologie immer vorherrschender wird.
