Data Scientists fordern, die Erklärbarkeit von Modellen für Machine Learning zu einem wichtigen Auswahlkriterium zu machen
Die global tätige Softwareberatung Thoughtworks hat die 21. Ausgabe ihres Technology Radar veröffentlicht. Der Report zeigt auf, dass neue Tools wie What-If zur visuellen Inspektion von Machine Learning Modellen sowie Techniken wie Ethical Bias Testing, verstärkt eingesetzt werden. Hierdurch kann Machine Learning (ML) transparenter und nachvollziehbarer werden. Weiterhin thematisiert der Technology Radar, warum die Softwareentwicklung am besten in funktionsübergreifenden Teams gelingt. Darüber hinaus raten die Experten von Thoughtworks dazu, beim Thema Cloud Provider neuen Services mit einer gewissen Skepsis gegenüber zu stehen und auch Poly-Cloud-Strategien in Erwägung zu ziehen. Ebenfalls im Fokus steht die Einbindung von Governance-Themen in automatisierte Prozesse für die Freigabe neuer Software.
„Eines der wichtigsten Themen des jüngsten Technology Radar ist die Interpretierbarkeit von Machine Learning,“ sagt Dr. Rebecca Parsons, Chief Technology Officer bei Thoughtworks. „Machine Learning wird verwendet, um Entscheidungen zu treffen, die unser Leben beeinflussen. Zugleich sind viele der von den Maschinen produzierten Modelle für Menschen nicht mehr verständlich“.
Um diesem Sachverhalt entgegenzutreten, spricht sich Thoughtworks dafür aus, dass Business-Entscheider und IT-Manager die Machine-Learning-Ökosysteme überwachen. Diese sollten die Diversität in ihren Entwicklungsteams erhöhen, unter der Annahme, dass so ein größeres Problembewusstsein im Team besteht und der Problematik die entsprechende Bedeutung beigemessen wird. Zugleich sollen Manager darauf achten, dass Tools zum Einsatz kommen, die algorithmische Voreingenommenheit reduzieren.
Der Technology Radar, der zwei Mal im Jahr veröffentlicht wird, basiert auf Thoughtworks Beobachtungen, Gesprächen und Erfahrungen bei der Lösung komplexer geschäftlicher Herausforderungen seiner Kunden. Der Report nutzt einen visuellen Ansatz, um die Einträge in vier Gruppen einzuteilen: Techniken, Plattformen, Tools sowie Programmiersprachen und Frameworks. Innerhalb dieser Gruppen wird jeder Eintrag mit einer Empfehlung versehen: „Assess“ für Technologien, die eine Evaluation wert sind; „Trial“ für Technologien, die einsatzbereit sind, und die Thoughtworks bereits in Produktion gesehen hat; „Adopt“ für ausgereifte Technologien; und „Hold“ für Technologien, von deren Verwendung zum aktuellen Zeitpunkt abgeraten wird.
Folgende Themen stehen im aktuellen Technology Radar im Fokus:
- Die ML Black Box interpretieren: Machine Learning übernimmt immer mehr Entscheidungen. Jedoch sind die dahinterliegenden Computerberechnungen schwer nachzuvollziehen. Es ist wichtig, Tools für ethical bias testing zu verwenden, die ein wenig Transparenz herstellen sowie perse Entwicklerteams zusammenzustellen. Nur so ist es möglich, der Black Box des ML entgegenzutreten
- Softwareentwicklung als Team-Sport: Tools und Techniken, die Mitglieder eines Software-Teams voneinander isolieren, haben negative Auswirkungen auf Feedback und Zusammenarbeit. Inpidualistische Meme wie „10xEngineers“ sind wenig hilfreich, denn Innovation entsteht, wenn die richtigen Spezialisten in einem funktionsübergreifenden „10xTeam“ zusammenarbeiten.
- Cloud: Ist mehr weniger? Die großen Cloud Provider liegen bei Kernfunktionalitäten wie Storage und Compute inzwischen gleichauf. Somit hat sich der Wettbewerb darauf verlagert, zusätzliche Services anzubieten. Aufgrund des Konkurrenzdrucks werden diese Services in rasantem Tempo auf den Markt gebracht und sind oft noch nicht ausgereift. Daher ist nicht zu erwarten, dass alle Cloud Services eine ähnliche Qualität haben. Entwickler sollten die Offenheit mitbringen, gegebenenfalls statt der Lösung des Cloud-Anbieters selbst eine Open-Source Cloud-Lösungen zu installieren und warten, sowie Poly-Cloud-Strategien in Betracht zu ziehen. Es geht darum, jeweils die Cloud mit der besten Lösung für das Problem zu verwenden.
Die Software Supply Chain schützen: Das Ökosystem der Softwareentwicklung wird immer stärker automatisiert. Unternehmen sollten sich von Governance Ansätzen verabschieden, die zeitaufwändige manuelle Prüfungs- und Freigabeprozesse für neue Software vorschreiben. Es ist empfehlenswert, automatisierte Governance-Prozesse einzuführen.
Thoughtworks rät Unternehmen, den Ansatz des Technology Radar bezüglich der im Unternehmen eingesetzten Technologie auch selbst zu verfolgen und Technologien stets einer kritischen Prüfung zu unterziehen. “Wir diskutieren die Einträge unseres unternehmenseigenen Technology Radar und haben dabei festgestellt, welchen Wert der Report für uns hat: Er bietet Wissen darüber, was gut und was nicht so gut funktioniert,“ sagt Thomas Spillecke, IT Architect Cloud Applications bei Porsche. „Unser Technology Radar bewahrt unser Wissen. Dabei ist es wichtig, dass wir den Report regelmäßig erneuern.“
Unter Thoughtworks.com/radar findet sich eine interaktive Version des Technology Radar. Eine PDF-Version steht zum Download bereit.