​

Hallo Innovator! 🚀

Der aktuelle KI-Hype hat einen Vorteil: Wir sprechen viel mehr darüber, was Technologie eigentlich darf, was sie leisten soll und wo wir sie benötigen. Doch solche ethischen Fragen sind natürlich nicht auf Künstliche Intelligenz beschränkt.

In der Kolumne liefere ich dir 9 Fragen, mit denen du die Ethik hinter deiner Arbeit (und der deines Teams) beleuchten kannst. Viel Spaß mit der 107. Ausgabe von „Tech is Good“!

Trends 🚀

• Keine Verbrenner: Der Anteil an E- und Hybrid-Autos in Deutschland lag 2022 bei 31 %, damit liegen wir weltweit auf Platz 3. Überrascht? → Our World in Data​
• Keine Apps: Die Telekom hat auf dem Mobile World Congress ein Smartphone vorgestellt, das Apps durch einen KI-Assistenten ersetzt. Die Idee ist nicht neu (Rabbit) und die Telekom hat auf dem MWC schon viele Ideen vorgestellt, die niemals live gingen (immmr). Aber wer weiß? → RND
• Keine News: Google vergrößert die Kluft zwischen Suchergebnissen und Webseiten, nicht erst seit der KI-Welle. Jetzt experimentiert der Suchriese mit einer Ansicht ohne „Google News“-Tab. → Niemanlab​

Arbeit 👩‍💻

• GoodSync: Seit vielen Jahren ist GoodSync meine App der Wahl, um Daten von A nach B zu synchronisieren. Heute gibt es 25 % Rabatt. → GoodSync​

Ethik & Regulierung 🤔

• Patientendaten: Der Praxis-Terminplaner dubidoc wirbt mit ISO-zertifiziertem Hosting, hat seine Patienten-Datensätze aber so dilettantisch geschützt, dass der CCC mal eben eine Million von ihnen extrahieren konnte. Vielleicht brauchen wir zertifizierte Zertifizierer. → CCC​
• Volle Flieger: Der Erfolg der chinesischen E-Commerce-Plattformen Shein und Temu folgt zu einem Gerangel um den begrenzten Luftfrachtraum – allein in die USA verschicken die beiden Unternehmen 600.000 Pakete pro Tag. Nein, dieses System skaliert nicht. → Reuters

Strategie ⛰️

• Champion: Das französische KI-Startup Mistral hat eine exklusive Partnerschaft mit Microsoft aus dem Hut gezogen – und macht damit einiges richtig. → Meine Einschätzung​
• Komplementär: „Kluge Unternehmen versuchen, die Komplementärprodukte ihrer eigenen Produkte zu standardisieren“ – was das heißt, erklärt dieser lesenswerte Klassiker der Strategieliteratur. → Joel on Software​

KOLUMNE

Sollten wir das bauen?

Wenn du mit deinem Team an einem innovativen Produkt oder Service arbeitest, treiben euch vor allen Dingen zwei Fragen um:

1. Können wir es bauen
2. Wird es jemand benutzen?

Wenn ihr allerdings bei diesen Fragen aufhört, lasst ihr einen wichtigen Aspekt aus, nämlich den ethischen. Solltet ihr das Produkt überhaupt bauen?

In manchen Branchen stellen sich diese ethischen Fragen automatisch, zum Beispiel in der Biotechnologie, bei autonomen Autos oder Überwachungssoftware. Aber auch wenn dein Team ein ganz „normales“ digitales Produkt aufbaut oder ihr bestehende Technik weiterentwickelt – die Verantwortung, Technologie zu bauen, die dem Menschen dient, entfällt damit nicht. Hier sind 9 Leitfragen, die euch dabei helfen, innezuhalten und zu überprüfen, ob ihr in die richtige Richtung läuft:

1) Ist diese Technologie für alle Nutzer zugänglich?

Echte Inklusion berücksichtigt nicht nur die Stimmen, die normalerweise überhört werden, sondern verstärkt sie. Adressiert euer Produkt eine gesellschaftliche Randgruppe? Und wenn nicht, könnte es das tun?

Digitale Produkte schließen zum Beispiel häufig Menschen aus, die technisch weniger versiert ist. Manchmal ist das unumgänglich, aber nicht immer. Dass nur Profis Google richtig benutzen können und ChatGPT-Prompts eine Kunst sind, ist keine Selbstverständlichkeit. Was könnt ihr tun, um jeden abzuholen?

2) Hilft unser Produkt den Nutzern, ihre Ziele zu erreichen?

Was möchten die Nutzer eurer Erfindung wirklich erreichen? Die Antwort darauf widerspricht manchmal wirtschaftlichen Interessen, aber noch häufiger ist sie unklar – selbst den Nutzern selbst. Wir Menschen tun vieles, weil wir es schon immer getan haben. Als Innovatoren wollen wir jedoch die Welt verbessern, nicht nur elektrifizieren. Welche menschlichen Bedürfnisse stillt eure Erfindung?

3) Verschlechtert diese Erfindung das Leben einiger Menschen?

Welche Art von Arbeit automatisiert ihr mit eurem Produkt? Und was bedeutet das für die Menschen, die diesen Job gerade ausüben? Es ist nicht eure Aufgabe, Arbeitsplätze künstlich am Leben zu erhalten. Häufig werden die Betroffenen dann nämlich zu niedrigen Löhnen „geparkt“, statt dass sie der Arbeitswelt zur Verfügung stehen. Trotzdem: Seid ihr euch sicher, dass die Auswirkungen unterm Strich positiv sind? Wer gewinnt besonders, wer verliert besonders?

4) Wie verändert diese Erfindung das menschliche Miteinander?

Heutige Technologien vernetzen Menschen häufig, aber das führt sie nicht zwangsläufig zusammen. Es kann sogar den gegenteiligen Effekt haben. Wenn eine Bürosoftware beispielsweise allen Nutzern die gleichen Informationen anzeigt, kann das einerseits die Zusammenarbeit erleichtern, aber dem Chef auch die ungefragte Kontrolle seiner Mitarbeiter ermöglichen. Welche Arbeitskultur fördert euer Tool?

​

5) Nutzen wir die bestmögliche Technologie?

Welche Technologie ihr nutzt, hängt von vielen Faktoren ab: eurem Unternehmen, eurer Erfahrung, eurem Budget. Trotzdem lohnt sich die Frage, ob es nicht eine bessere, einfachere Lösung gibt. Innovation benötigt nicht zwingend die neuste Technik – tatsächlich ist „Low Tech“ oft die bessere Wahl, weil viele Nachteile komplizierter und neuster Lösungen entfallen. Welche Alternativen habt ihr euch angeschaut?

6) Was passiert, wenn unsere Erfindung sehr erfolgreich ist?

Nehmt einmal an, dass euer Produkt kolossal erfolgreich ist und vom Großteil der Bevölkerung genutzt wird. Was würde das mit unserer Gesellschaft machen? Der Natur? Unserem Planeten?

Diese Denkübung hilft auch, Probleme zu antizipieren, die zunächst wie eine exotische Ausnahme wirken. Uber zum Beispiel hat das Teilen der Route mit Freunden erst nach mehreren Fällen sexuellen Missbrauchs eingeführt. Welche Probleme können regelmäßig auftreten, wenn eure Erfindung im Massenmarkt angekommen ist?

7) Welchen gesellschaftlichen Trend fördern wir?

Erfolgreiche Start-ups setzen auf einen Trend auf, wie zum Beispiel wachsende Märkte oder Technologien, die gerade alltäglicher werden. Das lässt sich auch auf ethische Trends übertragen, zum Beispiel Nachhaltigkeit, Fairness und Transparenz.

Eine Strategie dafür ist, der Regulierung immer einen Schritt voraus zu sein. Der Autohersteller Volvo erfand zum Beispiel den Sicherheitsgurt und positionierte sich als Hersteller von sicheren Autos, während andere Autobauer Sicherheitsgurte erst mit der Gurtpflicht einführten.

8) Können Nutzer die Technologie kontrollieren?

Der Mensch kontrolliert die Maschine, nicht andersherum. Wer bei diesem Satz nur an außer Kontrolle geratene Roboter denkt, übersieht, dass „kontrollieren“ zuallererst „verstehen“ bedeutet. Das ist besonders durch Generative KI herausfordernd geworden. Bei Antworten von ChatGPT ist nicht nachvollziehbar, wie sie entstehen und auch nicht, ob sie wahr sind. Verstehen eure Nutzer immer, was sie gerade tun und was sie gerade bekommen?

Kontrolle heißt auch, dass den Nutzern die Auswirkungen ihrer Entscheidungen klar sind. Der deutsche Waschmittelhersteller Everdrop bietet zum Beispiel auf seine Webseite die Möglichkeit, anhand der Postleitzahl den Härtegrad des Wassers zu erfahren, sodass Kunden das umweltfreundlichste Produkt kaufen können (weicheres Wasser erfordert weniger schädliche Substanzen).

9) Dient diese Erfindung dem Menschen?

Unterstützt deine Erfindung Menschen auf dem Weg zu einem glücklichen Leben? Das ist am Ende das Ziel jeder Innovation. Nicht alles auf dieser Welt muss automatisiert werden. Beispielsweise kochen viele Menschen sehr gerne, aber Lieferdienste und Küchenmaschinen sehen die Essenszubereitung als Problem, dass es zu lösen gilt. Das muss nicht unbedingt ein Widerspruch sein: Lieferando und der Themomix können dabei helfen, wieder häufiger Zeit für bewusstes und gemeinsames Kochen zu finden. Was nimmt deine Erfindung den Menschen weg, was gibt sie ihnen?