Der neue Kampf gegen digitale Abhängigkeit

Think:Act Magazin Sinn
Der neue Kampf gegen digitale Abhängigkeit

2. Juli 2018

Technologieunternehmen werden sich der sozialen Auswirkungen ihrer omnipräsenten Geräte bewusst

Artikel

von Steffan Heuer
Illustrationen von Filippo Fontana

Lesen Sie mehr zum Thema
"Das Prinzip ´Purpose´ – Unternehmen brauchen Sinn"

Facebook und Google machen ebenso abhängig wie Kokain, sagen Programmierer, Shareholder und Forscher. Reißt ihr Weckruf die Macher des Silicon Valley aus ihren Weltverbesserungsträumen?

So etwas hatte man in Cupertino noch nicht gesehen: Demonstranten, die Schilder hochhalten und Flyer verteilen. Ausgerechnet vor dem schönen neuen Apple-Hauptquartier. Die vier Protestler sind Informatikstudenten der Stanford University, alle haben Praktika bei renommierten Technologieunternehmen absolviert. Der Name der Gruppe sagt alles: Stanford Students Against Addictive Devices (SSAAD). "Wir wollen auf ein ernstes Problem aufmerksam machen", sagt einer ihrer Mitgründer, Sanjay Kannan. "Gerätehersteller und vor allem App-Entwickler müssen sich mit dem Problem Technologiesucht befassen."

Der Studentenprotest vom März 2018 im Herzen des Silicon Valley war ein weiteres Beispiel für eine wachsende Gegenbewegung: gegen die Tyrannei des "Always-on" auf Geräten, Apps, Diensten und Plattformen wie Facebook. SSAAD mag unbedeutend erscheinen im Vergleich zu den sich ausweitenden Skandalen über den unbefugten Zugriff auf die Daten von zwei Milliarden Facebook-Nutzern oder zu der Kontroverse über russische Interventionen im US-Wahlkampf. Aber die Gruppe spricht einen Punkt an, der weit darüber hinausgeht. Was tut Technik Menschen an? Und was können und sollten die Menschen, die diese Technik entwickeln, dagegen tun?

"Wir haben wunderbare technische Werkzeuge in eine Waffe verwandelt. Wer das meiste Geld bietet, darf sie auf unseren Kopf richten."
Portrait of Aza Raskin
Mitgründer
Center for Humane Technology

Endlich beginnt das Silicon Valley an seinen Entwicklungen zu zweifeln. Denn die zeigen negative Auswirkungen: auf Individuen, Familien und die Gesellschaft als Ganze. Die Technologiebranche muss ein Gewissen entwickeln. Sie muss sich mit Sicherheitsmaßnahmen und Selbstregulierung auseinandersetzen – und möglicherweise mit staatlichen Eingriffen. Noch ist "digitale Sucht" keine anerkannte psychische Störung. Doch es mehren sich die Anzeichen dafür, dass die Stunden, die wir mit Apps, Spielen und ablenkenden Plattformen verbringen, ihren Tribut fordern.

"Neue Forschungen zeigen, dass Kinder und Erwachsene sich von ihren Geräten abhängig fühlen", sagt Colby Zintl. Sie ist Vice President, External Affairs bei Common Sense Media – einer Interessengruppe aus San Francisco, die sich bei Eltern und Pädagogen für die Erforschung und Förderung einer gesunden Mediennutzung einsetzt. Inzwischen hat sich Zintls Organisation mit dem Center for Humane Technology (CHT) zusammengeschlossen.

Technologiegiganten sollten den Verbrauchern mehr Einflussmöglichkeiten geben

Das CHT steht an vorderster Front, wenn es darum geht, die gefährlichen Nachteile der Technik herauszuarbeiten. Gegründet wurde die Gruppe von ehemaligen Google- und Facebook-Programmierern, unterstützt wird sie von einem Who’s who der Branche, darunter frühe Facebook-Investoren und einer der Programmierer, die 2007 den blauen "Like"-Button entwickelten.

"Technik übernimmt unseren Verstand und unsere Gesellschaft", deklariert die Webseite der Gruppe und listet Studien und Beispiele dafür auf, wie Smartphones und Apps Menschen psychisch und physisch schaden. "Wir haben es geschafft, wunderbare technische Werkzeuge in eine große Waffe zu verwandeln. Wer das meiste Geld bietet, darf sie auf unsere Köpfe richten", sagt der CHT-Mitgründer Aza Raskin.

40% aller Amerikaner fiele es laut einer Studie des Pew Research Center von 2018 schwer, auf soziale Medien zu verzichten. Bei den 18- bis 24-Jährigen waren es 51%.

Während viele Menschen sich Sorgen darüber machen, wie ihre Daten genutzt werden, fürchten andere, wie die Technik unser Denken beeinflusst. Tony Fadell, einer der Schöpfer des iPod und des iPhone, lies dazu eine Tirade an Tweets auf seine Kollegen herabprasseln: "Apple Watches, Google Phones, Facebook, Twitter schaffen es mit nur einem Klick, den nächsten Dopaminrausch in uns auszulösen." Dopamin ist der Botenstoff des Gehirns, der für Sucht und Vergnügen zuständig ist.

Roger McNamee, einer der ersten Investoren bei Amazon, Facebook und Google, brachte die Vokabel "disrupt" in die Debatte – ein Wort, das oft benutzt wird, um radikale und vermeintlich positive Veränderungen durch Technik zu beschreiben. "Disrupt the Disrupters", forderte McNamee: "Zerstört die Zerstörer – damit unser Leben und unser Glauben an die Politik wieder ins Gleichgewicht kommen." Der ehemalige Facebook-Manager Chamath Palihapitiya sagte, er habe "enorme Schuld" auf sich geladen, indem er half, Werkzeuge zu schaffen, die das soziale Gefüge unserer Gesellschaft zerreißen. Und auf dem diesjährigen Weltwirtschaftsforum in Davos stimmte sogar der Finanzier George Soros mit ein: Technologieunternehmen wurden in ihre Dienstleistungen süchtig machende Faktoren "vorsätzlich mit einbauen".

Das Gefühl für Verantwortung hatten Tech-Insider viel zu lange ignoriert, gibt CHT-Mitgründer Raskin zu. "Im Silicon Valley denkst du jeden Tag, du machst die Welt zu einem besseren Ort." Ein entscheidender Wendepunkt war eine interne Präsentation bei Google, die dessen damaliger Produktphilosoph Tristan Harris 2014 hielt. Harris kritisierte, dass Google mehr als zwei Milliarden Menschen wie eine Ameisenkolonie steuere. "Bis zur Wahl 2016 war es leicht, dieses Problem unter den Teppich zu kehren", sagt Raskin. Erst die Enthüllungen über russische Eingriffe in den US-Wahlkampf verlieh den Bedenken Dringlichkeit.

Auf einer Konferenz gab Google-CEO Sundar Pichai jüngst zu, dass etwas schiefläuft. "Wir wollen Ihnen helfen, sich auf das zu fokussieren, worauf es ankommt", sagte er vor Entwicklern – während er neue Funktionen vorstellte, die noch tiefer in das Privatleben der Nutzer eindringen. Insbesondere Künstliche-Intelligenz-Funktionen wie der Sprachassistent "Duplex", der vorgeben kann, ein Mensch zu sein, besorgen viele Technologen. Auch wenn Pichai erklärte, Google erkenne "die große Verantwortung, richtig zu handeln".

Große Technologieunternehmen wie Google sind sich bewusst, dass auch die Wall Street einen Zusammenhang zwischen digitaler Abhängigkeit und den Gewinnen und Bewertungen von Technologieunternehmen herstellt. Im Januar schrieb der US-Hedgefonds Jana Partners in einem gemeinsam offenen Brief mit dem Pensionsfonds California State Teachers Retirement System an Apple: "Wir glauben, dass Apple den Eltern mehr Wahlmöglichkeiten und Werkzeuge anbieten muss, um sicherzustellen, dass junge Verbraucher ihre Produkte optimal nutzen."

Langfristiges Wohlergehen entsteht nicht durch sofortige Belohnung
Der Technologe John C. Havens ist Executive Director der IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems.

Think:Act hat mit ihm über Maschinenethik gesprochen. Seine Antworten spiegeln nicht notwendigerweise die Ansichten des IEEE wider.

Mr. Havens, müssen wir anfangen, ethische Prinzipien einzubauen, wenn wir Hard und Software entwickeln?

Wir brauchen angewandte Ethik und Entwicklungsprozesse, die an Werten orientiert sind. Wir müssen Menschen, die künstliche Intelligenz (KI) und Maschinen entwickeln, dabei helfen, tief in die Vorstellungen der Endanwender einzutauchen – und in Probleme, die sich aus diesen Technologien ergeben. KI wirkt sich direkt auf die menschliche Identität und ihren Antrieb aus, das unterscheidet sie von anderen Technologien. KI ist nicht "schlecht" oder "böse", aber Ingenieure und Programmierer benötigen ein neues Level an Sorgfalt, um unbeabsichtigte negative Folgen zu vermeiden.

Müssen sich Algorithmen an menschliche Werte halten? Können Sie gleichzeitig für unser Wohlbefinden sorgen und unseren Wunsch nach Belohnung befriedigen?

Die Basis sind menschliche Werte, aber im Kontext mit regionalen und kulturellen Werten. Außerdem müssen wir analysieren, was langfristig das Wohlergehen der Menschen fördert. Das sind nicht kurzfristige Belohnungen.

Sie leiten die Global Initiative on Ethics of Autonomous and Intelligent Systems des IEEE, der weltweit größten Vereinigung von Ingenieuren. Was hat das Projekt bisher erreicht?

So wie das IEEE den Wi-Fi-Standard schuf, haben wir Standards formuliert, die Unternehmen und Entwicklern dabei helfen sollen, werteorientiert zu programmieren. Für unsere Vision "Ethically Aligned Design" haben sich mehr als 250 internationale Experten in 13 verschiedenen Abschnitten mit diesen Themen beschäftigt. Die inzwischen zweite Version (EADv2) ist auf der IEEE-Webseite verfügbar.

Der Schutz der Demokratie geht einher mit wirtschaftlichen Einbußen

Was genau sagt die Forschung über den Einfluss digitaler Geräte und Dienstleistungen auf unser Wohlbefinden? Fast die Hälfte aller Kinder, die von Common Sense Media befragt wurden, erklären, dass sie sich süchtig nach ihren Telefonen fühlen, und drei von vier Familien gaben an, dass Geräte Streit verursacht hatten. Eine Auswertung von 67 Studien kommt zu dem Ergebnis, dass Smartphones und Tablets einen signifikanten negativen Einfluss auf Schlafdauer und -qualität bei Kindern und Jugendlichen im schulpflichtigen Alter haben.

7 Stunden am Tag verbringen amerikanische Teenager im Schnitt vor irgendeiner Art von Bildschirm.

Ob Facebook oder Snapchat wirklich mit Kokain oder Glücksspiel vergleichbar sind, steht noch nicht fest. Aber Studien haben Gehirnaktivitäten dokumentiert, die anderen Suchten verdächtig ähnlich sehen, wenn es darum geht, ob ein Proband seine Impulse unter Kontrolle hat. Die Psychologin Jean Twenge von der San Diego State University zieht eine noch düsterere Schlussfolgerung. Sie sieht einen Zusammenhang zwischen der Zeit, die Jugendliche mit neuen Medien verbringen, und der Anzahl von Depressionsfällen und Selbstmorden, insbesondere bei Frauen. US-Teenager verbringen durchschnittlich sieben Stunden am Tag vor dem Bildschirm, was auf Kosten der Interaktion mit anderen Menschen geht.

Kritiker argumentieren, dass die gegenwärtige Welle der Einsichtigkeit an drei Fronten in Taten umgesetzt werden müsse. Als erstes sollten Verbraucher einige einfache Schritte unternehmen, um die schlimmsten Auswirkungen digitaler Sucht abzufedern. Den zweiten Schritt könnte man "Programmieren mit Gewissen" nennen. Die Argumentation: Unternehmen haben eine moralische Verpflichtung und einen geschäftlichen Anreiz, sich selbst zu regulieren und ihre Produkte von Anfang an so zu entwickeln, dass sie weniger süchtig machen.

"Das Geschäftsmodell des Silicon Valley: Es schenkt uns seine Produkte und macht dafür uns zu Produkten."
Portrait of Andrew Keen
Autor
"How to Fix the Future: Staying Human in the Digital Age"

"Es gibt Leute, die immer noch leugnen, wodurch sie reich geworden sind und wie ihre Produkte die Gesellschaft und die Demokratie zerreißen", sagt CHT-Mitbegründer Raskin, dessen verstorbener Vater Jef den Macintosh-Computer bei Apple in den 1970er Jahren entwickelt hat. Für ihn sollte menschenwürdiges Programmieren an Schulen und Hochschulen gelehrt werden, damit es die Entwicklergemeinde durchdringen kann – immer unter der Fragestellung: "Wie macht man großartige Produkte, die nicht an unsere niedersten Impulse appellieren, sondern höhere menschliche Qualitäten ansprechen?"

Der dritte Punkt ist die Regulierung. "Tatsache ist, dass Technologieunternehmen bisher einen Freifahrtschein bekommen haben und völlig unreguliert sind. Wir wollen Sicherheitsgurte oder Airbags für Facebook", sagt Zintl von Common Sense Media.

Die systemischen Veränderungen wären jedoch viel tiefer gehend als das Hinzufugen eines Airbags. Wenn es stimmt, dass das Geschäftsmodell von Google und Facebook darauf basiert, das Verhalten von Nutzern nachzuverfolgen, zu manipulieren und in Werbeeinnahmen umzuwandeln, müsste die Regulierung sie zwingen, ihre Arbeitsweise zu ändern – und die Art, wie sie Geld verdienen. "Als das britische Empire die Sklaverei aufgab, gab es damit für 60 Jahre 2% seines BIP auf, aber es war moralisch richtig", argumentiert Raskin. "Wenn Unternehmen etwas tun wollen, das die Demokratie schützt, müssen sie auf Einnahmen verzichten. Oder man sollte sie für die Inhalte verantwortlich machen, die sie verbreiten. Das wurde die Anreize enorm verändern."

Andrew Keen, Technologiebeobachter und Autor von vier Büchern über die unerfüllten Versprechen der Branche, sagt: Reue ist nicht genug. "Das Geschäftsmodell des Silicon Valley ist Überwachungskapitalismus: Es schenkt uns seine Produkte und macht dafür uns zu Produkten."

Die Menschen müssen ihre Rechte innerhalb der digitalen Revolution einfordern

Die Bürger müssten sich wehren und der Technologie menschliche Werte aufzwingen, sagt Keen. Durch bürgerschaftliches Engagement, Bildung und, ja, auch durch Regulierung. "In einem System des Überwachungskapitalismus können Veränderungen nicht von den fünf großen Plattformen kommen, weil wir eine Wirtschaft haben, die Innovation und Wettbewerb unterdrückt."

Tatsächlich könnte die lang überfällige Seelensuche der Besten und Klügsten des Silicon Valley Veränderungen herbeiführen. Erstens durch eine Mischung aus Vorsicht und gesteigertem Bewusstsein der Nutzer, worauf sie sich durch Antippen des "Ich stimme zu"-Buttons einlassen.

Zweitens durch staatliche und selbst auferlegte Regulierung der marktbeherrschenden Akteure – eingebettet in gesetzliche Rahmenbedingungen wie die im Mai in Kraft getretene Allgemeine Datenschutzverordnung der EU. Und drittens durch eine noch unbekannte Größe: den Wettbewerb mit völlig neuen Unternehmen. Unternehmen, die von anderen Werten getragen werden und nicht nur betrachten, wie eine Maschine mit einem einzelnen Individuum interagiert, sondern mit der Gesellschaft als Ganzes.

Das könnte Sie auch interessieren (überwiegend auf Englisch)
Unser Think:Act Magazin
blue background

Das Prinzip "Purpose"

{[downloads[language].preview]}

Was bedeutet 'Purpose' für Sie und Ihr Unternehmen? Unser Think:Act Magazin widmet sich dem Wertewandel in der Geschäftswelt. Langfristige Visionen bilden die Basis für nachhaltige Produkte, inspirierende Dienstleistungen und ikonische Unternehmen. Die Zeit ist gekommen, Unternehmen neu zu erfinden.

Veröffentlicht Juli 2018. Vorhanden in
Abonnieren Sie unseren Think:Act Magazin Newsletter

Portrait of Think:Act Magazine
Think:Act Magazine
Zentraleuropa
  • Photos Filippo Fontana; Camille Kachani; Martin Schoeller / August; PR; Kadir van Lohuizen; Olaf Hajek; Florian Lang; Spencer Lowell / Trunkarchive; Børge B. Bredenbekk; Frank Herfort / Institute; Dirk Bruniecki; Jonathan Torgovnik/Getty Images; Ashley Florence/University of Virginia