Maschinenethik: „Die Diskussion um die elektronische Person hat eben erst begonnen!“

Herr Professor Dr. Bendel, wann haben Sie zuletzt auf Ihr Smartphone geschaut?

Vor ein paar Minuten. Ich habe beim Essen Zeitung gelesen.

Können Sie sich noch erinnern, was Sie bei der Präsentation des ersten iPhone gedacht haben?

Ehrlich gesagt kann ich mich nicht mehr erinnern. Aber das Design erinnerte mich gleich an meine Kindheit: In unserer Wohnung in Ulm stand der „Schneewittchensarg“ von Braun, eine legendäre Kombination aus Radio und Plattenspieler, entworfen von Dieter Rams und Hans Gugelot.

Glauben Sie, dass Steve Jobs damals die Reichweite „seiner“ Erfindung vorausgesehen hat?

Vielleicht nicht im Detail vorausgesehen, aber geahnt – wer so etwas schafft, der ahnt das bestimmt. Man hat dann womöglich das Gefühl, dass alles stimmt, alles so ist, wie es sein muss. Wenn man manche Sängerinnen und Sänger sieht, wie sie in der Blüte ihrer Karriere in ihrem Vortrag selbstgewiss sind, dann ist da auch dieses Gefühl: bei David Coverdale, wie er in Kalifornien für Deep Purple „Burn“ singt, Melanie mit „Ruby Tuesday“, Kurt Cobain mit „Smells Like Teen Spirit“ zum Beispiel.

Ausgerechnet Steve Jobs schränkte angeblich die Zeit, die seine Kinder mit dem iPhone und iPad verbrachten, bewusst ein.

Er hat mit dieser Einschränkung recht gehabt: „Messer, Gabel, Scher’ und Licht sind für kleine Kinder nicht!“ Und Smartphones auch nicht. Zumindest nicht Dienste, die sie aushorchen, und Anwendungen, die sie überfordern.

Ob er selbst ein so kreativer Visionär geworden wäre, wenn er mit der heutigen Technologie aufgewachsen wäre?

Steve Jobs ist mit der damaligen Technologie aufgewachsen und hat das iPhone erdacht. Wenn er mit der heutigen Technologie aufgewachsen wäre, hätte er halt etwas anderes geschaffen. Vielleicht würde er sich Bügeleisen und Rasierapparate vorknöpfen. Damit steht es designmäßig ja ebenfalls nicht zum Besten.

Jobs scheint sich also durchaus mit den Auswirkungen seiner Technologie beschäftigt zu haben. Welche Fragen sollten wir uns selbst stellen, wenn wir verantwortungsbewusst mit dem enormen Potenzial des iPhone umgehen möchten?

Hunderte, tausende. Hier nur ein paar: Wie viel Zeit verbringe ich mit dem Smartphone? Was genau stelle ich damit an? Lenkt es mich ab? Von etwas, das mir wichtig ist? Stört es mich im Gespräch mit anderen? Spioniert es mich aus? Und letzten Endes: Tut mir das Smartphone gut? Profitiere ich von seiner Verwendung oder profitieren vor allem die anderen – die Produzenten und Provider?

Das iPhone im Mittelpunkt der Ethik

Warum interessieren Sie sich als Ethiker für das iPhone?

Aus Sicht der Informationsethik interessiert mich, ob durch das Smartphone die Informationsgerechtigkeit gewahrt oder ein neuer digitaler Graben aufgerissen und ob die informationelle Autonomie eingeschränkt oder erweitert wird. Die Technikethik kann das Smartphone als Werkzeug in den Vordergrund rücken und nach Abhängigkeiten fragen. Abhängigkeiten sind wiederum ein Thema der Informationsethik – vor allem, wenn das Werkzeug als Computer und die Datennutzung und -analyse im Mittelpunkt stehen. Ähnliche Fragen habe ich übrigens bereits mit Blick auf Drohnen und Datenbrillen gestellt – das Smartphone ist in moralischer Hinsicht also in bester Gesellschaft.

Den Begriff der Ethik wenden wir ja in der Regel auf Menschen, mittlerweile auch auf Tiere an. Wie können wir sie auf technische Geräte und Maschinen wie das iPhone anwenden?

Die angewandte Ethik bezieht sich auf abgrenzbare Themengebiete und bildet die Bereichs- oder Spezialethiken aus. Die Informationsethik hat die Moral in der Informationsgesellschaft zum Gegenstand. Sie untersucht, wie wir uns, die wir Informations- und Kommunikationstechnologien sowie digitale Medien nutzen, in moralischer Hinsicht verhalten beziehungsweise verhalten sollen. Die Technikethik bezieht sich auf moralische Fragen des Technik- und Technologieeinsatzes. Es kann sich dabei gleichermaßen um die Technik von Fahrzeugen und Waffen drehen wie um Nanotechnologie oder Kernenergie. In der Informationsgesellschaft ist die Technikethik natürlich eng mit der Informationsethik verbunden und löst sich teilweise darin auf.

Und was ist Maschinenethik?

Die Maschinenethik hat die Moral von Maschinen zum Gegenstand – vor allem von (teil-)autonomen Systemen wie Chatbots, Robotern, Drohnen und selbstständig fahrenden Autos. Wir können sie der Informations- und Technikethik zuordnen oder – was ich bevorzuge – als Pendant zur Menschenethik ansehen, sodass sie keine Bereichsethik, sondern eine neue „Hauptethik“ wäre.

Wie wendet man den Begriff der Moral in diesem Kontext an?

Der Begriff der Moral wird hier durchaus kontrovers diskutiert. Autonome Systeme müssen immer mehr Entscheidungen mit moralischer Relevanz treffen. Man kann den Begriff der maschinellen Moral metaphorisch oder intentional gebrauchen. So geschieht es auch auf dem Gebiet der Künstlichen Intelligenz. Für das iPhone wäre vor allem die Informations- und Technikethik zuständig.

Entstehen für moderne Maschinen wie Smartphones eigentlich nur Pflichten oder haben sie in gewissem Sinn auch Rechte?

In der Roboterethik wird seit langem untersucht, ob Computer und Maschinen Rechte in moralischer Hinsicht haben können. Ich persönlich halte nichts davon, Geräten und Maschinen solche Rechte zuzusprechen. Auch mit dem Begriff der Pflichten bin ich vorsichtig. Es entstehen allenfalls bestimmte Verpflichtungen – Maschinen sollen sich schlicht und ergreifend an bestimmte Regeln halten.

Übrigens plädiere ich generell dafür, diese Begriffe nicht zu sehr zu verschränken. Tiere haben Rechte, aber keine Pflichten. Kleinkinder ebenso. Wer Rechte hat, muss also keine Pflichten haben. Ich sehe aber keine moralischen Rechte für Geräte, Maschinen und Roboter. Wenn sie eine Empfindungs- oder Leidensfähigkeit entwickeln, können wir erneut darüber sprechen.

Aber entstehen Rechte nicht zwangsläufig aus Pflichten?

Nicht unbedingt. Sklaven haben Pflichten, aber keine oder kaum Rechte. Allerdings beanstanden wir das und versuchen es zu ändern – indem wir versuchen, die Sklaverei als solche abzuschaffen. Aus juristischer Perspektive ergeben sich vielleicht andere Einschätzungen. Die Diskussion um die elektronische Person hat eben erst begonnen.

Von Pokémon-Jägern und Smombies

Begreifen wir die durch die unvergleichlich rapide Verbreitung der neuen Technologien einhergehenden Veränderungen überhaupt noch schnell genug?

Wir haben neue Möglichkeiten, Technologie zu begreifen, neue Begriffe, neue Methoden. Dennoch scheinen digitale und analoge Gräben zu entstehen. Meine Studierenden sind immer weniger ansprechbar, weil sie das Notebook auf dem Tisch und das Smartphone in der Hand haben. Auf Straßen und Plätzen hat man im vergangenen Sommer oft „Pokémon-Jäger“ angetroffen, die gern in Gruppen auftraten – einige Passanten waren bei diesem Anblick so verstört, dass sie die Polizei gerufen haben.

Überfordert kann man auch von den sogenannten Smombies sein. Auf den Gehsteigen muss man ihnen ausweichen, in den Zügen und Trams kann man ihren Blick nicht mehr erhaschen – sie sind anwesend und doch nicht da. Wie meine Studierenden. Das ist durchaus ein Problem.

Wie lösen wir es?

Es wäre wichtig, dass wir begreifen, wie schnell wir selbst Veränderungen durchlaufen und dass wir uns darüber klar werden, ob wir sie überhaupt in dieser Form wollen. Und es braucht Regeln: beim Unterricht, im Straßenverkehr etwa, damit alle miteinander auskommen.

Der Medienwissenschaftler Neil Postman teilte den Informationszugang in drei Phasen ein: In der Phase vor dem Buchdruck hatten nahezu alle Mitglieder der Gesellschaft Zugang zu denselben Informationen – Kinder wie Erwachsene. Erst mit der Verbreitung von Büchern etablierte sich eine Schwelle zur Informationsgewinnung: An der „Buch-Informationsgesellschaft“ konnte nur teilnehmen, wer lesen konnte. Damit hängt auch unser Begriff von Reife und Kindheit eng zusammen. Das Fernsehen leitete laut Postman die dritte Phase ein, die mehr oder minder der ersten gleicht: Alle Informationen stehen theoretisch wieder allen zur Verfügung – ohne Einschränkung.

Wir dürfen nicht vergessen, dass Bücher bereits vor dem Buchdruck existierten. Und es gab bestimmte Personen, die Zugang zu ihnen hatten. Manche Bücher hat man weitergereicht, andere in den „Giftschrank“ gelegt. Ich gehe also davon aus, dass die Mitglieder einer Gesellschaft immer einen unterschiedlichen Zugang zu Informationen hatten. Auch das mit dem Lesen muss man genau betrachten. Wenn man in Pompeji herumspaziert, stößt man irgendwann auf das Freudenhaus der antiken Stadt. Für die Männer war es von Wert, wenn sie die Namen der Mädchen lesen konnten, die dort geschrieben standen. Auch auf dem Markt war es von Vorteil, lesen und rechnen zu können – für Männer wie Frauen.

Wie passt das Smartphone in die oben skizzierte Entwicklung?

Das Fernsehen vermittelt Informationen anders als die meisten Bücher – das Bild dominiert. Auch im Internet spielt das Bild eine zentrale Rolle. Elektronische Dienste und soziale Medien wie Instagram und Snapchat treiben das auf die Spitze. Das Smartphone wiederum kann als Buch, als Zeitschrift und als Zeitung verwendet werden – und als Fernseher oder als Kinoleinwand. Es ist somit ein universelles Gerät.

Zugleich verändern sich die Medien, sie verschmelzen miteinander. Moderne Zeitschriften und Zeitungen sind häufig stark bildorientiert, und im Internet enthalten sie zusätzliche Animationen und Videos. Man greift also mit einem Multifunktionsgerät auf multi- und hypermediale Inhalte zu, auf eine Mixtur von bewegtem und unbewegtem Bild, von Text und Ton. Und diese Mixtur passt sich nicht nur an das Gerät an, sondern ist auch von der Umgebung abhängig, in der man sich bewegt.

Ist nicht gerade das problematisch?

Wenn ich in fremden Städten bin, lasse ich mir von Google Maps gern die vegetarischen Restaurants in der Umgebung anzeigen. Natürlich verrate ich damit etwas über meine Gewohnheiten – aber es ist sehr hilfreich, wenn ich Hunger habe. Solche Informationen sind typisch für das mobile Gerät: Ich bin unterwegs, ich bewege mich, und die Daten, die aus der jeweiligen Umgebung stammen, werden zu Informationen, die für mich nützlich sind und die es mir erlauben, neue Ziele zu bestimmen und zu finden.

Der Geist in der Maschine

Durch seinen Sprachassistenten rückt das iPhone einen Schritt näher an die Darstellung eines „Geistes in der Maschine“ heran. Wie gut muss dieser werden, damit wir Siri als eigenständiges Wesen wahrnehmen?

Wenn Maschinen texten oder sprechen können, nehmen wir sie sehr schnell als eigenständige Wesen wahr. Das hat Tradition: von der Psychotherapeuten-Simulation „Eliza“ von Joseph Weizenbaum über die Chat- und Chatterbots der Achtziger- und Neunzigerjahre bis zu den heutigen virtuellen Assistenten wie Siri, Cortana und Google Assistant. Wenn diese dann noch Humor beweisen, womit einige der Systeme ja bereits dienen können, oder über eine Biografie beziehungsweise einen Charakter verfügen, dann sind wir noch mehr gewillt, sie für voll zu nehmen. Bei Chatbots ist der Avatar von Bedeutung, und auch Siri sollte die Möglichkeit haben, sich innerhalb oder außerhalb des Smartphones zu zeigen.

Werden Sprachassistenten wie Siri und Alexa unsere Gesellschaft noch grundlegender verändern als das Smartphone?

Virtuelle Assistenten werden sich Behausungen aller Art suchen: das Smartphone, das Eigenheim, das Automobil. Sie werden zur Schaltzentrale für Kommunikation und Information. Sie verbinden uns, sie sprechen uns Nachrichten vor, sie nehmen unsere Befehle entgegen.

Auditive Schnittstellen boomen überhaupt. Es entstehen sprechende Autos und Busse – und interaktive Werbeflächen werden uns ansprechen.

Ethik in der digitalen Wirtschaft

Google hat mit Android in den vergangenen Jahren das iPhone-Betriebssystem nicht nur kopiert, sondern beherrscht damit sogar mittlerweile den Weltmarkt. Ist das eigentlich unmoralisch?

An Google ist einiges unmoralisch – an Apple aber auch das eine oder andere. Ich glaube nicht, dass Unternehmen die Moral zum alleinigen Maßstab machen sollten. Aber ein fairer Konkurrenzkampf, ein fairer Verbraucherschutz, das sollte schon drin sein.

Welcher Stellenwert muss dem Begriff der Ethik in der modernen digitalen Wirtschaft zukommen, die das Kopieren so einfach macht wie nie zuvor?

Die Ethik als Disziplin erschüttert über die Jahrtausende wenig. Wir versuchen aus ihr heraus die Moral der Zeit zu untersuchen – wie entsteht sie, woraus besteht sie, wie verändert sie sich? Man kann sagen, dass heutzutage mehr denn je Informations- und Technikethik als Reflexionsdisziplinen gefragt sind. Sie machen uns nicht zu besseren Menschen, aber zu Menschen, die besser die moralischen Implikationen verstehen.

Vermitteln Sie diese Werte in Ihrer Lehrtätigkeit?

Ethik als Wertevermittlung findet an meiner Hochschule nicht statt – ich lehre dort zum einen Informationsethik, zum anderen Wirtschaftsethik. Ich wüsste auch nicht genau, welche Werte ich vermitteln sollte. Die müssen schon die Studierenden selbst finden. Ich schenke ihnen aber das Rüstzeug dazu – zumindest hoffe ich das.

Und nehmen Ihre Studierenden diese Werkzeuge an?

Es gibt durchaus Vorträge zum Kopieren und Plagiieren. Solche Phänomene erschüttern meine Studierenden freilich wenig. Das Schreddern von Küken im Rahmen der Eierproduktion schon eher – sein Verhalten ändert dennoch kaum einer von ihnen.

Erwarten Sie, dass Apple und speziell das iPhone der Welt noch weitere verändernde Impulse geben? Oder sind andere Entwicklungen längst wichtiger und am iPhone-Hersteller vorbeigezogen?

Wichtige Fortschritte sind vor allem in den Bereichen von Augmented Reality und der virtuellen Realität zu erkennen. Hier sollte Apple auf jeden Fall weiter investieren. Und ich würde mich grundsätzlich freuen, wenn das Design von Bauhaus, der Hochschule für Gestaltung und auch von Apple sich weiter ausbreiten würde. Warum sind viele Dinge so hässlich geworden? Und warum gehen viele Dinge so schnell kaputt? Da ist noch viel zu tun.

Welches Smartphone verwenden Sie selbst – und warum?

Irgendetwas von Samsung – ich kenne noch nicht mal das Modell. Es ist mir, ehrlich gesagt, nicht so wichtig. Ich brauche das Smartphone, um in der Welt mobil auf das Internet zugreifen zu können. Und um meinen Unterricht mit der eingebauten Kamera zu dokumentieren. Apps nutze ich kaum – auch, weil sie Daten ziehen. Dass ich manchmal Google Maps verwende, habe ich schon eingestanden – ich sollte mich nach einer Alternative umschauen.

Diskutiere mit!

Hier kannst du den Artikel "Maschinenethik: „Die Diskussion um die elektronische Person hat eben erst begonnen!“" kommentieren. Melde dich einfach mit deinem maclife.de-Account an oder fülle die unten stehenden Felder aus.

Die Kommentare für diesen Artikel sind geschlossen.