Idee und Inhalt meines Buches

"Jede entsprechend weit fortgeschrittene Technologie ist von Magie nicht zu unterscheiden" (Zitat von Arthur C. Clarke)


Diese Idee hat mich nicht mehr losgelassen bis ich schließlich damit begonnen habe ein Buch darüber zu schreiben. Es geht um virtuelle Welten, die so perfekt simuliert sind, dass sie von der realen Welt nicht mehr zu unterscheiden sind. Da in der virtuellen Welt alles möglich ist, gibt es in meinem Buch sowohl Zukunftstechnologie, wie sie in Science Fiction Romanen zu finden ist, als auch typische Fantasy Elemente wie Magie, Fabelwesen und Fantasiewelten.

In meinem Blog werde ich nicht nur über den Fortschritt meines Buches berichten, sondern auch allgemein zu SciFi und Fantasy Themen.

Gerne lasse ich mich hierbei von euch inspirieren.

Wer mag, kann mich gerne direkt kontaktieren: roy.ofinnigan@t-online.de

Diesen Blog durchsuchen

Mittwoch, 6. Januar 2016

Maschinenethik


© Coonlight | Dreamstime.com

Maschinenethik?

Vielleicht fragt sich der Eine oder Andere wofür man das brauchen soll. Das ist doch SciFi Zeugs.
Stimmt, das war mal SciFi Zeugs. Mittlerweile nicht mehr. Ob ihr es nun wahrhaben wollt oder nicht: Aus dieser Art Science Fiction ist Realität geworden! Es wird Zeit sich den Tatsachen und daraus resultierenden Konsequenzen zu stellen.

Selbstfahrende Autos sind erst der Anfang.  Auch autonom agierende Maschinen und Roboter warten darauf ihre Dienste verrichten zu dürfen. Ungeduldig scharren sie mit den Hufen in den Startlöchern. Noch dürfen sie nicht so recht. Nicht, weil sie technisch noch nicht so weit sind, sondern weil es noch eine Reihe ungeklärter rechtlicher Probleme gibt.

© Volvo


Dabei könnte so einfach sein. Oder unendlich kompliziert. Je nachdem von welcher Seite aus man das betrachtet.

Betrachten wir die Problematik anhand eines modernen Autos. Vollgestopft mit modernster Elektronik und Sensorik. Der Fahrer (oder die Fahrerin) aktiviert den Spurhalteassistenten auf der Landstraße. Kurz vor dem Ortsschild erleidet er / sie einen Herzinfarkt. Unfähig in das Fahrgeschehen einzugreifen kann niemand verhindern, dass das Auto mit 100Km/h in das Dorf rast.
Ungebremst rast es auf dem Marktplatz in die dort zum Wochenmarkt versammelten Menschen. Wer ist schuld? Wie hätte das Unglück verhindert werden können?



Technisch gesehen ist es heutzutage kein Problem mehr mit einer Kamera und entsprechender Auswertesoftware festzustellen, dass der Fahrer nicht mehr in der Lage ist das Fahrzeug zu führen. Sei es weil er eingeschlafen ist oder weil er einen Herzinfarkt erlitten hat.


© Volvo


Die Software könnte dann die Kontrolle übernehmen, das Auto anhalten und am Straßenrand abstellen und Arzt oder Polizei rufen. So weit so gut. Was aber, wenn sich ein Unfall nicht mehr vermeiden lässt?

Zum Beispiel, weil ein Kind zwischen parkenden Autos hindurch auf die Straße springt so, dass selbst für einen Computer keine Zeit mehr bleibt rechtzeitig zu bremsen. Dann bleiben nur noch die Optionen das Kind anzufahren oder auszuweichen.

Jetzt wird’s interessant. Nach welchen Regeln soll die Software entscheiden? Ist das Leben bzw. die Gesundheit des Kindes höher zu bewerten als die anderer Verkehrsteilnehmer? Soll lieber die Frau dran glauben müssen, die gerade auf dem Zebrastreifen vorschriftsmäßig die Straße überquert?
Die aber ist alleinerziehende Mutter von 3 Kindern. Ein Algorithmus mit Internetanschluss könnte solche Daten in Sekundenbruchteilen herausfinden. Aber, selbst ohne Internet Anschluss können die Probleme schnell verzwickt werden.

Leben darf nicht geneneinander aufgerechnet werden

Nehmen wir einmal an es ist eine Situation entstanden, in dem die Software entscheiden muss in den Gegenverkehr auszuweichen. Dort kommen ihm hintereinander 2 Motoradfahrer entgegen. Der erste trägt weder Helm noch Schutzkleidung. Würde also bei einem Unfall schwer verletzt werden. Womöglich querschnittgelähmt.

Der 2. trägt Helm und Schutzkleidung. Der Algorithmus errechnet blitzschnell, dass dessen Verletzungen wesentlich „leichter“ sein werden. Aber darf er dann entscheiden mit dem 2. Motorradfahrer zu kollidieren (wie gesagt, wir nehmen an es gibt nur diese 2 Alternativen)?

Er darf es nicht. Jedenfalls nicht nach unserer heutigen Rechtsprechung. Leben darf nicht gegeneinander aufgerechnet werden. Außerdem würde es den vorschriftsmäßig am Verkehrsgeschehen Teilnehmenden benachteiligen.
So eine Auswahl würde letztendlich dazu (ver)führen in Zukunft auf Schutzkleidung lieber zu verzichten.

Es ist also keineswegs legitim den Schaden in jedem Fall zu minimieren.

Verbieten ist keine Option

So bleiben also nur die Möglichkeit autonome Autos und Maschinen zu verbieten oder bestehende moralische Kategorien überdenken. Ersteres ist keine Option. Das Rad der Zeit lässt sich nicht zurückdrehen. Die Maschinen um uns herum werden immer intelligenter. Wer das nicht möchte hätte schon viel früher reagieren müssen. Diejenigen, die meinen Blog regelmäßig lesen wissen wovon ich spreche.

Also, daß sie zum Einsatz kommen und immer mehr Aufgaben übernehmen, kann niemand mehr verhindern. Ebenso wenig wie, dass sie immer tiefer in unser Alltagsleben eindringen. 

Autonome Maschinen sind nicht mehr aufzuhalten

Es bleibt also nur noch die Option Regeln dafür aufzustellen. Unter Umständen würde das tatsächlich bedeuten, dass wir zu einer Quantifizierung von Menschenleben kommen müssen.

Wer immer noch daran zweifelt, dass das kommt sei an die normative Kraft des faktischen erinnert. Selbstfahrende Autos werden kommen, genauso wie autonom agierende Roboter und Maschinen, weil sie angeboten werden und die Mehrheit den beworbenen Nutzen haben will.

Sie werden uns im Haushalt helfen, uns länger ein selbstbestimmtes Leben zu Hause ermöglichen - und uns unsere Jobs wegnehmen (In den nächsten 10 bis 20 Jahren werden die Hälfte aller Jobs durch Roboter oder Algorithmen (= Computer ersetzt)).

RI_MAN © Riken

RIBA © Riken




Auch über diese Konsequenz habe ich bereits auf meinen Blog informiert.

 Siehe auch: "Wie Algorithmen und Big-Data unsere Zukunft bestimmen"


Warum nicht einfach die Roboter Gesetze von Isaac Asimov nehmen? 

Die helfen leider auch nicht weiter. Wie wir alle von dem Film iRobot wissen, führen die unausweichlich in einen Widerspruch. Oder gar noch schlimmer zur totalen Maschinenherrschaft.

1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich) Schaden zugefügt wird.

2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.

3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Hört sich auf den ersten Blick gut an, Bewirkt aber das genaue Gegenteil dessen, was man damit erreichen wollte. Aus diesen 3 Gesetzen folgt unvermeidlich, dass Roboter die Macht übernehmen müssen, um die Menschen vor sich selber zu schützen.

Es bleibt uns also gar nichts anders übrig als das Problem zu lösen. Vielleicht sollten wir das Ganze einfach nur pragmatisch betrachten. Dann ergibt sich alles wie von selbst. Im Prinzip haben wir den Widerspruch ja bereits akzeptiert. Kehren wir zu dem Beispiel vom Anfang mit dem Spurhalteassistenten zurück. Der Assistent ist zugelassen und wird mehr und mehr in Autos verbaut. Er steigert den Komfort und hilft Unfälle zu reduzieren. Er kann aber nicht verhindern, dass überhaupt keine Unfälle mehr passieren. So etwas zu fordern wäre auch unrealistisch.
Nüchtern betrachtet reicht es, wenn das Leben insgesamt sicherer wird. Ein Restrisiko wird immer bleiben. Auch nicht, wenn manche notorische Gutmenschen das fordern und Politiker uns das glauben machen wollen.

Der Mathematiker Kurt Gödel bewies bereits vor über 80 Jahren, dass jede auf Gesetze basierende Ordnung erstens Widersprüchlich und zweitens Unvollständig ist.

Das gilt ganz besonders für die Mathematik und natürlich auch jede Gesetzgebung. Deshalb ist es mir auch unverständlich, warum so viele Bürger und Politiker meinen durch mehr Gesetze und Verbote würde alles besser.

Das Gegenteil ist der Fall. Je mehr Gesetze, desto mehr Widersprüche erzeugt man. Siehe zum Beispiel EU Bürokratie.

Wie dem auch sei. Zurück zum Thema. Konsequent weitergedacht könnte man die Software auch so programmieren, dass sie wie ein super-reaktionsschneller Mensch agiert. Sie versucht unter Einsatz aller Sensoren und den damit verbundenen Informationen über die Verkehrssituation das Unfallrisiko zu minimieren.

Wenn es dann doch zu einer brenzligen Situation kommt, reagiert sie wie ein Mensch. Vollbremsung und … Ja was denn nun?

Starr geradeaus lenken, weil man vor Schreck nichts anderes mehr tun kann oder ausweichen?
Meiner Meinung nach ist es nicht vorhersehbar wie ein Mensch reagieren würde. Es kommt auf den Einzelnen und die Situation an. Deshalb bin ich der Meinung es ist durchaus legitim den Zufall entscheiden zu lassen.

Das klingt vielleicht etwas hart aber ist es jetzt so viel anders? Entscheidend ist doch, dass nicht mit Vorsatz gehandelt wird und der Nutzen überwiegt. Täglich sterben Tausende in vermeidbaren Verkehrsunfällen und aufgrund von ärztlichen Fehlern in Krankenhäusern. Ich mir sicher, dass wir einen großen Teil davon retten könnten, wenn wir mehr KI-Technologie einsetzten.

Wie auch immer, mit Sicherheit werden Black Boxes Pflicht für selbstfahrende Autos und autonome Maschinen werden, damit der Unfallhergang lückenlos recherchiert werden kann. Natürlich werden die Hersteller und Betreiber entsprechende Versicherungen haben müssen.

Das wird aber kein Problem für sie sein diese kostengünstig zu bekommen, da sie nachweisen können, dass insgesamt das Schadensrisiko kleiner wird, verglichen mit von Menschen gesteuerten Autos und Maschinen. Einige Versicherungen haben das bereits durchgerechnet.

Machen wir also das Beste daraus und nutzen den uns noch verbliebenen Gestaltungsspielraum.

Wir brauchen eine öffentliche Debatte

Ich finde solche Entscheidungen erfordern eine breite Diskussion in der Öffentlichkeit. Einen Programmierer und seinen Manager damit alleine zu lassen wäre auf jeden Fall fahrlässig und unvernünftig. Womöglich wird so etwas ja auch in Ländern entwickelt wo ganz andere Ethische Standards und Moralvorstellungen herrschen als bei uns (Die Meiste Software wird in Indien entwickelt).

Übrigens: In meinem nächsten Post werde ich das in hier bereits angeklungene Thema „Digitalisierung der Gesellschaft“ genauer beleuchten.



Exoskelett, mit dem Querschnittgelähmte wieder gehen können. Nach meinem Verständnis eher kein autonom agierender Roboter aber faszinierende Technologie




foxload.com

Blogverzeichnis - Blog Verzeichnis bloggerei.de

Blogverzeichnis

Blog Top Liste - by TopBlogs.de







RSS Verzeichnis


Keine Kommentare:

Kommentar veröffentlichen

Virtual Space Composition

Virtual Space Composition
© Agsandrew | Dreamstime.com