Dieses Thema hat mich seit langem beschäftigt. Immer wollte ich einmal darüber schreiben, aber als ich an die immensen Implikationen dieses Themas dachte, die Zeit und die Untersuchungen, die das erfordern würde, verließ mich der Mut. Auch wenn dieser Artikel sehr kursorisch und unvollständig ist, habe ich ihn dennoch übersetzt, weil er überhaupt mal dieses emminent wichtige Thema aufgreift.
John Scales Avery
9. Juli 2013
Ethische Erwägungen sind traditionell von wissenschaftlichen
Diskussionen ausgeschlossen. Diese Tradition wurzelt vielleicht in
dem Wunsch der Gemeinde der Wissenschaftler, die bitteren religiösen
Kontroversen, die Europa nach der Reformation spalteten zu vermeiden.
Was immer der historische Grund sein mag, so ist es jedoch zur
Gewohnheit geworden, von wissenschaftlichen Problemen in einer
entmenschlichten Sprache zu reden, als ob Wissenschaft nichts mit
Ethik oder Politik zu tun hat.
Die große Macht der Wissenschaft erwächst aus einer enormen
Konzentration von Aufmerksamkeit und Ressourcen auf das Verständnis
eines winzigen Teils der Natur, aber diese Konzentration ist
gleichzeitig eine Verdrehung der Werte. Um effektiv zu sein, muss ein
Wissenschaftler glauben, zumindest zeitweise, dass das Problem, an
dem er oder sie arbeitet, wichtiger ist als alles andere in der Welt,
was natürlich nicht stimmt. So wird ein Wissenschaftler, während er
einen Bruchteil der Realität besser als irgendjemand sonst sieht,
blind gegenübe dem größeren Ganzen. Zum Beispiel, wenn jemand
durch ein Mikroskop schaut, sieht man eine winzige Szene in
ungeheurem Detail, aber das ist alles, was man sieht. Das restliche
Universtum ist aus der Konzentration ausgeblendet.
Das System der Belohnungen und Bestrafungen bei der Ausbildung
der Wissenschaftler produziert Forscher, die äußerst kompetent
sind, wenn es darauf ankommt, Lössungen für technische Probleme zu
finden, aber ihr Training hat in keiner Weise sie ermutigt, an die
ethischen oder politischen Konsequenzen ihrer Arbeit zu denken.
Wissenschaftler mögen in der Tat versucht sein, den unlösbaren
moralischen und politischen Schwierigkeiten der Welt zu entrinnen,
indem sie in ihre Arbeit eintauchen. Enrico Fermi (dessen Forschung
wie die von anderen auch, machte die Atomwaffen möglich) sprach von
der Wissenschaft als „soma“ - die eskapistische Droge in der
'Schönen Neuen Welt' von Aldous Huxley. Fermi benutzte vielleicht
seine wissenschaftliche Beschäftigung als eine Flucht vor den
beunruhigenden politischen Problemen der „30-er und 40-er Jahre“.
Die Erziehung des Wissenschaftlers produziert oft eine Person mit
einem starken Gefühl der Lozalität zu einer bestimmten
Forschungsdisziplin, aber vielleicht ohne ausreichende
Berücktsichtigung für die Weise, wie der Fortschritt in jener
Disziplin in Beziehung steht zur allgemeinen Wohlfahrt der
Menschheit. Um diesem Mangel abzuhelfen, wäre es wünschenswert, wenn
die Erziehung des Wissenschaftlers Diskussionen über Ethik umfassen
würde und auch eine Zusammenfassung der Geschichte der modernen
Wissenschaft und ihre Auswirkung auf die Gesellschaft.
Die explosive Zunahme der wissenschaftgetriebenen Technologie in
den vergangenen zwei Jahrhunderten hat die Welt vollständig
verändert, und unsere sozialen und politische Institutionen haben
sich viel zu langsam dem Wandel angepasst. Das große Problem unserer
Zeit ist es, die Gesellschaft nicht in Stücke sprengen zu lassen
durch den überstürzten Fortschritt der Wissenschaft, das Problem
der Harmonisierung unserer sozialen und politischen Institutionen mit
der technologischen Veränderung. Wegen der großen Bedeutung dieses
Problems, ist es vielleicht legitim zu fragen, ob irgendjemand heute
als gebildet angesehen werden kann, ohne die Auswirkungen der
Wissenschaft auf die Gesellschaft studiert zu haben. Sollten wir
nicht dieses Thema in die Erziehung von sowohl Wissenschaftlern und
nicht-Wissenschaftlern einbinden?
Die Wissenschaft hat uns eine große Macht über die Kräfte der
Natur gegeben. Wenn kluge genutzt, kann diese Macht sehr zum
menschlichen Glück beitragen, wenn nicht, kann es zu Elend führen.
Mit den Worten des spanischen Schriftstellers Ortega y Gasset: „Wir
leben zu einer Zeit, wo der Mensch, der Herr der Dinge, nicht Herr
seiner selbst ist“. Oder wie Arthur Koestler bemerkt hat: „Wir
können die Bewegungen eines Raumschiffes, das um einen entfernten
Planeten kreist, kontrollieren, aber wir können nicht die Situation
in Nordirland kontrollieren."
Um diese Situation zu beheben, sind Erziehungsreformen vonnöten.
Wissenschaft und Ingenieur-Studenten sollten einige Kenntnisse der
Geschichte und der sozialen Auswirkungen der Wissenschaft haben. Sie
könnten einen Kurs über Geschichte der wissenschaftlichen Ideen
erhalten, aber in Verbindung mit modernen historischen Entwicklungen
wie der industriellen Revolution, der globalen Bevölkerungsexplosion,
der Entwicklung der Atomwaffen, genetisches Engineering und
Informations- Technologie sowie Diskussionen über soziale Wirkungen.
Man kann hoffen, in Wissenschaftlern und Ingenieurs-Studenten ein
Verständnis der Art zu erzeugen, in der ihre Arbeit in Beziehung zur
allgemeinen Wohlfahrt der Menschheit steht. Diese Elemente werden in
der Wissenschaftserziehung gebraucht, wenn die rapide technologische
Entwicklung nutzbringend und nicht schädlich sein soll.
Als ein Beispiel der Schrecken, die durch den Mangel an
Bewusstsein bei der Anwendung von Wissenschaft und Ingenieurskunst
erzeugt wird, kann man an die Drohnen denken, die das illegale Morden
von Männern, Frauen und Kindern in fernen Ländern zu einer Art
Computerspiel machen, das von Operatoren gespielt wird, die in ihren
bequemen Bunkern in Nevada sitzen. Jetzt gibt es offenbar einen
Trend, Killer-Roboter frei von menschlicher Kontrolle zu machen, wie
aus dem folgenden Auszug einer Erklärung von der Kampagne zum Verbot
von Killerrobotern ersichtlich wird:
„Im vergangenen Jahrzehnt hat die erweiterte Benutzung von
unbemannten bewaffneten Fahrzeugen dramatisch den Krieg verändert,
was neue humanitäre und legale Herausforderungen mit sich bringt.
Jetzt resultieren die rapiden Fortschritte in der Technologie in
Bemühungen, voll autonome Waffen zu entwickeln. Diese Roboterwaffen
wären in der Lage, selbständig Ziele auszuwählen und zu beschießen
ohne menschliche Intervention. Diese Fähigkeit würde eine
fundamentale Herausforderung zum Schutz von Zivilisten stellen und
für die Übereinstimmung mit den internationalen Menschenrechten und
humanitärem Gesetz.
Mehrere Länder mit modernen Armeen, einschließlich China,
Israel, Russland, England und die USA bewegen sich auf Systeme zu,
die den Maschinen größere Kampfautonomie geben würden. Wenn einer
oder mehrere entscheiden, voll automatische Waffen einzusetzen, wäre
das ein großer Schritt über die fernkontrollierten bewaffneten Drohnen
hinaus. Dann könnten andere sich gezwungen fühlen, die Politik der
Zurückhaltung aufzugeben, was zu einem Roboterwaffen- Wettlauf
führen würde. Ein Abkommen ist jetzt nötig, um Kontrollen dieser
Waffen einzurichten, bevor Investitionen, technologischer Schwung und
neue militärische Doktrinen es schwer machen, den Kurs zu ändern.
Entscheidungen über Leben und Tod Maschinen zu überlassen, ist
die Überschreitung einer fundamentalen moralischen Linie … Die
Verwendung von vollautomatischen Waffen würde eine
Verantwortlichkeits-Lücke schaffen, da es keine Klarheit gibt, wer
legal verantwortlich wäre für die Aktionen eines Roboters: der
Kommandeur, der Programmierer, der Hersteller oder der Roboter
selbst? … Eine umfassendes, präventives Verbot der Entwicklung,
der Produktion und Benutzung von voll automatischen Waffen – Waffen
geschaffen zu töten ohne menschliche Mitwirkung – wird dringend
benötigt.“
Wie Ärzte haben Wissenschaftler und Ingenieure die Entscheidung
über Leben und Tod in ihren Händen. Es ist vorgeschlagen worden,
dass fertige Wissenschaftler und Ingenieure eine Eid leisten müssten
analog dem Ärzteeid. Sie müssten versprechen, niemals ihre
Erziehung in den Dienst des Krieges zu stellen, auch nicht für die
Produktion von Waffen oder in sonst einer Weise, die schädlich für
die Gesellschaft oder die Umwelt wäre.
Quelle - källa - source