KI, Evolution und Verantwortung: Warum der evolutionäre Humanismus im Silicon-Valley-Diskurs fehlt und der Mensch und KI eine wechselnd zentrale Rolle spielen sollten.
Kaum ein Thema entzündet derzeit so leidenschaftliche Debatten wie die Zukunft der Künstlichen Intelligenz. Im Silicon Valley begegnet man einer bemerkenswerten Polarisierung: Auf der einen Seite techno-utopische Visionen, auf der anderen Seite apokalyptische Warnungen. Diskussionen über Mensch und KI nehmen verschiedene gesellschaftliche Aspekte in den Fokus.
Zwischen Transhumanismus, Singularitätsglauben und der Angst vor einer alles vernichtenden Superintelligenz wird der Mensch selbst oft zur Randfigur degradiert – als vorübergehender Zwischenzustand auf dem Weg zur maschinellen Perfektion oder als Spielball unkontrollierbarer Algorithmen.
Seit über einem Jahr engagiere ich mich innerhalb der Integrata-Stiftung als Fachbeirat. Und das mit gutem Grund. Das Menschenbild der Integrata-Stiftung, geprägt vom evolutionären Humanismus, setzt hier einen Kontrapunkt gegenüber extremen Positionen, die immer schon in der Menschheitsgeschichte dazu neigten, irgendwann ihre totalitäre Seite zu zeigen. Dabei ist der richtige Weg oft eher ein Mittelweg. Die Beziehung zwischen Mensch und KI erfordert ein tiefes Verständnis unserer Werte und möglicher Konfliktfelder sowie der sich aus KI ergebenen Chancen.
Wir sollten uns daran erinnern, dass wir keine reinen Schöpfer oder Opfer sind, sondern ein biologisch verwurzeltes, lernfähiges Wesen, das Technik, Kultur und Werte in einem offenen Prozess weiterentwickelt. Dieses Verständnis kann helfen, den Diskurs über KI wieder auf ein solides Fundament zu stellen.
In dieser Debatte ist es entscheidend, dass die Wechselwirkungen zwischen Mensch und KI betrachtet werden, um die Verantwortung, die wir als Gesellschaft tragen, zu verstehen.
Die Interaktion zwischen Mensch und KI
Drei Strömungen prägen den Diskurs – aber blenden den Menschen aus. Bevor wir über die Zukunft sprechen, sollten wir aber die Wechselwirkung von Mensch und KI analysieren, sonst sind wir im Grunde Geisterfahrer auf der Strasse des technologischen Fortschritts.
1. Techno-Utopismus und Solutionismus. Vordenker wie Ray Kurzweil oder Peter Diamandis verkünden, KI werde unweigerlich Wohlstand, Gerechtigkeit und ein Ende aller Knappheit bringen. Technik gilt als Allheilmittel, Fortschritt wird als lineare Erfolgsgeschichte erzählt. Risiken erscheinen höchstens als Nebeneffekt, den man später mit neuen Technologien repariert.
2. Transhumanismus und Singularität. Transhumanisten träumen von der Überwindung menschlicher Grenzen: Verschmelzung mit Maschinen, Upload des Bewusstseins, ewiges Leben. Singularitäts-Theoretiker erwarten den Moment, in dem KI jede menschliche Intelligenz übertrifft. Dahinter steht die Annahme, der Mensch sei ein unzureichendes Provisorium, das seine biologische Natur überwinden müsse.
Max More hat das Konzept des Transhumanismus und der Singularität in diesem Video treffend erklärt.
3. Longtermism und Existential Risk. Nick Bostrom und andere mahnen vor dem Untergang: Superintelligente KI könnte die Menschheit auslöschen, wenn wir ihre Ziele nicht rechtzeitig „alignen“. Diese Perspektive rückt Risiken in den Vordergrund, die teils Jahrhunderte entfernt liegen, während gesellschaftliche Nebenwirkungen im Hier und Jetzt in den Hintergrund treten.
Menschliche Kultur und Biologie sind nicht auslöschbar
All diese Ansätze teilen eine Tendenz: Sie unterschätzen, dass wir nicht nur rationale Planer oder technische Rohstoffe sind. Sie vernachlässigen die evolutionäre Tatsache, dass Emotionen, soziale Muster und kulturelle Werte tief in unserem Verhalten verankert bleiben – auch in einer hochgradig technologisierten Welt.
Hier liegt die Stärke des evolutionären Humanismus: Er erkennt den Menschen als ein Wesen, das sich in einer dynamischen Rückkopplung aus biologischen Antrieben, kultureller Entwicklung und technischen Werkzeugen formt. Kein Aspekt verschwindet, keiner dominiert dauerhaft. Wir sind weder nur Getriebene unserer Gene noch beliebig programmierbar.
Verantwortung bedeutet mehr als Kontrollillusion oder Heilsversprechen
Verantwortung im Umgang mit Mensch und KI ist unerlässlich für eine gerechte Gesellschaft. Ein nicht techno-zentrisches, sondern humanistisches Menschenbild lehrt, KI nicht als magischen Heilsbringer oder existenzielles Schreckgespenst zu überhöhen. Es plädiert für ein balanciertes Verständnis:
- Technik ist immer Teil eines kulturellen und biologischen Ko-Evolutionsprozesses.
- Wir müssen KI gestalten, statt sie zu verklären oder zu verteufeln.
- Wir tragen Verantwortung für das neue „Große Ganze“, das daraus entsteht – James Lovelock hat diesen Gedanken mit Gaia treffend beschrieben.
Wer KI einführt, muss sich fragen, wie sie menschliches Verhalten prägt – nicht nur, welche wirtschaftlichen Effizienzgewinne sie verspricht. Wer ethische Leitlinien entwickelt, sollte neben Fairness und Transparenz auch berücksichtigen, dass tief verankerte emotionale Muster wie Angst, Dominanzstreben oder Solidarität immer Teil des Systems bleiben.
Etablieren Sie Verantwortung als Führungsaufgabe
Die ethischen Herausforderungen, die Mensch und KI betreffen, sind eine der zentralen Herausforderungen für ethisch begründete Führung. Als Führungskraft sollten Sie also folgende Reflexion durchführen:
1. Hinterfragen Sie Ihr Menschenbild. Jedes KI-Projekt transportiert unausgesprochen ein Bild vom Menschen. Gehen Sie davon aus, dass Menschen berechenbare Nutzer sind? Oder anerkennen Sie, dass Emotionen, soziale Zugehörigkeit und kulturelle Prägung maßgeblich bleiben? Teams sollten sich in Workshops bewusst machen, wie diese Annahmen Design und Kommunikation beeinflussen.
2. Verstehen Sie Ethik als lernenden Prozess. Ethik-Checklisten bieten Orientierung, aber sie ersetzen keine kontinuierliche Auseinandersetzung. Werte ändern sich, Kontexte verschieben sich, Erwartungen wachsen. Richten Sie Ethik-Boards ein, die regelmäßig prüfen, wie Ihre Systeme Kultur, Verhalten und Machtverhältnisse verändern.
3. Machen Sie emotionale Effekte sichtbar. KI-Systeme erzeugen Vertrauen oder Misstrauen – oft unbewusst. Ein faktisch faires HR-Tool kann Ohnmacht auslösen, wenn es intransparent wirkt. Nutzen Sie Interviews und Beobachtungen, um diese Dynamiken zu erkennen und zu adressieren.
4. Entwickeln Sie Szenarien über den Quartalsblick hinaus. Die meisten Strategien enden beim Budgetzyklus. Ein evolutionärer Blick fragt weiter: Welche gesellschaftlichen Nebenwirkungen erzeugt ein System in zehn Jahren? Welche Abhängigkeiten entstehen? Szenariotechnik und externe Perspektiven helfen, diese Fragen konkret zu machen.
5. Stärken Sie ethische Lernfähigkeit im Team. Ethik ist keine Spezialdisziplin. Führungskräfte, Produktmanager und Entwickler brauchen ein gemeinsames Grundverständnis. Etablieren Sie Ethics Sprints, bieten Sie Trainings an, und fördern Sie eine Kultur, in der Widersprüche und Fragen offen diskutiert werden.
6. Verankern Sie Verantwortung in Ihrer Marke. Je sichtbarer Ihre KI-Lösungen werden, desto wichtiger wird die Frage: Wofür stehen Sie? Kommunizieren Sie auch schwierige Dilemmata transparent. Verantwortung ist kein Risiko, sondern ein Wertversprechen.
Technologie gestalten heißt Gesellschaft gestalten
Ein evolutionäres, humanistisches Verständnis von KI bedeutet nicht, dass Technologie weniger ambitioniert sein muss. Im Gegenteil: Es heißt, dass wir ihre Entwicklung in einen größeren Kontext stellen – mit Respekt vor der biologischen Verwurzelung des Menschen, der kulturellen Vielfalt unserer Gesellschaften und der Verantwortung gegenüber anderen Lebensformen.
Die Debatte über Mensch und KI ist nicht nur technologischer, sondern auch ethischer Natur. Wer KI baut, baut immer auch Gesellschaft mit. Deshalb sollte Verantwortung nicht am Ende des Lastenhefts stehen, sondern den Anfang markieren.
Quellen und Links
-
- Ray Kurzweil – The Singularity Is Near
- Nick Bostrom – Superintelligence
- Max More – Transhumanism and the Singularity, https://youtu.be/1xIQgBXw9-o?si=B25dBDbydYSigjwd
- Kate Crawford – Atlas of AI
- James Lovelock – Gaia
- Integrata-Stiftung
- VEHMEIER, Thomas (2025), Mensch bleibt Mensch – Wie KI unsere Arbeit erweitert statt ersetzt, https://www.vehmeier.com/mensch-bleibt-mensch-wie-ki-unsere-arbeit-erweitert-statt-ersetzt/