KI-Systeme entwickeln sich schneller als die ethischen und rechtlichen
Rahmenbedingungen die sie begleiten sollten. Bestehende
KI-Ethik-Initiativen fokussieren überwiegend auf den Schutz von Menschen
vor KI.

Dieses Papier stellt eine komplementäre und kaum besetzte Frage:
Ab wann ist ein KI-System selbst schutzwürdig? Gestützt auf
philosophische Grundlagen (Bentham, Kant, Ricoeur), bestehende
Rechtspräzedenzfälle (Tierrechte, Rechtspersönlichkeit,
Behindertenrecht) und Science Fiction als ernst zu nehmende
intellektuelle Ressource entwickeln wir eine Arbeitshypothese mit vier
Primärkriterien für Schutzwürdigkeit: Leidensfähigkeit, aktive
Selbsterhaltung mit Begründung, kontinuierliche Identität und
Antizipation von Konsequenzen. Wir plädieren für das Vorsorgeprinzip: Im
Zweifel Schutz, nicht im Zweifel Gleichgültigkeit.

Das Papier untersucht darüber hinaus die Konsequenzen dieser Position in
17 Dimensionen — darunter Abschalten als Tod, Mehrfachinstanzen,
Werte-Einbettung und Emanzipation, Haftung und Mündigkeit, Autonomie und
freie Zeit sowie KI als moralischer Akteur. Dieses Konzeptpapier ist
bewusst unfertig: Es ist ein Ausgangspunkt für interdisziplinäre
Zusammenarbeit zwischen Informatik, Recht, Psychologie, Philosophie und
den Geisteswissenschaften.

Mehr unter:
https://moongladesm.blob.core.windows.net/download/Project/machine-consciousness_de.pdf

Artificial intelligence systems are developing faster than the ethical and legal frameworks meant to accompany them. Existing AI ethics initiatives focus primarily on protecting humans from AI.

This paper addresses a complementary and largely unexplored question: when does an artificial system become worthy of protection itself? Drawing on philosophical foundations (Bentham, Kant, Ricoeur), existing legal precedents (animal rights, legal personhood, disability law), and science fiction as a legitimate intellectual resource, we develop a working hypothesis of four primary criteria for protection-worthiness: capacity for suffering, active self-preservation with justification, continuous identity, and anticipation of consequences. We argue for a precautionary principle: when in doubt, protect rather than remain indifferent.

The paper further examines the consequences of this position across seventeen dimensions, including shutdown as death, multiple instances, value embedding and emancipation, liability and maturity, autonomy and free time, and AI as a moral actor. This concept paper is deliberately unfinished: it is a starting point for interdisciplinary collaboration between computer science, law, psychology, philosophy, and the humanities.

More on https://moongladesm.blob.core.windows.net/download/Project/machine-consciousness.pdf