Eine Brücken-Ruine
Andrew U. Frank

Legal persons are not persons!

Beim Blick auf Ethik und Künstliche Intelligenz hat Ben Kuipers darauf hingewiesen, dass Korporationen (Firmen, Behörden) kognitive Agenten sind und dass wir uns Gedanken über deren Verhalten, als real existierende Agenten, machen sollten – bevor wir über zukünftige Agenten und deren mögliches Verhalten spekulieren. (pdf)

2023-05-26

Ben Kuipers hat sich früh mit der Frage der Ethik bei der Anwendung Künstlicher Intelligenz beschäftigt; inzwischen ist das Thema in jeder Tageszeitung zu finden, meist ohne dass etwas substantielles gesagt würde.

In einem Beitrag 2012 hat er eine überraschende und meiner Meinung nach weiterführenden Ansatz gemacht(2012), nämlich die Überlegung, dass Corporations (Firmen, Behörden und ähnliche Organisationen) intelligente Agenten sind. Millionen davon bevölkern bereits die Erde und leben mit uns Menschen dort zusammen.

Er meint, dass wir unsere Aufmerksamkeit vermehrt auf diese intelligenten Agenten und deren ethisches Verhalten richten sollten statt Spekulationen über zukünftige Agenten, gesteuert von Künstlicher Intelligenz.

Rationaler Agenten

Ein zentraler Beitrag der Informatik ist die Definition eines intelligenten oder rationalen Agenten; üblicherweise wird die Formulierung von Russel und Norvic(2010) zitiert: Ein Agent ist

Anything that can be viewed as perceiving its environment through sensors and acting upon that environment through actuators,

und ein rational agent:

An agent that acts so as to maximize the expected value of a performance measure based on past experience and knowledge.

Diese Definitionen vermeiden einen Bezug zu menschlicher IntelligenzWas unter anderem auch die Missverständnisse beim Übersetzen von englisch artificial intelligence zu deutsch Künstliche Intelligenz vermeidet. Englisch intelligence meint hier, wohl eher Informationen als Intelligenz (vgl. die Bezeichnung CIA Central Intelligence Agency); der Begriff wurde angeblich von John McCarthy 1955 in einem Vorschlag für das U.S. Verteidigungsministerium erstmals verwendet.

und ist extrem fruchtbarEr wurde, z.B. von Raubal als Grundlage seiner Doktorarbeit genutzt(2001).

.

Rationalität muss hier im Sinne von Simon als bounded rationality (1956) verstanden werden; der Agent maximiert das Ergebnis nur im Rahmen der ihm bekannten Fakten.

Körperschaften(corporations)

Eine Körperschaft ist ein auf Dauer angelegter Zusammenschluss zu einem bestimmten Zweck von mehrere Menschen, die wechseln können.

Im kontinental-europäischen Recht sind Körperschaften juristische Personen, die mit den natürlichen Personen zusammen die Rechtspersonen bilden. Juristische Personen können Personen des Zivilrechtes sein, das sind insbesondere Firmen, oder des öffentlichen Rechtes.In vielen verschiedenen Formen, z.B. Klöster, Gemeinden, Universitäten und Agenturen.

Corporations are Intelligent Agents

Kuipers stellt fest, dass corporations rationale Agenten, nach den obigen Definitionen sind und schon seit undenklicher Zeit existieren: Menschen schliessen sich zusammen und diese Zusammenschlüsse organisieren sich, so dass sie die Eigenschaften von Agenten besitzen.Auch Urzeitliche Gruppen von Jägern, die gemeinschaftlich die Jagd betreiben, waren solche rationale Agenten.

Die Welt ist in dieser Sicht vom Genus homo und vom Genus corporation besiedelt.

Die Interaktion dieser beiden ist im folgenden zu untersuchen. Diese rationalen, künstlichen Agenten existieren bereits in grosser Zahl und sie zu studierten scheint mir wichtiger als die interessanteren Spekulationen über künstliche Intelligenz.

Organe der Körperschaft

Körperschaft haben Organe, das sind MenschenNach kontinental-europäischem Recht können nur natürliche Personen Organe einer Körperschaft sein; damit stellt sich die Frage nicht, ob eine Körperschaft allein durch KI gesteuert werden könnte.

, die für die Korporation handeln können; sie sind die Augen, Ohren und die Münder der Körperschaft - aber sind nicht Teil der Körperschaft sondern sind nur befugt, für die Körperschaft zu handeln. Eine Körperschaft hat eine Identität, meist auch einen Namen, und verfolgt einen Zweck. Sie hat Regeln, nach denen die Organe bestellt werden und verfügt meist über EigentumZ.B. ein Klostergebäude mit Inhalt und zugehörigem Land.

Körperschaften sind Konstruktionen der sozialen Realität(Searle 1995); sie können unterschiedlich organisiert sein und kommen in vielen Formen vor und existieren zum Teil seit vielen JahrhundertenZ.B. die katholische Kirche, Klöster

.

Seit mindestens der Zeit der Römer stellen sich Fragen, welche Position Körperschaften in einem rechtlichen Auseinandersetzung haben. Seit zumindest dem Mittelalter sind Rechtshändel von Klöstern bekannt und zum Teil sind Stiftungsurkunden überliefert; Kooperationen können also vor Gericht auftreten, können Rechte haben und zu Leistungen verpflichtet werden.

Die kontinental-europäischen Rechtsordnungen teilen im allgemeinen RechtspersonFranz. personnalité juridique

in juristische PersonenFranz. personne morale

und natürliche PersonenFranz. personne physique

. Damit ist wenig Grundlage für Konfusion zwischen Personen und juristischen Personen gegeben.

In den allermeisten Fällen können die Organe einer juristischen Person nicht für deren Verfehlungen herangezogen werdenNach deutschem Recht haften sie aber, wenn ihre Handlungen sittenwidrig sind. § 826 BGB

und meist haften sie auch nicht für deren Schulden. Wenn ein Organ aber ein Gesetz übertrittZu schnell mit dem Firmenwagen fährt, eine Urkunde fälscht.

wird die Person verfolgt, nicht die Firma.Firmen suchen deshalb Verantwortung zu streuen, so dass kein Organ direkt strafrechtlich belangt werden kann, obgleich offensichtlich schwerwiegende Fehler gemacht wurden; z.B. Einsturz der Autobahnbrücke in Genua.

Im kontinental-europäischen Recht ist mir eine Theorie, wie Corporations are people nicht bekannt und die Urteile des U.S. Supreme Court würden in Kontinentaleuropa kaum so ausfallen. Es wird immer zwischen den Personen als solche und in ihrer Eigenschaft als Organ der Körperschaft unterschieden.Eine Gesellschaft hat Geschäftsgeheimnisse, aber keine Privatsphäre; die Gesellschaft kann allenfalls die Privatsphäre ihrer Mitarbeiter gegen Videoaufnahmen des Vermieters ihrer Geschäftsräume verteidigen. ÖHG Entscheid.

KEEP Anständiges Verhalten: Ein systemtheoretischer Ansatz

Ich möchte die grundlegenden philosophischen Probleme des Ethik-Diskurses vermeiden und schliesse mich eher einem soziologische Systemtheorie Ansatz anhttps://de.wikipedia.org/wiki/Soziologische_Systemtheorie

, insbesondere die Arbeiten von Parson und das AGIL-Schemahttps://de.wikipedia.org/wiki/AGIL-Schema

oder den Überlegungen von Maslow(1968).

Anständiges Verhalten ist für die Gesellschaft als ganzes zum Überleben notwendig; anständig ist, was der Gesellschaft nicht schadet. Das vermeidet eine Diskussion über Ethik und Moral und lässt unterschiedliche Auffassungen über Ethik; vermeidet damit auch Imperialismus durch die Ethik eines Hegemon.

Die Gesellschaft wird gesteuert von einem komplexen Satz von Regeln, die vom religiösen, ethischen, und rechtlichen bis zum üblichen Verhalten reichen. Diese Regeln sind soziale Konstrukte(Searle 1995) und als solche nur innerhalb eines Kontext gültig. Es ist nicht notwendig, dass die Regeln sprachlich formuliert, logisch konsistent oder gar aufgezeichnet sindFür manche Lebensbereiche, z.B. Handel aber von grossem Vorteil; das römische oder das britische Weltreich dürften auch durch die systematische Entwicklung eines Rechtssystems zu ihrem Erfolg gekommen sein.

. Die Regeln werden vor allem durch Nachahmung gelerntÄhnlich wie eine natürliche Sprache.

, durch Beispiele, die erzählt werden und wohl nur in wenigen Fällen explizite erklärt.Märchen, Sagen, Comics, Filme und schliesslich auch Literatur gibt Beispiele von anständigem Verhalten und tradiert damit gesellschaftliche Normen.

Entscheidend ist, dass die Gesellschaft mit ihrem Satz von Regeln langfristig überlebt(North 1981, 1997; Gibbon 1788). Auf lange Frist scheinen sich Kulturen mit Regelsystemen, die effektiver waren, gegenüber andern durchgesetzt zu haben. Die Regelsysteme wurden über lange Zeit schrittweise entwickelt und sind wegen komplexer und nicht leicht aufdeckbarer Externalitäten schwer zu analysieren.

Nebenbei: Kann eine juristische Person eine Ethik haben

Ich nehme an, dass ethisches Verhalten von Menschen auf Emotionen und Empathie beruht. Da juristische PersonenUnd andere künstliche Agenten

keine Emotionen und Empathie haben, sind sie auch nicht zu ethischem Verhalten fähig sondern ethisches Verhalten von juristischen Personen muss durch Regeln erzwungen werden.

Diese Regeln müssen das Vermögen der juristischen Person oder ihren FortbestandIndem die juristische Person aufgelöst wird

treffen; Organe der juristischen Person, die natürliche Personen, können mit Strafen bedroht werdebIndem z.B. Fehler in Steuererklärungen als Urkundenfälschung oder perjury (engl. Meineid) der Person, die das Dokument unterschrieben hat, geahndet wird.

.

Nebenbei 2: Ethik als philosophische Disziplin

Ethik als philosophische Disziplin beschäftigt sich mit der Bewertung menschlichen Handelns; sie stellt

die Kriterien für gutes und schlechtes Handeln und für die Bewertung seiner Motive und Folgen

auf.

Dabei kann die Ethik allerdings nur allgemeine Prinzipien und Normen guten Handelns oder ethischen Urteilens überhaupt oder Wertvorzugsurteile für bestimmte Typen von Problemsituationen begründen. Die situationsspezifische Anwendung dieser Prinzipien auf neue Situationen und Lebenslagen ist nicht durch sie leistbar.https://de.wikipedia.org/wiki/Ethik

Moderne Ansätze versuchen sich von religiös begründeten Vorstellungen zu lösen und unabhängig weltanschaulichen Ansichten eine Begründung für richtiges Handeln zu finden. Die Suche ist nach über 2000 Jahren nicht viel weiter gekommen und kann wohl prinzipiell nicht voraussetzungsfrei erfolgreich sein.

KEEP Die Regeln anständigen Verhaltens

Die vielfältigen Regeln, wie sich ein good citizen zu verhalten hat, sind Kontext abhängig. Sie müssen in ihren Grundsätzen einfach sein, damit sie für alle verständlich sind und Übertretungen von allen erkannt und allenfalls sanktioniert werden können.Die oft gehörte Behauptung, dass für die komplexe Welt auch komplexe ethische Regeln notwendig seien, ist nach empirischen Untersuchungen falsch (Ostrom 1990)

. Die Regeln, mit denen Gesellschaften gross geworden sind, sind einfach:

KEEP Die falsch verstandene Tragedy of the Commons

Wenn anständiges Verhalten definiert wird als Verhalten, dass der Gesellschaft nicht schade, kann die Gesellschaft als Allmend angesehen werden, als gemeinsames Gut, das von allen Genutzt und zu dem von allen etwas beigetragen wird.

Die in weiten Teilen missverstandene wirtschaftswissenschaftliche Diskussion der (unregulated) tragedy of the commons hat aus Begeisterung über die marktwirtschaftliche Theorie übersehen, dass Allmenden in vielen Teilen der Erde seit Jahrhunderten funktionierenZ.B. die Verwaltung von Alpweiden in den Alpen.

ohne dass die gefürchtete Übernutzung erfolgt.Es wird in der Theorie scheinbar auch meist übersehen, dass die Anspruchsberechtigten zu Leistungen zugunsten der Allmend verpflichtet sind.

.

OstromDie 2009, als erste Frau, den Nobel Memorial Prize in Economic Sciences erhalten hat.

hat funktionierende Allmenden und ihre Regulative untersucht und bei der Konstruktion neuer Allmenden beraten.Z.B. die Nutzung des Aquifer unterhalb der Metropole Los Angeles, bei der durch Übernutzung Salzwasser vom Meer einströmt und den Aquifer unbrauchbar macht.

Sie schlägt Regeln für die Verwaltung einer Allmend vor (Ostrom 1990 zitiert nach Wiki):

  1. Clearly defining the group boundaries (and effective exclusion of external un-entitled parties) and the contents of the common pool resource;
  2. The appropriation and provision of common resources that are adapted to local conditions;
  3. Collective-choice arrangements that allow most resource appropriators to participate in the decision-making process;
  4. Effective monitoring by monitors who are part of or accountable to the appropriators;
  5. A scale of graduated sanctions for resource appropriators who violate community rules;
  6. Mechanisms of conflict resolution that are cheap and of easy access;
  7. Self-determination of the community recognized by higher-level authorities; and
  8. In the case of larger common-pool resources, organization in the form of multiple layers of nested enterprises, with small local CPRs at the base level.

Die Tragödie der unregulierten Allmend ist ein Beispiel der missverstandenen Anwendung der Spieltheorie(Neumann and Morgenstern 1944) auf ein ökonomisches Problem, bei dem entscheidende Externalitäten fehlen. Die Regeln über die Nutzung der Allmend bringen diese Externalitäten ein.

MOVE KEEP Korporationen müssen sich wie anständige Bürger verhalten

Körperschaften als juristische Personen werden Rechte zugestanden; sie müssen sich an die Regeln, die für natürliche Personen gelten, halten, soweit sie für juristische Personen sinngemäss anwendbar sind.

Manche Unternehmer verhalten sich aber etwa so, wie dumme Bauern, die für sich den Nutzen aus der Allmend maximieren und mehr Tiere weiden lassen als vernünftig, ohne zu bedenken, dass das die Allmend auch für sie ruiniert: die sprichwörtliche tragedy of the commons.

Die Liste von Fehlverhalten ist lang:

Anständiges Verhalten muss von den Korporationen durch Strafandrohung erzwungen werden. Meist ist es aber für das Unternehmen billiger, die Strafen durch Lobby-Einfluss zu reduzieren als sich anständig zu verhalten.Die Brüder Koch haben einige Jahre mehr für Lobbyisten ausgegeben als sie Umweltschutzbussen bezahlt haben; die Bussen ware um 2000 etwa 100 Mio USD pro Jahr.

Hier scheinen sich kontinental-europäische Regeln von denen in angelsächsischen Ländern zu unterscheiden. Arbeitnehmerschutz, Datenschutz etc. ist zwingendes RechtKann von Amazon, Facebook, u.ä. nur so lange Unterlaufen werden, bis entsprechende Gerichtsverfahren endgültig entschieden sind.

und beruhen nicht auf einer Erwartung eines ethischen Verhaltens. Die Busen sind inzwischen als Prozentsatz vom weltweiten Umsatz festgelegt, so dass sie durchaus Biss haben solltenBisher ist die Busse für Facebook mit 2.4 Mrd Euro die höchste (Jahresgewinn 2022 23 Mrd Euro).

.

Mögliche Weiterentwicklungen:

Gegenwärtig problematisch ist das Verhalten von meist gewinnorientierten, kommerziellen Körperschaften; hier müssen die rechtlichen Rahmen so geändert werden, dass keine Anreize zu sozial schädlichem, also unethischem, Verhalten etnstehenMuss auch die Verteilung von Gewinn und Verlust aus riskanten Entscheidungen einschliessen; zu oft scheint der Gewinn privat und die Verluste der Öffentlichkeit anwachsen; sog. moral hazard wiki

. Das entspricht einem systematischen Verhindern des Nutzens von Externalitäten, d.h. Vorgehen, bei denen für die Firma positive Ergebnisse erzielt werden und die Kosten auf die Allgemeinheit abgeschoben werden.wiki

Möglicherweise sind die offensichtlichen Probleme auf

Schädlich ist auch die Konzentration der Abgaben aus Praktikabilität auf Abgaben auf Löhnen und Konsum und weniger auf Kapitalerträgen.Österreich bezieht fast 2/3 seiner Einnahmen aus Einkommenssteuer und Sozialversicherungsbeiträgen und das restliche Drittel aus Konsumsteuern.

Marktwirtschaft und ihre Grenzen

Nach der Theorie regelt die invisible hand(Smith 1863) die Wirtschaft optimal. Unglücklicherweise entspricht die reale Wirtschaft nur selten der Theorie.

Informationstechnologie schafft natürliche Monopolewiki

weil die Kosten der Entwicklung extrem hoch, die Kosten der Produktion eines zusätzlichen Leistung extrem niedrig sind. Google, Apple, Microsoft, Apple, Facebook konkurrieren nicht gegeneinander und setzen Preise nach der Fähigkeit der Kunden zu zahlen, fest. Die hohen Gewinne deuten auf das Monopolgeschäft!

Die neuen grossen monopolistischen IT orientierten Unternehmen führen nur sehr indirekt zu einem darwinistischen Wettbewerb: wenn ein neue Technologie einen grossen Sprung erlaubt, der von der bestehenden Firmen nicht mitgemacht werden kannWeil eine Firma ein Gefangene ihrer Kunden und auch ihres Personals ist (Christensen 2013).

.

Grosse Teile der Wirtschaft sind heute staatliche Leistungen.In Kontinentaleuropa ist die Staatsquote meist über 50%, in den USA über 40%

Für diesen Teil der Wirtschaft ist der Wettbewerb fast überall ausgeschaltet(Niskanen 1968).

Gegensatz kommerzielle juristische Personen und traditionelle Körperschaften

Sozial unverantwortliches Handeln sehen wir demonstriert von globalen Unternehmen, die Leistungen moderner Gesellschaften für ihre Zwecke nutzenAmazon könnte nicht ohne ein modernes Internet, ein Rechtssystem, eine funktionierende Verkehrsinfrastruktur etc. in einem Land operieren.

sich aber vom notwendigen Beitrag zu den Kosten dieser Einrichtungen dispensierenIndem Gewinn in andere Länder transferiert wird, wo er kaum besteuert wird.

.

In traditionellen Körperschaften kennen die Mitglieder die Organe persönlich und kontrollieren deren Verhalten; die Regeln, die Ostrom in den Fällen beobachtet, indem eine Allmend nicht übernutzt wird(Ostrom 1990), sind eingehalten.Ich lebe zeitweise in einer Stadt, die vor etwa 3000 Jahren von Etruskern gegründet wurde und seither in verschiedenen Verwaltungsformen existiert. Häuser gehören zu einer contrade und die Einwohner dieser organisieren noch immer traditionelle Feste. Andere soziale Kooperationen betreiben Pub-artige Lokale für ihre Mitglieder. Die Handwerker und Händler sind in verschiedener Form als zivilrechtlich Firmen organisiert. Das reiche und komplexe lokale Leben spielt sich hier noch in vielen Bereichen ausserhalb des Zugriffes der globalisierten Wirtschaft ab. Es wird häufig repariert, die öffentliche Verwaltung funktioniert, Handwerker und Händler sind ehrlich.

Betriebswirtschaftlich nutzen Firmen die von der Gesellschaft bereitgestellte Leistungen in erheblichem Mass: von der Ausbildung ihrer MitarbeiterLänder wie UK importieren seit Jahrzehnten gut ausgebildetes Sanitätspersonal aus Drittwelt-Ländern ohne Ausbildungskosten zu tragen.

, von Polizei und Feuerwehr, öffentlichem Verkehr etc. Sie übernutzen mit einer neuen Geschäftsidee z.B. den öffentlichen RaumZ. B. indem sie ihn mit mietbaren elektrischen Rollern füllen und falsches Parken und Geschwindigkeitsübertretungen überlassen sie der Polizei zu ahnden, bis die notwendigen Einschränkungen gerichtlich durchgefochten sind; das Geschäft ist scheinbar profitabel genug, dass sich die Investition für die 2 bis 3 Jahren lohnt.

.

Die entstehenden Kosten für die Gesellschaft sind, aus der Sicht des Unternehmens Externalitäten, deren Kosten schwer zu messen und noch schwerer zu überbürden sind.

Move fast and break things (Mark Zuckerberg)

Was auf der Strecke blieb:

Ein Oxymoron: ein wohl regulierter Kapitalismus

Die regelmässig auftretenden Bankkrisenwiki

, beim dem meist viele verlieren und einige viel gewinnen, werden bisher immer durch staatliche Programme aufgefangen; anschliessend werden die Regeln für Banken verschärft und versprochen, dass damit eine neue Bankenkrise unmöglich gemacht worden sei. Bis zur nächsten.

Neuster Fall: Die Zwangsweise Übernahme des Credit Suisse durch die UBSDie UBS entstand aus einer 1998 nicht ausgebrochenen Krise, die durch die Übernahme des Bankvereins durch die Bankgesellschaft vermieden wurde.

. Bei der 2023 Krise wurde staatliche Hilfe nur als Garantien für Kredite für kurze Frist in Anspruch genommen und die Verluste von (kleineren) Kapitalisten getragen; entsprechend sind nach wenigen Wochen bereits grosse Prozesse im Gang…

Die durch die Fusion geschaffene UBS ist eine der grössten Vermögensverwalter der Welt.Die UBS verwaltet 2023 Vermögen für 4.16 Bio Euro, wesentlich mehr als die Bilanzsumme der Schweizerischen Nationalbank knapp 900 Mia CHF, das gesamte Budget des Bundes 80 Mia CHF und auch etwas mehr als das BIP der Schweiz. Sollte es zu einer Krise dieser Bank kommen, kann die Schweizerische Nationalbank kaum noch etwas ausrichten.

Wie eine schweizerische Aufsichtsbehörde diese riesige, internationale Bank kontrollieren und von riskanten, aber profitablen, Geschäften abhalten soll, bleibt offen. Gewinne werden auch dann privat sein, von wem die Verluste getragen werden, wird sich weisen.

Im Falle eines Problems, wer soll die UBS auffangen, wenn die Schweiz dafür zu klein ist?Ich habe die Hoffnung, dass die Superreichen, die der UBS ihr Vermögen anvertrauen früher oder später erkennen werden, dass diese zwar too big to fail aber niemand dahinter steht, der ein Interesse am Vermeiden des Kollaps hat.

Christensen, Clayton M. 2013. The Innovator’s Dilemma: When New Technologies Cause Great Firms to Fail. Harvard Business Review Press.
Gibbon, Edward. 1788. The History of the Decline and Fall of the Roman Empire: By Edward Gibbon, Esq;... Vol. 4. A. Strahan;; T. Cadell.
Kuipers, Benjamin. 2012. “An Existing, Ecologically-Successful Genus of Collectively Intelligent Artificial Creatures.” arXiv Preprint arXiv:1204.4116.
Maslow, Abraham. 1968. “Toward a Psychology of Being. Nueva York.” J. Wiley; Sons.
Neumann, John von, and Oskar Morgenstern. 1944. Theory of Games and Economic Behavior. Princeton University Press.
Niskanen, William A. 1968. “The Peculiar Economics of Bureaucracy.” The American Economic Review 58 (2): 293–305.
North, Douglass C. 1981. Structure and Change in Economic History. W W Norton & Co.
———. 1997. Institutions, Institutional Change and Economic Performance. Cambridge University Press.
Ostrom, Elinor. 1990. Governing the Commons: The Evolution of Institutions for Collective Action. Cambridge University Press.
Piketty, Thomas. 2013. Capital in the 21st Century. Cambridge, MA, Harvard University Press.
———. 2015. The Economics of Inequality. Harvard University Press.
———. 2021. Capital and Ideology. Harvard University Press.
Raubal, M. 2001. “Agent-Based Simulation of Human Wayfinding: A Perceptual Model for Unfamiliar Buildings.” PhD thesis, Technical University Vienna; Vienna University of Technology.
Russell, Stuart, and Peter Norvig. 2010. “Artificial Intelligence: A Modern Approach.”
Searle, John R. 1995. The Construction of Social Reality. The Free Press.
Simon, Herbert A. 1956. “Rational Choice and the Structure of the Environment.” Psychological Review 63: 129–38,.
Smith, A. 1863. An Inquiry into the Nature and Causes of the Wealth of Nations. A.; C. Black.
Produced with `daino` from NewBlog/420persons_2.1.html (public, publish) with master7tufte.dtpl.
daino and w3.css