Künstliche Intelligenz im Vorstand der Aktiengesellschaft – KI-Assistent oder KI-Vorstand?

Der Vorstand einer Aktiengesellschaft ist Leitungs- und vor allem Entscheidungsorgan. Immer komplexere Unternehmensstrukturen belasten diesen zunehmend mit Verwaltungsaufgaben, insbesondere dem Datamanagement. Künstliche Intelligenz (KI) ist dem Menschen bei der Verwaltung und der Analyse von Daten heute bereits weit überlegen. Setzt der Vorstand einer Aktiengesellschaft KI gezielt ein, kann sie diesen bei seiner Aufgabenerfüllung entlasten – und er kann sich intensiver seiner schöpferisch-kreativen Leitungsaufgabe als Entscheidungsorgan widmen. Die KI-assistierte-Aktiengesellschaft erfährt dadurch potenziell einen Wettbewerbsvorteil gegenüber „analogen“ Aktiengesellschaften.

Ein Artikel von Claudio Calabro

Aktiengesellschaften sind unternehmerisch heute oftmals komplexer als noch vor einigen Jahrzehnten. Der Vorstand wird dadurch teils mit Verwaltungsaufwand belastet, der seinen Leitungsentscheidungen entgegensteht. Er sieht sich heute mit unzähligen internen und externen Informationen und Datenkonvoluten konfrontiert, seine Mitglieder müssen umfassenden Berichtspflichten nachkommen und er soll zugleich das Marktgeschehen beobachten. Zur Erledigung dieser Aufgaben müssen relevante Informationen erst zusammengetragen, sortiert und analysiert werden, was eine umfangreiche Planung, Koordination und Überwachung voraussetzt. Neben den zahlreichen Verwaltungsaufgaben soll der Vorstand zudem kreativ-schöpferisch geprägte Aufgaben als Entscheidungs- und Leitungsorgan wahrnehmen.

Künstliche Intelligenz – Ein Wettbewerbsvorteil für die Aktiengesellschaft

Aufgrund des hohen Verwaltungs- und Geschäftsführungsaufwands in Verbindung mit einer hoher Kapitalausstattung ist die Tätigkeit des Vorstands ein prädestinierter Einsatzbereich für KI. Gelingt es, den Vorstand durch KI effektiv zu entlasten, kann er seinen Leitungsaufgaben innovativer begegnen und qualitativ hochwertigere unternehmerische Entscheidungen treffen. Künstliche Intelligenz kann etwa bei Fragestellungen der Markbeobachtung Hilfestellung geben: „Welches Softwareunternehmen hat sich innerhalb der letzten Monate unter der Berücksichtigung von […] am stärksten positiv entwickelt?“ oder „Welche Branchen haben der Inflation seit 2022 am stärksten widerstanden?“.

Die sich aus dem Einsatz von KI insoweit ergebenden Wettbewerbsvorteile haben sich bereits herumgesprochen. Lag der Umsatz von KI-Unternehmensanwendungen 2016 noch bei 0,35 Mrd. US-Dollar wird für 2025 hingegen bereits ein Umsatz von 31,2 Mrd. USD-Dollar prognostiziert.

Keine Substitution des Vorstands durch KI

Die Einleitung zu diesem Artikel hat es bereits erahnen lassen: Der KI-Einsatz soll im Vorstand der Aktiengesellschaft in Form der bloßen Assistenz erfolgen. Sie kann den Vorstand der Aktiengesellschaft mittelfristig nicht substituieren. Dies ist de lege lata damit begründet, dass KI aufgrund des § 76 Abs. 3 Satz 1 AktG – der nur natürliche Personen im Vorstand gestattet – als Vorstandsmitglied bereits ausgeschlossen ist. In Zukunft wäre eine Änderung der Bestimmung nur denkbar, wenn der Schutzzweck, den der Gesetzgeber seinerzeit für die Beschränkung auf natürliche Personen im Blick hatte, hinsichtlich des Ausschlusses von KI nicht verfangen würde. Davon ist jedoch derzeit nicht auszugehen:

Der Substitution des Vorstands durch KI stehen gewichtige aktienrechtliche und vorstandspraktische Gegebenheiten entgegen, die KI heute nicht erfüllen kann. Das KI-Vorstandsmitglied kann insbesondere dem Grundsatz der eigenverantwortlichen Geschäftsleitung und dem Grundsatz der Gesamtverantwortung nicht entsprechen. Diese Grundsätze erfordern weitgehend menschenspezifische Fähigkeiten – etwa generelle Intelligenz, Kommunikation im Kollegialorgan und selbstständige Organisation. Die Vorstandstätigkeit ist keine statische oder iterative Tätigkeit, sondern erfordert, dass sich die Mitglieder laufend an neue Gegebenheiten anpassen, außerhalb ihres Fach- und Aufgabenbereichs vertretbar reagieren und die Geschäftsführungsaufgaben und -ziele neu ausrichten. Auch wenn Chat-Bots heute bereits generelle Intelligenz suggerieren, so genügt das Erstellen und Abrufen von Strategien und Einzelentscheidungen aus Datenpools nicht, um den diversen Anforderungen an den Vorstand gerecht zu werden. Vielmehr muss ein Vorstand auch unkonventionelle ad hoc-Entscheidungen treffen können. Bis vertretbare Ergebnisse in der neuen Aufgabenumgebung erwartet werden können, ist das KI-System immer auf erneutes Training auf Grundlage großer Datensätze angewiesen.

Zusammenfassend gesagt, müsste eine KI kurzfristig abrufbare Fähigkeiten zur eigenverantwortlichen unternehmerischen Gesamtsteuerung aufweisen. Da aktuelle KI-Systeme dies nicht leisten können müssen sie als Vorstandssubstitut ausscheiden. Auf absehbare Zeit wird sich der Einsatz von KI daher auf delegierte, hochspezialisierte Einzelaufgaben beschränken.

Zulässigkeit der Delegation von Einzelaufgaben an KI

Dem Vorstand steht mit KI aber potenziell ein Instrument zur Verfügung, um effektiv auf neue Marktentwicklungen – insbesondere das Verhalten der Konkurrenz – zu reagieren, die ohne den Einsatz dieser hochsensiblen Technologie unerkannt geblieben wären. Es ist daher angezeigt, diese Vorteile im Rahmen der Aufgabendelegation nutzbar zu machen. Bei der Delegation an menschliche Mitarbeiter gilt im Wesentlichen der Grundsatz, dass die Übertragung von Geschäftsführungsaufgaben allgemein möglich ist, während die Übertragung von Leitungsaufgaben nur dann zulässig ist, wenn dem Vorstand die Letztentscheidungsbefugnis verbleibt. Der Vorstand muss die Aktiengesellschaft also stets steuern können und kann grundsätzliche Entscheidungen nicht aus der Hand geben.

Auf eine Aufgabendelegation an KI lassen sich diese Grundsätze dem Grunde nach übertragen: Geschäftsführungsaufgaben sind delegierbar, Leitungsaufgaben nur unter weiteren Voraussetzungen. Diese Grundsätze sind jedoch insoweit zu modifizieren, als KI-spezifischen Besonderheiten besonders zu würdigen sind. Der Vorstand muss über die Erhaltung der Letztentscheidungsbefugnis hinaus sicherstellen, dass er jederzeit ausreichende Prozesskontrolle über die KI behält. Dies setzt insbesondere voraus, dass die Rahmenbedingungen der KI bereits im Entwicklungsprozess spezifisch eingerichtet werden, das System entsprechend trainiert und vor dem Einsatz hinreichend geprüft wird. Der Vorstand muss jedenfalls eigenständig eine Plausibilitätskontrolle des Outputs sowie eine unabhängige Abwägungsentscheidung vornehmen.

Haftung des Vorstands bei der Aufgabendelegation an KI

An die Voraussetzungen der Delegation an KI anschließend, bedarf auch die Haftung bei der ausgeübten Delegation einer näheren Betrachtung. Der Vorstand hat bei der Delegation an Menschen bestimmte Residualpflichten zu erfüllen. Er kann sich also nicht gänzlich von seinen Aufgaben trennen. Ihm obliegt immer die sog. “Überwachungspflicht im weiteren Sinne”, bestehend aus Auswahl- Einweisungs- und spezifischeren Überwachungspflichten bezüglich des Delegatars. Wie bei der Frage der Zulässigkeit der Delegation müssen die hergebrachten Grundsätze auch hier KI-spezifisch modifiziert werden, um die Beschränkung der Haftung auf Residualpflichten zu rechtfertigen. Dies ist durch eine Anpassung der Auswahl- und Einweisungspflichten sowie der Etablierung eins KI-spezifischen Fünf-Punkte-Pflichtenkanons (s. u.) zu erreichen.

Auswahl- und Einweisungspflichten

Für die Eignung von KI zu einer bestimmten Aufgabe fehlen derzeit noch anerkannte Zertifizierungen. Entsprechend hat der Vorstand im Rahmen der Auswahlpflichten eine zweistufige Geeignetheitsprüfung vorzunehmen. Er muss sich von der Formalqualifikation des Herstellers der KI überzeugen und die KI anhand vorhandener technischer Standards auf ihre Funktionalität prüfen. Bezüglich der Erfüllung der Einweisungspflichten lässt sich statuieren, dass bereits im Herstellungsprozess umfassende Spezifizierungen der KI vorzunehmen sind, da der Einsatz von KI eine exakte Bestimmung der später auszuführenden Tätigkeit bedarf. Dazu gehört die Beschreibung der konkreten Marktumgebung sowie der Rahmenbedingungen und Ziele. Zudem verbleiben für den Vorstand im Rahmen der Einweisungspflichten bei KI – anders als bei menschlichen Delegataren, die keine entsprechend intensive Einführung erfahren – weitere Berichts-, Aktualisierungs- und fortlaufende Prüfungspflichten betreffend potenzieller Fehlleistungen des Systems.

Der Fünf-Punkte-Pflichtenkanon im Rahmen des laufenden Betriebs

Die Überwachung des KI-Delegatars findet durch den Vorstand aufgrund der Grundausrichtung der Überwachungsorganisation statt. Bei der konkreten Umsetzung der Überwachungspflichten kann er sich an einem Fünf-Punkte-Pflichtenkanon orientieren:

1. Regelmäßige Stichprobenkontrollen der Algorithmen und KI-Ergebnisse, um bei Verdacht auf Unregelmäßigkeiten rechtzeitig einschreiten zu können.
2. Einbau systemimmanenter Sicherheitsschranken, um Effekte von Fehlprogrammierung zu verringern.
3. Laufende Kontrolle der Ergebnisplausibilität durch doppelte Prüfung, mittels (a) einer automatisierten Plausibilitätsprüfung durch Kontrollalgorithmen, die Zwischenergebnisse auf Einhaltung gesetzlicher und unternehmerischer Vorgaben vorfiltern und (b) einer Plausibilitätsprüfung der KI-Aufgabenerfüllung durch den Vorstand.
4. Integration des KI-Delegatars in die allgemeine IT-Sicherheitsstruktur, um die Stabilität der Systeme bei Notfällen, wie einem Systemausfall oder bei adversarial attacks, weiter gewährleisten zu können.
5. Einrichtung eines Metaüberwachungssystems, dass bei mangelndem technischem Verständnis des Vorstands die Überwachung durch eine qualifizierte Person (beispielsweise einem „Chief Digital Officer“ (CDO)) garantiert.

Zusammenfassung und Empfehlungen

Eine Substitution des Vorstands einer Aktiengesellschaft durch KI ist heute weder möglich noch wünschenswert. Hingegen bietet einfache Delegation großes wirtschaftliches Potenzial. Bei Einhaltung der gebotenen Überwachungsplichten dürften sich Risiken ohne erhebliche rechtliche Bedenken kontrollieren lassen. Für die Zukunft ist wünschens- und empfehlenswert, dass sich Vorstände intensiv mit den möglichen Einsatzgebieten von KI befassen und zugleich ein technisches Grundverständnis derselben aufbauen. Mittel- und langfristig lässt sich das Datenmanagement – sei es bei der internen Organisation des Unternehmens oder dessen strategischer Ausrichtung – durch KI vereinfachen. KI kann und soll bei diesen Aufgaben einen wichtigen Beitrag leisten – und dem Vorstand Kapazitäten für schöpferisch-kreative Entscheidungsaufgaben freilegen. Die Vorstände aus Fleisch und Blut können sich dann wieder verstärkt der Entwicklung von Produkten, dem Aufbau von Netzwerken und der weiteren Geschäftsführung widmen.

Die Zukunft zeichnet sich insoweit schon ab: KI-assistierte-Unternehmen bieten potenziell einen großen Wettbewerbsvorteil gegenüber „analogen“ Unternehmen. Der Vorstand in KI-assistierten-Unternehmen kann den entscheidenden Aufgaben innerhalb der Unternehmensleitung wieder gerechter werden: Er wird wieder verstärkt Entscheidungs- statt Verwaltungsorgan.

Der Blog-Beitrag behandelt Teilaspekte aus der Dissertation „Künstliche Intelligenz und Corporate Governance – Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft“, die im Dezember 2022 im Duncker & Humblot Verlag erschienen ist.

Published under licence CC BY-NC-ND.