- Künstliche Intelligenz (KI) gewinnt sowohl für Privatpersonen als auch für Unternehmen mit rasanter Geschwindigkeit an praktischer Relevanz.
- Schwerpunkt des 38. Treffens der Beteiligungsführungen des Bundes und der Länder im September 2025 bildeten Vorträge von öffentlichen Unternehmen zu Vorteilen und Herausforderungen des Einsatzes von KI.
- Die Germany Trade and Invest – Gesellschaft für Außenwirtschaft und Standortmarketing mbH und die PD – Berater der öffentlichen Hand GmbH berichteten über die Einführung ihrer KI-Strategie beziehungsweise die Anwendung einzelner KI-Tools.
- Maßgebliche rechtliche Vorgaben, die von Geschäftsleitung und Aufsichtsräten zu berücksichtigen sind, resultieren insbesondere aus der risikobasierten KI-Verordnung, bislang hauptsächlich im Bereich der KI-Anwendungen mit geringem Risiko relevant, sowie der Datenschutz-Grundverordnung.
- Der rechtliche Rahmen des Handelns von Geschäftsleitung und Aufsichtsräten bemisst sich darüber hinaus nach den bestehenden gesellschaftsrechtlichen Rechten und Pflichten.
Einleitung
Künstliche Intelligenz (KI) ist eine Technologie, welche in Gesellschaft, Politik, Wirtschaft und Kultur, das heißt in fast allen Lebensbereichen, immer dominanter in Erscheinung tritt. Die Grundlagen der KI wurden schon in den 1950er-Jahren gelegt. Angetrieben von weiterhin steigender Rechenleistung, gelingt es zunehmend effektiver, immer komplexere Algorithmen mit einer scheinbar unerschöpflichen Datenmenge zu versorgen und für unterschiedliche Zwecke zu nutzen. KI wird inzwischen als einer der wichtigsten Treiber für die digitale Transformation angesehen.
Auch bei den Bundesunternehmen rückt KI immer mehr in den Fokus. Selbst wenn KI womöglich in der Anfangsphase der Implementierung zunächst „nur“ Produktivitätsgewinne bringt und (noch) kein strategischer Erfolgsfaktor ist, ist die Geschäftsleitung gut beraten, KI frühzeitig in die Geschäftstätigkeit zu integrieren.
Das im September 2025 von der Abteilung VIII (Abteilung für Beteiligungen, Bundesimmobilien und Privatisierungen) des BMF veranstaltete 38. Treffen der Beteiligungsführungen des Bundes und der Länder (38. BRT) hatte den Schwerpunkt auf KI und Bundesunternehmen gelegt. Dort stellten ausgewählte Bundesunternehmen dar, welche konkreten Vorteile sie durch den Einsatz von KI erwarten und welche Herausforderungen ihnen auf dem Weg zur Umsetzung ihrer KI-Strategien usw. begegnen.
Im Weiteren wird ein Überblick über die Vorteile und Herausforderungen bei der Nutzung von KI, den rechtlichen Rahmen, in dem sich die KI-Anwendung in Unternehmen bewegt, und schließlich über den Umgang mit KI in verschiedenen Bundesunternehmen gegeben. Dies soll für die Verantwortlichen innerhalb der Bundesressorts und Bundesunternehmen bei der Umsetzung aktueller oder künftiger KI-Vorhaben eine Hilfestellung darstellen.
KI als Treiber von Innovationen
Um im Wettbewerb zu bestehen, müssen Unternehmen innovativ sein. Um Innovationen voranzutreiben, besteht die Möglichkeit, Bestehendes besser und/oder anders zu machen. Während beim Bessermachen/Optimieren der Fokus regelmäßig auf Kosten und Qualität liegt, bedarf es beim Andersmachen oft eines Paradigmenwechsels. Dabei betreffen Innovationen nicht nur das Produktportfolio. Auch Prozesse können Gegenstand von Innovationen sein.
Bundesunternehmen stehen zum Teil nicht in direktem Wettbewerb mit anderen Unternehmen. Treibendes Kriterium für den Bund, sich an einem Unternehmen zu beteiligen, ist das wichtige Bundesinteresse an dem Unternehmen gemäß § 65 Bundeshaushaltsordnung (BHO), wenn sich der betreffende Unternehmenszweck nicht besser und wirtschaftlicher auf andere Weise erreichen lässt. Dies führt in einigen Fällen dazu, dass sich der Bund an Unternehmen beteiligt, deren Produkt beziehungsweise Produktportfolio von vornherein feststeht und sich absehbar dauerhaft nicht ändern wird (z. B. im Bereich der Endlagerung von radioaktivem Abfall oder in bestimmten Forschungsbereichen). Innovationen im Produktbereich sind dort kaum bis gar nicht möglich. Jedoch bieten sich auch in diesem Bereich Innovationen bei der Optimierung oder der Neueinführung von Prozessen an. Dass es auch bei diesen Unternehmen notwendig ist, Innovationen durch z. B. Nutzung von Digitalisierungspotenzialen gemäß Punkt 5.1.1 des Public Corporate Governance Kodex (PCGK) im Blick zu behalten, um effizienter zu wirtschaften, folgt auch aus dem Grundsatz der Wirtschaftlichkeit und Sparsamkeit gemäß § 7 BHO.
Ein praktikables und effizientes Innovationsmanagement ist auch bei Unternehmen mit Bundesbeteiligung unbedingt erforderlich, zumindest bei der Optimierung oder Neueinführung von Prozessen. KI kann hierbei ein Treiber sein, wenn durch ihren Einsatz Abläufe besser, schneller und/oder mit geringerem Aufwand vonstattengehen.
Herausforderungen bei der Nutzung von KI
Die Herausforderungen im Umgang mit den komplexen Prozessen der Nutzung von KI sind auf tatsächlicher und rechtlicher Ebene vielfältig. Bei der Nutzung von KI kommt es zur Verwendung von Daten, die persönliche Informationen oder Betriebs- und Geschäftsgeheimnisse enthalten können. Diese sensiblen Daten sowie die Nutzungsdaten sind im Rahmen der Verarbeitung mittels KI vor dem Zugriff Dritter zu sichern.
Gerade bei komplexen IT-Lösungen stellt sich oft die Frage nach der erforderlichen Transparenz der Arbeitsweise des KI-Tools, um die Funktionsweise nachzuvollziehen und die Kontrolle und Sicherheit durch das Bundesunternehmen zu garantieren.
Es müssen Methoden und Instrumente implementiert werden, welche die Qualität und Genauigkeit der KI-Ergebnisse sicherstellen. KI-Modelle können Fehlinformationen nutzen oder bei unklarer Datenlage Inhalte erfinden (sogenannte Halluzination).
Weitere Herausforderungen stellen die notwendigen Fachkräfte, das Know-how, die erforderliche Infrastruktur, einschließlich lokaler, sicherer Speichermöglichkeiten beziehungsweise die hierfür oder generell notwendigen Mittel, dar, um eigene IT-Lösungen aufzubauen.
Oft fehlt es auch einfach an Beispielen, welche konkreten KI-Tools verfügbar sind und tatsächlich in Arbeitsprozesse eingebunden werden können und wie der korrekte Einstieg in die KI-Nutzung unter Berücksichtigung aller rechtlicher Vorgaben gelingen kann.
Die KI-Verordnung
Die Europäische Union (EU) hat in ihrer Verordnung über Künstliche Intelligenz (KI-VO) umfassende Regeln für KI-Systeme aufgestellt.
Künstliche Intelligenz
Nach der KI-VO ist ein „KI-System“ ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite und implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können. Regelbasierte, rein deterministische Systeme sind hiervon nicht erfasst.
Die KI-VO hat zum Ziel, die Gesundheit, die Sicherheit und die Grundrechte von natürlichen Personen zu schützen. Die KI-VO verfolgt einen risikobasierten Ansatz. KI-Anwendungen werden hierbei in Risikogruppen eingeteilt, um strengere Regeln für Systeme zu schaffen, die größere Gefahren für die geschützten Rechtsgüter bergen. Sie gilt gemäß dem Marktortprinzip insbesondere für Anbieter und Betreiber von in der EU auf den Markt oder in Betrieb genommenen KI-Systemen.
Ihr risikobasierter Ansatz verbietet den Einsatz von KI, die unannehmbare Risiken birgt. Sie hat KI mit hohen Risiken im Fokus, für die strenge Dokumentations- und Überwachungspflichten gelten. Die verbleibende KI mit geringem Risiko ist weitgehend unreguliert. Sie unterliegt lediglich Transparenzpflichten und allgemeinen Bestimmungen. Anbieter und Betreiber von KI-Systemen mit begrenztem Risiko (z. B. Chatbots) müssen sicherstellen, dass Nutzer wissen, dass sie mit KI arbeiten. Unternehmen, die KI einsetzen, sind verpflichtet, ihre Mitarbeiterinnen und Mitarbeiter zu schulen, abhängig von ihrer Tätigkeit im Unternehmen. Zusätzlich steht es Anbietern und Betreibern frei, freiwillige Verhaltenskodizes zu entwickeln.
Die im Jahr 2024 verabschiedete KI-VO erlangt zeitlich abgestuft ihre volle Wirkung und wird erst ab dem Jahr 2027 vollständig Anwendung finden.
Die KI-VO wird von diversen Regelwerken, darunter dem Datenschutzrecht, etwa von der Datenschutz-Grundverordnung (DSGVO) und den Normen der IT-Sicherheit, z. B. die NIS-2-Richtlinie, flankiert.
KI und Corporate Governance
Welche Auswirkungen hat KI im Gefüge der Corporate Governance, also der Unternehmensführung, und welche Regelungen und Standards sind hierfür maßgeblich?
Die Einführung von KI ist zunächst eine Geschäftsführungsmaßnahme, die durch die Geschäftsleitung selbst zu treffen ist. Bottom-up entwickelte Strategien zur Einführung von KI in Unternehmen mit dem Ziel der größeren Akzeptanz durch die Belegschaft bedürfen daher stets des finalen Gos durch die Geschäftsleitung. Hierbei hat die Geschäftsleitung beim Ob und Wie der Einführung von KI die einschlägigen gesetzlichen Vorschriften, insbesondere die der KI-VO und DSGVO, zu berücksichtigen. Die Geschäftsleitung selbst darf KI für sonstige Geschäftsführungsaufgaben sowie für reine Vor- und Nachbereitung von Entscheidungen anwenden, nicht aber für den Kernbereich ihrer Leitungsentscheidungen.
Zur Bemessung der Sorgfaltspflichten der Geschäftsleitung beim unterstützenden Einsatz von KI bei Geschäftsleitungsentscheidungen könnten die Wertungen einer Entscheidung des Bundesgerichtshofs (BGH) über die Einholung von externem Expertenrat durch die Geschäftsleitung herangezogen werden (BGH, Urteil vom 20.9.2011, II ZR 234/09, NZG 2011, 1271 (1273)). Danach stellt die ungeprüfte Übernahme von externem Rat keine ausreichende Informationsgrundlage für eine sorgfältig getroffene Entscheidung dar. Übertragen auf den KI-Einsatz setzt dies bei der Auswahl des KI-Tools insbesondere die Berücksichtigung der verfügbaren Daten, die sorgfältige Eingabe der Abfrage (Prompting), die Entscheidungsart und den Grad der Unterstützung durch die KI sowie die KI-Kenntnisse der Geschäftsleitung für eine sorgfältige Plausibilitätsprüfung voraus.
Für den Aufsichtsrat, der die Geschäftsleitung kontrolliert und berät, kann der Einsatz von KI durch die Geschäftsleitung einerseits Gegenstand seiner Überwachung und Beratung sein und andererseits von ihm selbst hierzu genutzt werden.
Der Aufsichtsrat hat die Entscheidung der Geschäftsleitung über das Ob und Wie der Einführung und Anwendung der KI gemäß den auf die Geschäftsleitung anzuwendenden Grenzen der Delegation (Kernbereich Leitung), den weiteren Sorgfaltspflichten, einschließlich den genannten Prüfpflichten hinsichtlich der KI und ihrer Arbeitsergebnisse, zu kontrollieren. Zu prüfen ist auch, ob die Geschäftsleitung sich bei Entscheidungen, die dem unternehmerischen Ermessen unterliegen, auf die Business Judgement Rule berufen kann. Der Aufsichtsrat berät zudem die Geschäftsleitung bei Strategiediskussionen. Diese betreffen u. a. die Auswirkungen von KI auf die Geschäftsstrategie sowie einen möglichen Einsatz von KI zur Unterstützung der Geschäftsleitung bei ihren Leitungsaufgaben. Gut formulierte Zustimmungsvorbehalte des Aufsichtsrats sind in diesem Zusammenhang wichtig.
Die Business Judgement Rule
ist ein Grundsatz im deutschen Gesellschaftsrecht, wonach Vorstände und Geschäftsführungen vor persönlicher Haftung geschützt sind, solange sie vernünftigerweise annehmen dürfen, unternehmerische Entscheidungen auf angemessener Informationsgrundlage zum Wohl des Unternehmens zu treffen (§ 93 Abs. 1 S. 2 Aktiengesetz).
Der Aufsichtsrat selbst hat aufgrund seines Selbstorganisationsrechts grundsätzlich einen weiten Ermessensspielraum, ob und wie er KI in seiner täglichen Arbeit zur Anwendung bringt. Er muss gesetzeskonform handeln und ihn treffen hierbei Sorgfaltspflichten, wobei die für die Geschäftsleitung ausgeführten Wertungen heranzuziehen sind.
In diesem Zusammenhang stellt sich die Frage, ob darüber hinaus gesetzgeberischer Handlungsbedarf besteht. Hier sind perspektivisch flexible, dem Technologiefortschritt folgende Best-Practice-Standards in Form von Corporate-Governance-Kodizes einer gesetzgeberischen Anpassung vorzuziehen. Bisher enthalten der PCGK sowie der Deutsche Corporate Governance Kodex (DCGK) nur begrenzte Standards, die KI betreffen: Der PCGK empfiehlt seit 2023 die Nutzung von Digitalisierungspotenzialen durch die Geschäftsführung (Ziff. 5.1.1 PCGK). Der DCGK selbst enthält zwar hierzu bislang keine Empfehlungen. Jedoch hat die DCGK-Kommission im September 2025 einen Praxis-Impuls zum Einsatz von KI im Aufsichtsrat herausgegeben1, wonach KI integraler Bestandteil der zeitgemäßen Aufsichtsratsarbeit ist. Er führt die Voraussetzungen des KI-Einsatzes aus und erläutert mögliche Anwendungsfälle von KI durch den Aufsichtsrat. Auch wird hinterfragt, ob Digital- und KI-Kompetenzen ein Muss im Kompetenzprofil von Aufsichtsräten sein sollten, um Chancen und Risiken dieser Technologie angemessen bewerten und überwachen zu können. Danach sollten Grundkenntnisse vorhanden sein. Eine entsprechende Qualifizierung kann schrittweise aufgebaut werden. Aufgrund der positiven Resonanz ist eine Aktualisierung des Praxisimpulses bereits für das Jahr 2026 geplant.
Aktuelle KI-Nutzung bei Bundesunternehmen
Exemplarisch werden nun zwei Bundesunternehmen und ihr Vorgehen bei der KI-Nutzung dargestellt, welche beim 38. BRT hierzu wie folgt vorgetragen haben:
Erstellung einer KI-Strategie bei der Germany Trade and Invest – Gesellschaft für Außenwirtschaft und Standortmarketing mbH
Die erfolgreiche Einführung von KI unter Berücksichtigung der Anforderungen der KI-VO sollte gut geplant und aufgesetzt werden, selbst wenn derzeit zumeist KI im Bereich der geringen Risiken zum Einsatz kommt.
Das Bundesunternehmen Germany Trade and Invest – Gesellschaft für Außenwirtschaft und Standortmarketing mbH (GTAI) verfolgt mit der unternehmensweiten KI-Initiative GTAI Strategy 2028 das Ziel, die Gesellschaft in den kommenden drei Jahren digital zu transformieren. Diese Initiative soll für alle Beschäftigten verbindlich sein; „sie soll aber auch Lust und Interesse in der gesamten Belegschaft wecken.“
Die Germany Trade and Invest – Gesellschaft für Außenwirtschaft und Standortmarketing mbH (GTAI)
ist die zentrale Außenwirtschaftsagentur der Bundesrepublik Deutschland. Die GTAI unterstützt u. a. deutsche Unternehmen bei der Erschließung ausländischer Märkte durch Exporte, Dienstleistungen und Investitionen und im Gegenzug auch ausländische Unternehmen, die ihre Geschäftstätigkeit auf den deutschen Markt ausdehnen wollen.
Die GTAI Strategy 2028 soll sicherstellen, auch in Zukunft wettbewerbsfähig zu bleiben, und die GTAI als Vorreiterin im Bereich der Außenwirtschaftsförderung in Deutschland zu positionieren. Beim 38. BRT berichtete die GTAI über den Entwicklungsprozess (bottom-up) ihrer KI-Strategie. Dieser Prozess kann in fünf Phasen unterteilt werden:
BildVergroessern
1. Phase: „ALIGN“
In der 1. Phase „ALIGN“ wurde die Projektstruktur aufgesetzt und die Erwartungen mit allen Verantwortlichen der GTAI abgestimmt. Auf dieser Basis wurde der Rahmen der KI-Strategie festgelegt. Dazu wurden ein KI-Kodex erstellt und KI-Leitlinien zum redaktionellen Arbeiten entwickelt. Neben dem Projektteam wurde ein KI-Rat (bestehend aus Betriebsrat und Beschäftigten aus allen Abteilungen) gebildet.
2. Phase: „ASPIRE“
In der 2. Phase „ASPIRE“ analysierte die GTAI den Status quo und beurteilte auf Basis von Beschäftigtenbefragungen, ob und inwiefern die Belegschaft bereit für KI ist. Folgende Fragen wurden u. a. gestellt:
- Einstellungen zur KI:
- Wie werden Themen wie Arbeitsplatzsicherheit, Zukunftsaussichten, Vertrauen in KI und ethische Bedenken wahrgenommen?
- Anwendungsfälle für KI:
- Wie kann KI-Unterstützung z. B. bei Inhaltserstellung und Recherche, Datenanalyse und Prognosen oder Kundenservice eingesetzt werden?
Auf Basis von Workshops mit Teilnehmerinnen und Teilnehmern aus dem Projektteam, dem KI-Rat und weiteren Gremien wurde in einem revolvierenden Abstimmungsprozess unter Hinzuziehung des Fachbeirats Außenwirtschaft die eigene KI-Vision formuliert.
3. Phase: „ASSESS“
In der 3. Phase „ASSESS“ wurden in einem abteilungsübergreifenden Prozess die relevantesten KI-Handlungsfelder bestimmt. Aus diesen Handlungsfeldern wurden KI-Anwendungsfälle mit jeweiliger Priorisierung identifiziert und einzelnen Proofs of Concepts (POCs) zugewiesen.
Der Proof of Concept (POC)
ist ein wichtiger Schritt im Projektmanagement, um die Machbarkeit einer Idee oder eines Projekts zu überprüfen.
Folgende exemplarische KI-Anwendungsfälle hat die GTAI über einen Abteilungsworkshop für ihre Initiative identifiziert und davon bereits einige realisiert:
- automatisierte Dokumentenerstellung,
- KI-gestützte Generierung von Grafiken, Bildern und Datenvisualisierungen,
- KI-unterstützte Suche auf der Website, einschließlich Verlinkungen (realisiert),
- Erstellung maßgeschneiderter Informationsangebote (z. B. Newsletter),
- KI-gestützte Ansprache, Identifizierung und Betreuung von Kunden,
- KI-unterstütztes Management der E-Mail-Postfächer, einschließlich Netzwerkpflege,
- Protokollierung von Meetings durch KI,
- KI-gestützter Rechercheprozess zur Identifizierung relevanter Datenquellen und
- Textprüfung gemäß den Richtlinien des Redaktionshandbuchs (realisiert).
In dieser Phase wurden bereits unternehmensweite KI-Schulungen durchgeführt.
4. Phase: „ARCHITECT“
In der 4. Phase „ARCHITECT“ wurden die POCs umgesetzt und verprobt. Aus den Ergebnissen wurden die strategischen Ziele und die konkreten Maßnahmen zur Finalisierung der GTAI Strategy 2028 abgeleitet.
5. Phase: „ACT“
In der 5. Phase „ACT“ wurde auf Basis aller vorher gewonnenen Erkenntnisse das KI-Strategiedokument erstellt. Derzeit werden die im Dokument festgelegten Maßnahmen umgesetzt. Dazu werden die POCs in den Livebetrieb überführt und sogenannte Digi-Pioneers (Beschäftigte als Multiplikatoren) etabliert.
Die GTAI sieht sich auf einem guten Weg bei der Umsetzung ihrer KI-Strategie. Das Erfolgskonzept aus Sicht der GTAI besteht darin, dass es einen festen Fahrplan mit klaren Meilensteinen gibt und die Einbindung der Fachabteilungen, der Beschäftigten, der Kundenperspektive, des Betriebsrats und nicht zuletzt auch der Geschäftsführung von Anfang an gewährleistet war.
Nutzung von Open-Source-Tools durch die PD – Berater der öffentlichen Hand GmbH
Jedes Unternehmen kommt bei der Planung seiner Digitalisierungsstrategie irgendwann an den Punkt, an dem es erörtern muss, welches KI-Tool für welches seiner angedachten Digitalisierungsziele verwendet werden kann, und ob dieses Tool bereits verfügbar ist oder ob es noch entwickelt werden muss. Eine Vertreterin und ein Vertreter des Bundesunternehmens PD – Berater der öffentlichen Hand GmbH (PD) berichteten beim 38. BRT davon, dass sie sich als Teil ihrer Digitalisierungsstrategie vorgenommen hätten, die Vielzahl vorhandener Dateien digital so zu erfassen, dass durch eine Chat- und Such-Assistenz auf bisher bekannte Sachverhalte zurückgegriffen werden könne, mit dem Ziel, diese Sachverhalte nicht unnötigerweise nochmals zu erarbeiten. Hierdurch könnten Texte erstellt, verarbeitet und mittels „Frag den Text“-Fragen zu hochgeladenen Dokumenten beantwortet werden. Um die Kontrolle über sensible Daten zu behalten und flexibel in der Anwendung zu sein, hat sich die PD für den Einsatz und die Entwicklung eines kostenfrei verfügbaren Open-Source-KI-Tools entschieden.
Die PD – Berater der öffentlichen Hand GmbH (PD)
ist beratend tätig für den Bund, die Bundesländer, die Kommunen und für sonstige öffentliche Auftraggeber in den Bereichen Strategische Verwaltungsmodernisierung sowie Hochbau und Infrastruktur. Sie fördert dabei den Wissenstransfer, das heißt, sie macht Beratungserfahrungen und Erkenntnisse ihren öffentlichen Gesellschaftern zugänglich. Hierzu nutzt die PD interne Wissensmanagement-Tools, die den Einsatz von Erkenntnissen projektübergreifend unterstützen.
Open Source
bezeichnet Software, die sich von herstellergebundener (proprietärer) Software darin grundlegend unterscheidet, dass der Quellcode – etwa vergleichbar mit dem Bauplan eines Hauses – frei verfügbar ist. Das bedeutet, dass der Anwender das Programm unabhängig von seinen Autoren in der Regel beliebig verändern, weitergeben und erkannte Schwachstellen oder Fehler veröffentlichen darf. (https://www.bsi.bund.de)
Die PD hat in Zusammenarbeit mit dem Land Baden-Württemberg und unter Berücksichtigung der KI-VO einen bestehenden Prototypen zu einem souveränen KI-Tool weiterentwickelt, modularisiert und professionalisiert und den Quellcode Open Source bereitgestellt. Bei diesem KI-Tool handelt es sich nicht um eine Software-as-a-Service (SaaS). Das heißt, es ist kein fertiger Cloud-Dienst, sondern eine Lösung, die eigenständig in Betrieb genommen wird, z. B. durch eigene IT-Dienstleister oder die Unternehmens-IT. Sie ist technisch souverän und anpassbar. Nutzende Unternehmen oder Behörden behalten die volle Kontrolle über Infrastruktur, Daten und eingesetzte Sprachmodelle. Weder Nutzungsdaten noch Inhalte werden an zentraler Stelle gespeichert oder verarbeitet. Das Tool wird lokal betrieben. Die Nachnutzung ist ausdrücklich erwünscht; die Open-Source-Bereitstellung soll also die Kooperation, die Weiterentwicklung und den Austausch fördern. Um Nachnutzung auch für Ressorts, die nicht über eigene KI-Infrastruktur verfügen, zu ermöglichen, wird zukünftig in Zusammenarbeit mit öffentlichen IT-Dienstleistern eine SaaS-Lösung aufgebaut, von der öffentlichen Hand für die öffentliche Hand.
Zudem hat die PD mithilfe von KI die zum Teil mehrstündigen und oft über mehrere Tage hinweg geführten Interviews mit Kundinnen und Kunden in Schrift überführt. Für diese Transkription der während der Interviews aufgenommenen Audiodateien hat die PD ebenfalls auf ein Open-Source-Transkriptionstool zurückgegriffen und für ihre Belange angepasst. Dieses Tool verfügt über eine automatische Spracherkennung und Übersetzungsfunktion.
Beide Tools ermöglichen die kostenfreie und lokale Nutzung von Dokumenten, das heißt, es werden keine Informationen über Nutzerdaten oder Inhalte an Anbieter wie OpenAI (ChatGPT) weitergeleitet, sondern es wird datenschutzkonformer Einsatz von KI ermöglicht. Die Open-Source-Form ermöglicht die vollständige Kontrolle über die verwendeten Modelle, einschließlich Infrastruktur, Daten und eingesetzten Sprachmodellen. Schließlich realisiert die PD die Compliance mit der KI-VO usw. durch eine KI-Governance, Nutzungsrichtlinien und ein Schulungskonzept.
Zur Sicherstellung der Compliance mit KI-VO und DSGVO im Umgang mit KI mit geringem Risiko (Art. 50 KI-VO) wurden von der PD empfohlene KI-Leitlinien mit Nutzungshinweisen (z. B.: Transparenz: 1. KI-gestützte Analysen und Recherchen sind als solche zu kennzeichnen, 2. Es besteht zusätzlich eine Kennzeichnungspflicht, falls Inhalte ohne Prüfung weitergegeben werden.) erstellt, Aufgaben und Konzepte zur Konkretisierung und Operationalisierung erarbeitet (z. B. ein Schulungskonzept gemäß Art. 4 KI-VO mit Anwendertrainings, KI-Grundlagenschulungen und Prompting-Workshops) und Prozesse und Verantwortlichkeiten (z. B. für einzelne Trainings) implementiert und überwacht.
Fazit und Ausblick
Die wachsende Relevanz von KI für die praktische Arbeit ist in den vergangenen Monaten für jeden Einzelnen spürbar. Trotz der verschiedenen Herausforderungen entscheiden sich Bundesunternehmen zunehmend dafür, KI – entsprechend den Vorgaben der zeitlich gestaffelt Anwendung findenden KI-VO sowie der DSGVO – anzuwenden.
GTAI und PD haben in diesem Kontext ihr Vorgehen bei der Einführung einer KI-Strategie beziehungsweise der Nutzung einzelner KI-Tools dargelegt. Der Vortrag der GTAI hat demonstriert, dass der Schlüssel zum Erfolg der Implementierung einer KI-Strategie ein fester Fahrplan bei gleichzeitiger Flexibilität in der Binnenstruktur darstellt. Die Bottom-up-Entwicklung unter Beteiligung der Fachabteilungen über einen KI-Rat, der Beschäftigten durch Befragungen, der Kundenperspektive über einen Fachbeirat und des Betriebsrats über ein Projektteam hat eine hohe Akzeptanz und Motivation der Beschäftigten im Umgang mit KI zur Folge. Die PD hat anhand zweier KI-Tools dargelegt, wie die gesetzlichen Vorgaben nach KI-VO und DSGVO durch die Nutzung von Open-Source-Tools kostengünstig und mit der erforderlichen Kontrolle und bei lokaler Speicherung eingehalten werden können. Bislang beschränkt sich die Nutzung primär auf KI mit geringem Risiko, sodass lediglich Transparenzpflichten und allgemeine Bestimmungen der KI-VO hierauf Anwendung finden.
Die rasante Entwicklung in dem Bereich lässt mit Spannung erwarten, welche weiteren KI-Tools als Nächstes für die Praxis relevante Fortschritte mit sich bringen. So ist – um nur ein Beispiel zu nennen – eine KI-Unterstützung im Zusammenhang mit dem Beteiligungsbericht mittels des neuen Beteiligungsmonitoring- und Informationssystems (BeMIS) geplant, das im Frühjahr 2026 ressortweit ausgerollt werden wird. In Betracht kommt hier die Fundstellensuche, etwa in Unternehmensverträgen oder im PCGK.
Die zunehmende praktische Nutzung von KI wird gleichzeitig weitere Herausforderungen – etwa im Hinblick auf die Empfehlung einer nachhaltigen Geschäftsführung (Ziff. 5.5.1 PCGK) für Bundesunternehmen einerseits und der Nutzung von Digitalisierungspotenzialen des Unternehmens (Ziff. 5.1.1 PCGK) bei gleichzeitig hohem Stromverbrauch von KI andererseits – zutage fördern. Schließlich bleibt abzuwarten, welche Best-Practice-Empfehlungen mit der zunehmenden Nutzung von KI neben den anwendbaren allgemeinen Rechten und Pflichten des Gesellschaftsrechts für die Geschäftsleitung und Aufsichtsräte im vergleichsweise flexiblen Bereich der Corporate Governance Standards erforderlich werden.