Die KI-Policy der TIB: Richtlinien zur Nutzung von Systemen der Künstlichen Intelligenz

read this article in English

Aus Praxis und Forschung ist es im Alltag der TIB kaum noch wegzudenken: die Nutzung und Entwicklung von Systemen, die mit Hilfe Künstlicher Intelligenz agieren (KI-Systeme). Dies spiegelt sich auch in den strategischen Handlungsfeldern der TIB für 2030 wider. So hat es sich die TIB zum Ziel gesetzt, die Evaluierung und die Nutzung von Künstlicher Intelligenz (KI) in den verschiedenen Dienstleistungs- und Innovationsbereichen aktiv voranzutreiben und einen Beitrag zur Entwicklung zukunftsrelevanter Schlüsseltechnologien in der digitalen Wissenschaft zu leisten.

KI-Systeme im Arbeitsalltag der TIB

Mittlerweile werden KI-Systeme an der TIB an vielen verschiedenen Stellen genutzt. Im Bibliotheksbereich unterstützen KI-Systeme zum Beispiel bei der Katalogisierung, im Forschungsbereich wird an und mit KI-Systemen geforscht. Einige Systeme werden von der TIB auch bereits zur öffentlichen Nutzung zur Verfügung gestellt, siehe zum Beispiel ORKG Ask.

Um einen sicheren Umgang mit den neuen Möglichkeiten zu schaffen, hat sich die TIB dazu entschlossen, frühzeitig Grundsätze hierzu aufzustellen. Dabei sollen Vorgaben aus der KI-Verordnung[1] (KI-VO) umgesetzt werden und gleichzeitig Möglichkeiten geschaffen werden, die strategischen Ziele zu erreichen. Im Rahmen einer KI-Policy wurden, diese eigenen Grundsätze der TIB im Zusammenhang mit der Nutzung von KI-Systemen und die rechtlichen Grundlagen der KI-VO zur Nutzung von KI-Systemen in relevanten Bereichen zusammengefasst.

Ziel war es dabei, einen einheitlichen Umgang der TIB-Kolleg:innen mit KI-Systemen zu ermöglichen. Dabei soll ein offener und transparenter Umgang mit den neuen „smarten“ Möglichkeiten gefördert werden, aber auch für Risiken sensibilisieren. Ein angenehmer Nebeneffekt ist es dabei auch, dass der Austausch zwischen den Bereichen gestärkt wird.

1. KI-Policy der TIB: klare Regeln für eine sichere Nutzung

Das Justiziariat und die Leitungsgremien haben zunächst die bereits bestehenden KI-unterstützten Tätigkeiten an der TIB geclustert und die neuen Anforderungen aus der KI-VO ausgewertet. Parallel wurden zu den einzelnen Nutzungsszenarien übergreifende Werte formuliert. Diese identifizierten Werte stellen die Grundsätze der KI-Policy dar. Um ein schnelles Verständnis der wesentlichen Aspekte zu ermöglichen, wurde eine tabellarische Übersicht erstellt, die die rechtlichen Rahmenbedingungen der KI-VO zusammenfassend darstellt. Abschließend wurde die KI-Policy den entscheidenden Gremien vorgestellt und verabschiedet

2. Die Kernelemente der KI-Policy

Risikokontrolle und Verhältnismäßigkeit stellen die Kernelemente der KI-Policy dar.

 Gem. Art. 9 KI-VO besteht rechtlich ggf. eine Verpflichtung, ein Risikomanagementsystem einzuführen, wenn zum Beispiel sog. „Hochrisiko KI-Systeme“ verwendet werden. Dabei geht es im Wesentlichen darum, Risiken zu identifizieren und Maßnahmen zur Bewältigung zu ergreifen.

Zum anderen müssen aber auch unabhängig von einer solchen ausdrücklichen Pflicht, weitere Risiken insbesondere in den Bereichen Urheber- und Datenschutzrecht berücksichtigt und kontrolliert werden.

Bei vielen KI-Systemen bestehen technische und rechtliche Unsicherheiten, wie bestimmte Systeme funktionieren und Sachverhalte auszulegen sind. Zudem stellen viele KI-Systeme im Prinzip eine „Blackbox“ dar. Daten, die einmal in ein System eingegeben werden, sind in der Regel nicht mehr löschbar, insbesondere gilt dies für webbasierte Online-Tools. Dieser Umstand ist bei sensiblen Daten, wie personenbezogen Daten oder auch Geschäftsgeheimnissen, unbedingt zu berücksichtigen.

Auch drohen unter Umständen erhebliche Bußgelder, wenn die Pflichten der KI-VO nicht eingehalten werden.

Da an der TIB KI-Systeme in verschiedenen Tätigkeitsbereichen zur Anwendung kommen, sind neben vorgenannten Risiken immer auch Themen wie Nachhaltigkeit/Energieeffizienz, Nutzen im Verhältnis zu den Risiken oder ggf. aus der KI-VO erforderlicher Verwaltungsaufwand (zum Beispiel Schulungspflichten) zu bedenken. Die KI-VO sieht für bestimmte Systeme zum Beispiel eine dauerhafte menschliche Beaufsichtigung (Art. 14), das Führen technischer Aufzeichnungen (Art. 11) oder auch Transparenz- und Informationspflichten gegenüber Nutzenden (Art. 13) vor. Die Kosten für einen rechtmäßigen Einsatz können den Nutzen also leicht übersteigen. Zudem ist zu erwarten, dass viele Systeme zukünftig auch nicht mehr kostenfrei nutzbar sein werden. Nicht an jeder Stelle oder zu jedem Zweck ist der Einsatz von KI-Systemen also tatsächlich sinnvoll.

3. Umsetzung in die Praxis und Ausblick

Die KI-Policy legt die Grundlage dafür, dass die Kolleg:innen über die grundsätzlichen Anforderungen an der TIB informiert sind, und schult gleichzeitig zu den rechtlichen Gegebenheiten. Aufgrund der rasanten Entwicklungen zu KI ist es jedoch auch unumgänglich der KI-Policy die Möglichkeit zu geben, schnell und flexibel anpassbar zu sein. Daher wurde sie zum einen grundsätzlich und überblicksartig formuliert. Zum anderen flankieren agile Kommunikations- und Informationsmodelle die Umsetzung. So gibt es im internen Bereich der TIB eine Informationsseite, auf der aktuellen Frage beantwortet werden und neuste Entwicklungen bewertet werden. Weiter sind Workshops und Webinare für die interne Umsetzung geplant.

[1] Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz