KI-Nutzung an der Universität zu Köln

Das Thema (generative) Künstliche Intelligenz (KI) betrifft alle Leistungsdimensionen und Bereiche der Universität zu Köln. Dies umfasst z. B. die KI-Forschung, die Nutzung von KI-Werkzeugen in der Forschung, die Nutzung von KI im Kontext des Lehrens und Lernens inklusive der Kompetenzvermittlung sowie vielfältige Einsatzzwecke in der Verwaltung und im Hochschulmanagement. 

Aus diesen unterschiedlichen Bereichen ergeben sich eine Vielzahl an Use-Cases und entsprechenden (spezialisierten) Bedarfen. Im Folgenden sind aktuelle und geplante übergreifende Angebote beschrieben.

Hintergründe – Eigene und kommerzielle Angebote sowie Bereitstellungsmodi

Wir streben aus verschiedenen Gründen, z. B. Finanzierung, Compliance, Sicherheit und Datensouveränität, ein gemischtes Modell aus "eigenen" und kommerziellen Angeboten an. Konkret stellt sich das z.B. in der angestrebten Bereitstellung von sowohl offenen Modellen sowie kommerziellen Modellen dar. 

Darüber hinaus werden unterschiedliche Modi der Bereitstellung angestrebt: Der Zugang auf bestimmten KI-Anwendungen in der Cloud, die Bereitstellung von Schnittstellen (APIs), z.B. zur Nutzung eigener Software oder in der Forschung, sowie die Nutzung von Modellen auf eigener, z.B. auch lokaler, Hardware. 

Übersicht über verfügbare und geplante KI-Angebote 

Um die vielfältigen und unterschiedlichen Bedarfe der Universität zu Köln im Bereich der KI-Werkzeuge abzubilden, setzen wir auf eine Vielfalt von Werkzeugen, mit dem Ziel, ein umfassendes KI-Angebot aufzubauen, welches möglichst viele Use-Cases adressiert. Hierzu wurde ein Säulenmodell entwickelt, um möglichst viele Bedarfe zielgruppenorientiert und mit effizientem Einsatz personeller, technischer und monetärer Ressourcen abzudecken. Diese Säulen werden im Folgenden beschrieben. 

Wichtig: Grundlage der Nutzung von KI an der Universität zu Köln ist die KI-Richtlinie. Diese wurde in Zusammenarbeit mit einer externen Beratungsfirma, einer externen Kanzlei, dem Justitiariat sowie dem Prorektorat für Studium und Lehre entwickelt und durch das Rektorat sowie die Personalräte ratifiziert. Ergänzt wird sie durch die FAQs zur Richtlinie sowie eine Whitelist für KI-Anwendungen.

Säule 1: LLMs auf dem High Performance Computer / Open Source-KI.nrw

In Kooperation mit der Ruhr-Universität Bochum wurden im Kontext des Open Source-KI.nrw Projektes (OSKI.nrw) mit Förderung des MKW (Ministerium für Kultur und Wissenschaft NRW) verschiedene hochperformante Grafikkarten der Firma NVidia für Training und Interferenz beschafft und in unserem neuen High Performance Computers "RAMSES" integriert. 

Ziel ist die Bereitstellung allgemein verfügbarer und mit eigenen Inhalten erweiterten (via Retrieval Augmented Generation) Large Language Models (LLM) unter Verwendung eines gemeinsam mit anderen NRW-Hochschulen entwickelten Frontends, und damit die professionelle Nutzung performanter KI-Modelle auf lokaler Hardware in Forschung und Lehre. Hierfür werden nicht nur die monetären Ressourcen des MKW sowie durch RAMSES verfügbare Technologie eingesetzt, das ITCC hat hierfür auch explizit Personal mit der Erstellung und Ausweitung des Angebots beauftragt. 2026 ist der deutliche Ausbau mit Ressourcen, Modellen und Optionen geplant.

Der Zugang erfolgt über: https://chat.kiconnect.nrw

Zielgruppe(n): Beschäftigte und Studierende in Forschung und Lehre 

Aktueller Status: Verfügbar, weiterer Ausbau geplant.

Säule 2: Zugänge für kommerzielle Modelle 

Unter besonderer Berücksichtigung von Datenschutz sowie -klassifizierung ermöglicht die KI-Richtlinie auch die Nutzung bestimmter kommerzieller KI-Modelle. Die Rahmenverträge für die Nutzung der OCRE-Cloud-Dienste stehen bereits zur Verfügung und die Möglichkeiten und Optionen werden derzeit gemeinsam mit den beteiligten Firmen geprüft. Der Kooperationsvertrag bzgl. KI:connect wurde unterzeichnet. Auf der Basis dieser Dienste müssen dann individuelle Vereinbarungen getroffen werden. Hierbei ist auch die Verteilung der Kosten bzw. die entsprechenden Abrechnungsmodalitäten zu klären. 

Zielgruppe(n): Beschäftigte 

Aktueller Status: Rahmenverträge und Optionen in Prüfung

Geplante Verfügbarkeit: Ende Q1/2026

Säule 3: KI in der zentralen Universitätsverwaltung

Das ITCC hat im Rahmen der in Säule 1 genannten Hardwarebeschaffungen auch die Möglichkeit, spezialisierte Modelle für bestimmte Anwendungsszenarien in der Universitätsverwaltung auf der dedizierten Hardware in Betrieb zu nehmen und über ein eigenes Frontend verfügbar zu machen. Zielsetzung ist hier, ein Sicherheits- und Datenschutzniveau zu erreichen, um auch mit internen Dokumenten arbeiten zu können. 

Zielgruppe(n): Beschäftigte und Anwendungen in der zentralen Universitätsverwaltung 

Aktueller Status: Prototypisch wurden bereits Modelle in Betrieb genommen, weitere Szenarien ab Q1/2026 möglich sowie allgemeine Integration in Anwendungen geplant für Q2/2026

Säule 4: Einstiegsmodell für erste Experimente

Diese Säule soll individuellen KI-affinen Interessent:innen sowie Forschungsgruppen und Instituten den niedrigschwelligen Einstieg in die Entwicklung von KI-(gestützten-)Anwendungen und das "einfach mal ausprobieren" ermöglichen. Das Angebot wird vorhandene Ressourcen nutzen und hierbei bewusst keine besonders hohe Performance bieten, sondern den Fokus auf allgemeine Verfügbarkeit und Einsteigerfreundlichkeit legen. Hierzu werden Technologien wie Containerisierung und Orchestrierung verwendet, die Realisierung erfolgt im Rahmen NRW- und Deutschland-weiter Kooperationsprojekte.

Zielgruppe(n): KI-Entwickler:innen, Forschungsgruppen 

Aktueller Status: In Vorbereitung. 

Geplante Verfügbarkeit Q3/2026 

Säule 5: KI auf eigenen Endgeräten

Durch die zunehmende Verfügbarkeit von kleineren, aber dennoch leistungsfähigen KI-Modellen ist es möglich geworden, diese Modelle auch auf eigenen (leistungsstarken) Endgeräten, z. B. Laptops, zu betreiben. Dieser Ansatz sorgt dafür, dass keine Daten das Endgerät verlassen und ein extrem hohes Level an Datenschutz, Sicherheit und Kontrolle erreicht werden kann. 

Beispielsweise ist es möglich, mit Programmen wie LM Studio, Jan oder GPT4All Modelle auf dem eigenen Endgerät in einer bekannten Oberfläche zu nutzen. Die Performanz der Modelle hängt dabei jedoch stark von der Größe des Modells sowie der verfügbaren Hardware, z. B. der Verfügbarkeit einer Grafikkarte im Laptop, ab. Die "Bereitstellung" bzw. das Angebot beschränkt sich hier in erster Linie auf die Bereitstellung einer Anleitung bzw. einer kurzen Handreichung zur Nutzung von KI-Modellen auf eigenen Endgeräten. 

Zielgruppe(n): Beschäftigte und Studierende in Forschung und Lehre

Aktueller Status: Eine Anleitung bzw. Handreichung ist in Planung