Glossar zum Thema Künstliche Intelligenz
| Anonyme Daten | Daten, die nicht personenbezogen sind, sich also nicht auf eine identifizierte oder (durch Zusatzwissen) identifizierbare natürliche Person beziehen |
| Auftragsverarbeitungsvertrag („AVV“) | Ein datenschutzrechtlicher Vertrag gem. Art. 28 DSGVO, unter dem ein Auftragsverarbeiter personenbezogene Daten nur im Auftrag und nach Weisung des Verantwortlichen verarbeitet |
| Auskunftsverlangen | Ein (ggfls. auch formlos mögliches) Begehren einer natürlichen Person, Auskunft gem. Art. 15 DSGVO über die zu ihrer Person verarbeiteten personenbezogenen Daten zu erhalten |
| Bias (in KI) | Ein Phänomen von KI-Systemen, bei dem das KI-System z. B. aufgrund der einem Modell zugrundeliegenden Trainingsdaten systematisch verzerrte („voreingenommene“) Ergebnisse liefert, die bestimmte Gruppen oder Individuen ungerecht bevorzugen oder benachteiligen. |
| Copyleft | Die Verpflichtung in bestimmten urheberrechtlichen Lizenzbedingungen von Open Source Software, jegliche Bearbeitung des Werks (z. B. Erweiterung, Veränderung) unter die Lizenz des ursprünglichen Werks zu stellen und damit ihrerseits der Allgemeinheit zur Nutzung zu überlassen. |
| Datenschutzrecht | Teil des (Verwaltungs-)rechts, der die informationelle Selbstbestimmung natürlicher Personen schützt. Für die Universität vor allem geregelt in der Datenschutzgrundverordnung („DSGVO“) und dem Datenschutzgesetz NRW (DSG NRW) und einer Vielzahl von Spezialgesetzen (z. B. das DDG). |
| DSGVO | Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung) |
| Deepfake | „Deepfake“ meint gemäß Art. 3 Nr. 60 KI-VO einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Nach Art. 50 Abs. 4 KI-VO muss bei Deepfakes grundsätzlich offenleget werden, dass die Inhalte künstlich erzeugt oder manipuliert wurden. |
| Diskriminierung | Benachteiligung von Personen oder Personengruppen aufgrund unzulässiger Unterscheidungsmerkmale (vgl. Art. 3 Abs. 2 und 3 GG, Art. 21 der Charta der Grundrechte der Europäischen Union, § 1 AGG) wie beispielsweise das Geschlecht, die ethnische Herkunft oder die sexuelle Identität ab. Im Bereich des Beschäftigtendatenschutzrechts hat jedoch auch der allgemeine Gleichheitssatz eine besondere Bedeutung. |
| Exit-Strategie | Ausstiegs- oder Rückzugsstrategie bzw. Kosten- und Risikomanagement, hier in Bezug auf die Datenverarbeitung in IT-Systemen Dritter (z. B. Clouddienste) |
| GeschGehG | Gesetz zum Schutz von Geschäftsgeheimnissen vom 18. April 2019 |
| Halluzinieren | (auch Konfabulieren) Phänomen von KI-Systemen, bei denen das KI-System falsche Informationen oder Fakten erfindet, die nicht auf realen Daten oder Ereignissen beruhen |
| Hochrisiko-KI | KI-Systeme i. S. d. Art. 6 der KI-VO, die aufgrund ihrer hohen Risiken besonderen gesetzlichen Anforderungen (u. a. an das Risikomanagement, ihre Dokumentation und Transparenz) unterliegen. |
| Human-in-the-Loop | Human-in-the-Loop (HITL) bezeichnet einen Ansatz, bei dem Menschen direkt in den Entscheidungsprozess eines KI-Systems eingebunden sind. HITL wird insbesondere in sicherheitskritischen oder sensiblen Anwendungsbereichen eingesetzt, in denen automatisierte Systeme noch nicht zuverlässig genug sind. |
| Human-on-the-Loop | Human-on-the-Loop (HOTL) ist eine Erweiterung von Human-in-the-Loop, bei der Menschen das KI-System durch Feedback, Korrekturen und zusätzliche Trainingsdaten kontinuierlich verbessern. HOTL kommt häufig zum Einsatz, wenn die KI bereits ein gewisses Leistungsniveau erreicht hat, aber weiterhin menschliche Anleitung benötigt. |
| Input Daten | Daten, die in ein KI-System eingegeben werden |
| KI-System | Ist nach Art. 3 Nr. 1 KI-VO ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. Ein KI-System ist also ein vollständiges Software- oder Hardwaresystem, das KI-Modelle in reale Anwendungen integriert. Siehe auch: Leitlinien der EU-Kommission zur Definition eines Systems der künstlichen Intelligenz |
| KI-Modell | Ist der technische (mathematische oder algorithmische) Kern eines KI-Systems. Ohne weitere Komponenten (Schnittstellen, Dateneingabe) ist es nicht nutzbar. |
| Lokal / On-Device | Ausführung von KI-Modellen oder Anwendungen direkt auf Endgeräten (z. B. Smartphones, Notebooks, Edge-Geräte). |
| Löschungsverlangen | Ein (ggfls. auch formlos mögliches) Begehren einer natürlichen Person, gem. Art. 17 DSGVO die Löschung der zu ihrer Person verarbeiteten personenbezogenen Daten zu verlangen. |
| Need-to-know | Grundlegendes Prinzip der Informationssicherheit und des Datenschutzes, das vorschreibt, den Zugriff auf Informationen nur autorisiertem Personal zu gewähren, das diese Informationen zur Ausübung seiner beruflichen Aufgaben benötigt |
| Output Daten | Daten (Ergebnisse), die in ein KI-System auswirft |
| Personenbezogene Daten | Daten, die sich auf eine identifizierte oder (durch Zusatzwissen) identifizierbare natürliche Person beziehen |
| Private Cloud im Uni-Tenant | Betrieb in der universitären Cloud-Umgebung mit uniweiten Standards und cloud-nativen Betriebsprozessen. |
| Provider | Dienstleister, der (IT-)-Leistungen erbringt bzw. Services ermöglicht oder vorhält |
| Public Cloud SaaS/API | Public Cloud SaaS / API bezeichnet cloudbasierte Dienste, die über das Internet von Drittanbietern wie Microsoft Azure, AWS oder Google Cloud bereitgestellt werden – entweder als komplette Anwendungen (SaaS) oder als zugängliche Schnittstellen (APIs). |
| RAG-Wissensbasen | RAG (Retrieval-Augmented Generation) -Wissensbasen kombinieren eine semantische Suche in externen Dokumenten mit einem Large Language Model (LLM), das auf Basis der gefundenen Inhalte Antworten generiert – ohne dass das LLM selbst nachtrainiert werden muss. Dadurch kann aktuelles oder unternehmensspezifisches Wissen flexibel genutzt werden, ohne das Modell neu anzupassen. |
| Risikomodell | Dokumentation der Risiken eines KI-Modells und der zu ihrer Reduzierung getroffenen Maßnahmen |
| Self-Hosted (Open-Source oder lizensiert) | Betrieb zentral auf eigener Infrastruktur mit klarer Betriebsverantwortung. |
| Synthetische (Trainings-)Daten | Künstlich erzeugte Daten, die nicht aus echten Quellen stammen und keinen Bezug zu echten natürlichen Personen aufweisen |
| Trainings- und Testdaten | Trainings- und Testdaten sind zentrale Bestandteile im maschinellen Lernen: Trainingsdaten werden verwendet, um ein Modell zu entwickeln und Muster zu erkennen, während Testdaten zur unabhängigen Bewertung der Modellleistung auf unbekannten Daten dienen. |
| TOM | Technisch- Organisatorische Maßnahmen, die im Datenschutz die Sicherheit der Verarbeitung von personenbezogenen Daten gewährleisten sollen. |
Aktuell:
Informationen zu Tools für kollaboratives Arbeiten im Homeoffice
Kontakt
Bei Fragen und für individuellen Support wenden Sie sich bitte an den
ITCC-Helpdesk