KI-Glossar: Die wichtigsten Begriffe für Wissenschaft und Forschung

Künstliche Intelligenz wird bereits in zahlreiche wissenschaftliche Arbeitsweisen integriert: wissenschaftliches Monitoring, quantitative und qualitative Datenanalyse, das Verfassen wissenschaftlicher Artikel, Programmierung, Kommunikation, Bildanalyse oder die Automatisierung bestimmter Aufgaben mithilfe spezialisierter Assistenten. Dennoch bleibt das Vokabular, mit dem über diese Technologien gesprochen wird, häufig unklar.

Für Forschende und Wissenschaftler ist das Verständnis dieser Begriffe nicht nur eine Frage des technischen Vokabulars. Es ist ein erster Schritt, um Tools zu bewerten, relevante Anwendungsfälle zu identifizieren und ihre methodischen, ethischen und wissenschaftlichen Grenzen besser zu verstehen.

Deshalb haben wir für Sie ein KI-Glossar mit den wichtigsten Begriffen aus Wissenschaft und Forschung zusammengestellt, das in 5 Abschnitte gegliedert ist:

Die verschiedenen Formen der Künstlichen Intelligenz:

Künstliche Intelligenz  ▪  Analytische KI  ▪  Prädiktive KI  ▪  Generative KI  ▪  Multimodale KI  ▪  Allgemeine Künstliche Intelligenz

Die grundlegenden Bausteine von KI-Systemen:

Machine Learning  ▪  Deep Learning  ▪  NLP  ▪  LLM  ▪  Token

Interaktionstools:

Chatbot  ▪  KI-Assistent  ▪  KI-Agent

Techniken zur Anpassung und Anbindung von KI-Systemen:

Prompt Engineering  ▪  RAG  ▪  Fine-Tuning  ▪  MCP

Wichtige Risiken:

KI-Halluzination  ▪  Algorithmischer Bias  ▪  Shadow IA

Möchten Sie mehr über KI erfahren?

Entdecken Sie unseren Bereich KI-Fokus

Unsere Artikel sind Teil unseres KI-Beratungs- und Begleitangebots EFFISCIANCE das sich der Nutzung von KI für die Wissenschaft widmet.

Entdecken Sie alle unsere Artikel

Die verschiedenen Formen der Künstlichen Intelligenz

Von der Datenanalyse bis zur Generierung von Inhalten deckt Künstliche Intelligenz vielfältige Anwendungsbereiche ab. Entdecken Sie die wichtigsten Formen von KI, welche Möglichkeiten sie in der Forschung eröffnen und welche Perspektiven sie für die wissenschaftlichen Arbeitsweisen von morgen bieten.

# Künstliche Intelligenz

Künstliche Intelligenz, kurz KI, bezeichnet eine Reihe von Methoden und Systemen, die Aufgaben ausführen können, für die typischerweise bestimmte menschliche kognitive Fähigkeiten erforderlich sind: klassifizieren, vorhersagen, Muster erkennen, Texte analysieren, Inhalte generieren oder Entscheidungen unterstützen. Es handelt sich nicht um eine einzelne Technologie, sondern um eine Familie sehr unterschiedlicher Ansätze – von spezialisierten statistischen Modellen bis hin zu generativen Systemen.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
In einem wissenschaftlichen Kontext muss KI stets im Hinblick auf ihren konkreten Einsatz bewertet werden:

• Welche Daten verwendet sie?
• Welche Ergebnisse erzeugt sie?
• Wie werden diese Ergebnisse überprüft?
• Können sie reproduziert, erklärt oder dokumentiert werden?

Grenze oder wichtiger Hinweis
KI kann bestimmte Phasen wissenschaftlicher Arbeit unterstützen, stellt jedoch selbst keinen Beweis dar. Die Qualität ihrer Ergebnisse hängt von der Aufgabenstellung, den Daten, den Anweisungen, dem verwendeten Modell und dem Validierungsprozess ab.

# Analytische KI

Analytische KI bezeichnet den Einsatz künstlicher Intelligenz zur Analyse, Strukturierung und Interpretation vorhandener Daten. Ihr Ziel ist nicht die Erstellung neuer Inhalte, sondern die Gewinnung nützlicher Informationen aus bereits vorhandenen Daten.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Einen Datensatz erkunden, Trends erkennen, Beobachtungen segmentieren, Anomalien feststellen oder Beziehungen zwischen Variablen identifizieren. Sie lässt sich sowohl auf quantitative als auch auf textuelle und visuelle Daten oder auf Daten aus Messinstrumenten anwenden.

Grenze oder wichtiger Hinweis
Analytische KI ersetzt keine wissenschaftliche Analyse. Sie hilft dabei, Informationen zu verarbeiten und zu ordnen; ihre Interpretation hängt jedoch weiterhin vom Protokoll, dem methodischen Rahmen, der Datenqualität und dem Urteil der Forschenden ab. Ein algorithmisch erzeugtes Ergebnis ist nicht automatisch wissenschaftlich valide.

# Prädiktive KI

Prädiktive KI umfasst Modelle, die dazu entwickelt wurden, auf Grundlage vorhandener Daten ein zukünftiges, wahrscheinliches oder noch nicht beobachtetes Ergebnis zu schätzen. Sie wird im Allgemeinen als Teilbereich der analytischen KI betrachtet: Jede prädiktive KI ist analytisch, aber nicht umgekehrt.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Prädiktive KI kann in zahlreichen Bereichen eingesetzt werden: bei Zeitreihenprognosen, der Modellierung biologischer Phänomene, der Schätzung gesundheitlicher Risiken, der Vorhersage chemischer Eigenschaften, der Antizipation experimenteller Ergebnisse oder zur Entscheidungsunterstützung in komplexen Systemen.

Grenze oder wichtiger Hinweis
Eine Vorhersage ist keine Erklärung. Ein Modell kann nützliche Korrelationen erkennen, ohne einen kausalen Zusammenhang nachzuweisen. Seine Gültigkeit hängt von der Qualität der Trainingsdaten, der Repräsentativität der Stichprobe, der Auswahl der Variablen, der Stabilität des untersuchten Phänomens und der Evaluierung anhand unabhängiger Daten ab.

# Generative KI

Generative KI bezeichnet eine Modellfamilie, die in der Lage ist, aus einem Prompt oder Kontext neue Inhalte zu erzeugen: Texte, Bilder, Code, Audio, Videos, Zusammenfassungen oder Übersetzungen. Große Sprachmodelle (LLMs) sind das bekannteste Beispiel, wenn sie textbasierte Antworten generieren.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Einen Abschnitt umformulieren, eine Gliederung erstellen, ein Dokument zusammenfassen, Code generieren oder debuggen, bei Übersetzungen unterstützen, eine erste Version von Lehrmaterial erstellen oder ein Thema erkunden. In einigen Fachgebieten schlagen generative Modelle außerdem Molekülstrukturen, Sequenzen oder Szenarien vor, die anschließend getestet werden können.

Grenze oder wichtiger Hinweis
Generieren ist kein Beweisen. Generative KI erzeugt auf Grundlage erlernter Muster plausible Inhalte: Sie garantiert weder die Richtigkeit einer Aussage noch die Gültigkeit einer Quelle oder die Stichhaltigkeit einer Argumentation. Generierte Inhalte müssen geprüft, verifiziert, mit Quellen belegt und in einen klaren methodischen Rahmen eingeordnet werden.

# Multimodale KI

Multimodale KI bezeichnet Systeme, die verschiedene Arten von Informationen oder Modalitäten verarbeiten können: Texte, Bilder, Audio, Videos, Tabellen, Diagramme oder komplexe Dokumente. Sie ist weniger eine eigenständige Familie als vielmehr eine Fähigkeit, die sowohl auf analytische als auch auf generative KI angewendet werden kann.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Diese Fähigkeit eröffnet interessante Möglichkeiten: bei der Analyse experimenteller Bilder, der unterstützten Auswertung von Diagrammen, der Untersuchung wissenschaftlicher Dokumente, die Text und Abbildungen kombinieren, der Beschreibung von Abbildungen oder der kombinierten Verarbeitung textueller und visueller Daten.

Grenze oder wichtiger Hinweis
Ein multimodales Modell kann ein Bild falsch interpretieren, visuelle Elemente verwechseln, den experimentellen Kontext übersehen oder eine überzeugende, aber fehlerhafte Beschreibung erzeugen. Es unterstützt die Analyse, ersetzt jedoch weder Fachwissen noch die Validierung durch anerkannte Methoden.

# Allgemeine KI

Allgemeine Künstliche Intelligenz, auch Superintelligenz genannt, bezeichnet die Hypothese eines Systems, das in der Lage ist, über eine große Bandbreite von Aufgaben und Fachgebieten hinweg zu lernen, zu schlussfolgern und sein Wissen zu übertragen, ohne für einen bestimmten Zweck entwickelt worden zu sein. Sie ist bis heute theoretisch und könnte einen bedeutenden Wendepunkt darstellen, da sie sich an neue Probleme anpassen und ihre Fähigkeiten in vielen Bereichen potenziell in größerem Maßstab, mit höherer Geschwindigkeit und größerer Vielseitigkeit als Menschen einsetzen könnte.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Die allgemeine Künstliche Intelligenz fördert Diskussionen über die Automatisierung komplexer Aufgaben, wissenschaftliche Entdeckungen und die Lösung interdisziplinärer Probleme. Sie könnte Forschende eines Tages bei Aufgaben unterstützen, die ein hohes Maß an Anpassungsfähigkeit und Schlussfolgerungsvermögen erfordern.

Grenze oder wichtiger Hinweis
Es gibt weder eine einheitliche Definition noch eine allgemein anerkannte Evaluierungsmethode. Die heutigen Systeme gelten, selbst wenn sie sehr vielseitig sind, nicht als allgemeine KI. Ankündigungen, in denen eine Technologie als AGI bezeichnet wird, sollten daher mit Vorsicht geprüft werden.

Die grundlegenden Bausteine von KI-Systemen

Diese Begriffe beschreiben die wichtigsten Grundlagen, die es KI-Systemen ermöglichen, aus Daten zu lernen, Sprache zu verarbeiten und Ergebnisse zu erzeugen. Ihr Verständnis hilft dabei, ihre Einsatzmöglichkeiten in der Forschung besser einzuschätzen.

# Machine Learning

Machine Learning, auch maschinelles Lernen genannt, ist ein Teilgebiet der Künstlichen Intelligenz, das einem System ermöglicht, aus Daten zu lernen. Anstatt vorab festgelegten Regeln zu folgen, erkennt das Modell Muster in einem Datensatz, um Vorhersagen, Klassifikationen oder Empfehlungen zu erstellen. Es bildet die technische Grundlage für die meisten oben vorgestellten Formen von KI, unabhängig davon, ob sie analytisch, prädiktiv oder generativ sind.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Bilder klassifizieren, Anomalien erkennen, Zeitreihen analysieren, ein experimentelles Ergebnis vorhersagen, Beobachtungen segmentieren oder große Datenmengen untersuchen. Machine Learning ist heute eine der am längsten in wissenschaftlichen Arbeitsweisen etablierten Formen von KI – lange vor der Einführung generativer Tools.

Grenze oder wichtiger Hinweis
Ein Modell, das auf einem Testdatensatz gute Ergebnisse erzielt, kann sich in einem anderen Kontext als unzuverlässig erweisen. Sein Einsatz setzt daher eine explizite Auseinandersetzung mit der Qualität und Repräsentativität der Daten, der Auswahl der Variablen, dem Overfitting und den Bedingungen der Generalisierbarkeit voraus. Ein guter Wert auf Evaluierungsdaten reicht nicht aus, um ein Modell für den wissenschaftlichen Einsatz zu validieren.

# Deep Learning

Deep Learning ist ein Teilbereich des Machine Learning, der auf neuronalen Netzen mit mehreren Verarbeitungsschichten basiert. Es eignet sich besonders für komplexe Daten: Bilder, Sprache, Töne, Signale, Sequenzen oder große Dokumentenkorpora.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Für die Erkennung und Segmentierung wissenschaftlicher Bilder, die Verarbeitung natürlicher Sprache, die Signalanalyse, die Vorhersage biologischer Strukturen oder die Nutzung großer Korpora. Die meisten aktuellen generativen Modelle und großen Sprachmodelle basieren auf diesen Ansätzen.

Grenze oder wichtiger Hinweis
Deep Learning benötigt in der Regel große Datenmengen und erhebliche Rechenressourcen, was Fragen zu Kosten und ökologischen Auswirkungen aufwirft. Die internen Abläufe sind außerdem schwer interpretierbar, mit direkten Auswirkungen auf Transparenz, Reproduzierbarkeit und Vertrauen in veröffentlichte Ergebnisse.

# NLP

NLP steht für Natural Language Processing und umfasst Methoden, die es einem Computersystem ermöglichen, menschliche Sprache zu analysieren, zu transformieren oder zu generieren.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Artikelkorpora analysieren, Konzepte extrahieren, Dokumente klassifizieren, benannte Entitäten erkennen, Interviewtranskripte codieren, Texte zusammenfassen oder das wissenschaftliche Literaturmonitoring unterstützen. NLP ist besonders in Disziplinen nützlich, in denen Literatur, Archive und Textdaten eine zentrale Rolle spielen.

Grenze oder wichtiger Hinweis
NLP ist nicht auf generative KI beschränkt. Viele Methoden, die bereits vor der Entwicklung von LLMs existierten, eignen sich weiterhin besser für bestimmte Aufgaben – insbesondere dann, wenn Reproduzierbarkeit, Transparenz oder Kontrolle über die Verarbeitung Priorität haben. Ein LLM standardmäßig für eine Klassifikations- oder Extraktionsaufgabe einzusetzen, kann zu einem weniger zuverlässigen und schlechter dokumentierbaren Ergebnis führen als eine klassische Methode.

# LLM

Ein LLM, kurz für Large Language Model, ist ein Deep-Learning-Modell, das auf sehr umfangreichen Textkorpora trainiert wurde. Es kann Sprache generieren, umformulieren, übersetzen, zusammenfassen oder strukturieren, Code erstellen, Dokumente analysieren oder in spezialisierte Tools integriert werden. Sein Grundprinzip beruht auf der Vorhersage von Tokenfolgen, also von Wörtern oder Wortfragmenten.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Ein Thema erkunden, einen Text umformulieren, eine Zusammenfassung erstellen, die Gliederung eines Artikels generieren, bei der Programmierung unterstützen, übersetzen oder Inhalte für ein nicht spezialisiertes Publikum anpassen. LLMs bilden den technischen Baustein, auf dem die meisten oben vorgestellten Anwendungen generativer KI beruhen.

Grenze oder wichtiger Hinweis
Die sprachliche Flüssigkeit einer Antwort sagt nichts über ihre Richtigkeit aus. Ein LLM kann einen strukturierten und überzeugenden Text erzeugen, ohne dass die darin enthaltenen Fakten, Quellen oder Schlussfolgerungen korrekt sind. Es darf niemals als alleinige Quelle der Wahrheit dienen: Literaturangaben, Zahlen und Schlussfolgerungen müssen anhand von Primärquellen überprüft werden.

# Token

Ein Token ist eine Texteinheit, die ein Sprachmodell zur Analyse und Generierung von Inhalten verwendet. Je nach Modell und Sprache kann ein Token einem Wort, einem Wortteil, einem Satzzeichen oder einem Leerzeichen entsprechen. Bevor das Modell einen Prompt oder ein Dokument verarbeitet, wandelt es den Text in eine Folge von Tokens um.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Das Verständnis von Tokens hilft dabei, die Funktionsweise und die Grenzen von LLMs besser zu erfassen. Die Anzahl der Tokens bestimmt insbesondere, wie viel Text ein Modell in einer einzelnen Anfrage berücksichtigen kann. Dies ist beispielsweise bei der Analyse eines langen Artikels, der Abfrage eines Korpus oder der Entwicklung eines RAG-Systems von Bedeutung. Tokens beeinflussen außerdem die Kosten und mitunter die Geschwindigkeit der Verarbeitung.

Grenze oder wichtiger Hinweis
Ein Token entspricht nicht notwendigerweise einem Wort. Seine Anzahl variiert je nach Sprache, Modell und Textstruktur. Sie misst die Menge des verarbeiteten Textes, sagt jedoch weder etwas über dessen Qualität noch über seine wissenschaftliche Komplexität aus.

Interaktionstools

Die folgenden Begriffe bezeichnen verschiedene Möglichkeiten, mit einem System der Künstlichen Intelligenz zu interagieren. Da diese Bezeichnungen je nach Anbieter variieren, verwenden wir sie hier als praktische Orientierungspunkte – insbesondere im Hinblick auf den Grad der Autonomie, der dem System übertragen wird.

# Chatbot

Ein Chatbot ist eine dialogorientierte Benutzeroberfläche, die den Austausch mit einem Computersystem in Form von Fragen und Antworten ermöglicht. Frühere Chatbots basieren auf vordefinierten Szenarien, während neuere auf Sprachmodellen aufbauen, die offene Antworten generieren können.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Nutzer zu Ressourcen weiterleiten, häufige Fragen zu einer Plattform oder Infrastruktur beantworten, bei der Navigation in interner Dokumentation helfen oder eine erste Unterstützung bei einer Software oder einem Verfahren bieten. Es handelt sich eher um eine unterstützende Anwendung als um wissenschaftliche Produktion.

Grenze oder wichtiger Hinweis
Ein Chatbot antwortet, versteht jedoch den Kontext der Frage nicht. Die Antworten können zu allgemein, unvollständig oder nicht überprüft sein. Je technischer oder sensibler das Thema ist, desto wichtiger ist es, seinen Zuständigkeitsbereich, seine Quellen und das Datum der letzten Aktualisierung genau zu kennen.

# KI-Assistent

Ein KI-Assistent ist ein KI-System, das mit den von der Nutzerin oder dem Nutzer bereitgestellten Daten und Dokumenten angereichert und mit spezifischen Anweisungen vorkonfiguriert ist. Er ist daher auf eine bestimmte Aufgabe ausgerichtet (Verfassen, Umformulieren, Zusammenfassen, Ordnen von Ideen, Generieren von Code, Bearbeiten eines Dokuments, Strukturieren einer Analyse) und auf diese Aufgabe spezialisiert. Er geht über einen einfachen Frage-Antwort-Austausch hinaus, wobei der Mensch im Mittelpunkt bleibt: Die Nutzerin oder der Nutzer entscheidet Schritt für Schritt.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Für Forschende oder Promovierende kann ein KI-Assistent bei zeitaufwändigen Aufgaben unterstützen: eine Forschungsfrage präzisieren, die Gliederung eines Artikels vorbereiten, ein Abstract umformulieren, einen Interviewleitfaden erstellen, ein Skript erklären oder Inhalte für ein nicht spezialisiertes Publikum anpassen.

Grenze oder wichtiger Hinweis
Ein KI-Assistent beschleunigt die Erstellung von Inhalten, garantiert jedoch nicht deren wissenschaftliche Relevanz. Seine Wirksamkeit hängt von der Qualität dessen ab, womit er gespeist wird (Anweisungen, bereitgestellte Dokumente), sowie von der präzisen Formulierung jeder Anfrage. Eine fachkundige Prüfung und eine systematische Überprüfung der Fakten bleiben unerlässlich. Die vermeintliche Zeitersparnis kann sich in einen Zeitverlust verwandeln, wenn die Prüfungsphase vernachlässigt wird.

# KI-Agent

Ein KI-Agent ist ein System, das mehrere Aktionen miteinander verknüpfen kann, um ein Ziel zu erreichen. Während ein Assistent bei jedem Schritt auf eine Anweisung wartet, kann ein Agent Tools nutzen, Datenbanken abfragen, eine Aufgabenfolge organisieren, Dateien erstellen oder Aktionen in einer digitalen Umgebung auslösen.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Ein Dokumentenkorpus abfragen, Informationen extrahieren und strukturieren, eine Zusammenfassung oder einen Bericht erstellen, ein regelmäßiges Literaturmonitoring automatisieren oder bestimmte Phasen eines Analyse-Workflows koordinieren. Dies ist der Punkt, an dem KI nicht mehr nur als punktuelles Tool eingesetzt wird, sondern in einen Prozess eingebettet ist.

Grenze oder wichtiger Hinweis
Diese Autonomie bleibt jedoch relativ und muss klar geregelt werden. Je mehr Aktionen ein Agent miteinander verknüpft, desto größer wird das Risiko kumulierter Fehler. Daher ist es unerlässlich, die einzelnen Schritte zu dokumentieren, die Quellen zu überprüfen, Zugriffsrechte zu beschränken und klar festzulegen, was automatisiert, unterstützt oder zwingend durch den Menschen validiert werden muss.

Techniken zur Anpassung und Anbindung von KI-Systemen

Diese Begriffe beschreiben verschiedene Möglichkeiten, ein KI-System zu steuern, zu spezialisieren oder mit anderen Systemen zu verbinden. Sie wirken auf unterschiedlichen Ebenen und erfüllen verschiedene Anforderungen.

# Prompt Engineering

Prompt Engineering bezeichnet die Entwicklung, Formulierung und Optimierung der Anweisungen, die einem generativen KI-Modell gegeben werden. Ein Prompt kann in Form einer einfachen Frage oder einer strukturierten Anweisung erfolgen, die den Kontext, das Ziel, das erwartete Format, den Detailgrad und die Qualitätskriterien festlegt.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Im wissenschaftlichen Kontext ist Prompt Engineering hilfreich, um relevantere und besser nutzbare Antworten zu erhalten. Forschende können beispielsweise eine KI bitten, eine Hypothese umzuformulieren, zwei methodische Ansätze zu vergleichen, eine Gliederung für eine Literaturübersicht vorzuschlagen oder mögliche Einschränkungen eines Protokolls zu identifizieren.

Grenze oder wichtiger Hinweis
Eine gut formulierte Anweisung garantiert keine korrekte Antwort. Die Qualität des Ergebnisses hängt auch vom verwendeten Modell, den verfügbaren Daten, dem bereitgestellten Kontext, den verbundenen Tools und der Überprüfungsmethode ab. Außerdem sollten keine vertraulichen oder sensiblen Daten in einen Prompt eingegeben werden, ohne zuvor zu prüfen, wie das jeweilige Tool diese Daten verarbeitet.

# RAG

RAG, kurz für Retrieval-Augmented Generation, ist eine Architektur, die den Abruf von Informationen aus einer vektorbasierten Dokumentendatenbank mit der Generierung einer Antwort durch ein Sprachmodell verbindet. Das System ruft zunächst relevante Passagen aus einem Korpus ab und übergibt sie anschließend an das Modell, das daraus eine kontextualisierte Antwort erstellt.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Eine Artikeldatenbank abfragen, Informationen in Veröffentlichungen auffinden, einen Korpus zusammenfassen, interne Dokumentationen durchsuchen oder einen auf ein wissenschaftliches Fachgebiet spezialisierten Assistenten entwickeln. RAG kann insbesondere dazu beitragen, eine Antwort direkter mit den Dokumenten zu verknüpfen, die für ihre Erstellung verwendet wurden.

Grenze oder wichtiger Hinweis
RAG beseitigt weder Fehler noch Halluzinationen. Eine Antwort kann weiterhin unzuverlässig sein, wenn der Korpus unvollständig, veraltet oder schlecht strukturiert ist, wenn die falschen Passagen abgerufen werden oder wenn das Modell die Quellen falsch interpretiert. Die Qualität des Ergebnisses hängt daher von der Indexierung, dem Dokumentenabruf, dem verwendeten Korpus und der inhaltlichen Übereinstimmung der generierten Antwort mit den Quellen ab.

# Fine-Tuning

Fine-Tuning bezeichnet die Anpassung eines bestehenden KI-Modells an eine bestimmte Aufgabe, einen Fachbereich oder ein bestimmtes Format mithilfe spezifischer Daten. Anstatt ein Modell von Grund auf zu trainieren, wird ein bereits trainiertes Modell anhand eines zielgerichteten Korpus angepasst.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Ein Modell für eine Klassifikationsaufgabe, eine bestimmte Dokumentenart, ein fachspezifisches Vokabular oder ein bestimmtes Antwortformat spezialisieren. Fine-Tuning kann hilfreich sein, wenn allgemeine Modelle eine konkrete Anforderung nicht ausreichend erfüllen und die Organisation über genügend Trainingsdaten von angemessener Qualität verfügt.

Grenze oder wichtiger Hinweis
Fine-Tuning verändert das Verhalten eines Modells, ist jedoch keine zuverlässige Methode, um ihm aktuelle Kenntnisse zu vermitteln oder die Nachvollziehbarkeit seiner Antworten zu gewährleisten. Für die regelmäßige Abfrage eines sich weiterentwickelnden Dokumentenkorpus ist RAG häufig besser geeignet. Fine-Tuning erfordert außerdem besondere Aufmerksamkeit hinsichtlich der Datenqualität, der Nutzungsrechte, der Vertraulichkeit, möglicher Verzerrungen und der Evaluierung des resultierenden Modells.

Das Wichtigste in Kürze:
RAG verbindet ein Modell mit externen Quellen, während Fine-Tuning das Modell mithilfe zusätzlicher Trainingsdaten anpasst. Beide Ansätze können kombiniert werden, verfolgen jedoch unterschiedliche Ziele.

# MCP

MCP, kurz für Model Context Protocol, ist ein Protokoll, das es einer KI-Anwendung ermöglicht, sich strukturiert mit externen Tools, Daten und Ressourcen zu verbinden. Es kann insbesondere den Zugriff auf Datenbanken, Dokumente, Software, APIs oder Unternehmensanwendungen erleichtern.

Welche Einsatzmöglichkeiten gibt es in der Forschung?
Einen KI-Assistenten mit einem internen Korpus, einer bibliografischen Datenbank, einem Analysetool, einer Programmierumgebung oder einem Labor-Workflow verbinden. Das System kann anschließend Informationen abrufen oder bestimmte Funktionen nutzen, ohne dass die Nutzerin oder der Nutzer jeden Schritt manuell ausführen muss.

Grenze oder wichtiger Hinweis
MCP macht ein Modell nicht automatisch zuverlässiger, leistungsfähiger oder autonomer. Die Sicherheit und Qualität des Systems hängen von den verbundenen Tools, den erteilten Berechtigungen, den zugänglichen Daten und den eingerichteten Kontrollen ab. Eine sorgfältige Implementierung setzt voraus, Berechtigungen zu beschränken, sensible Daten zu schützen, Aktionen zu protokollieren und die erzeugten Ergebnisse zu überprüfen.

Wichtige Risiken

Die mit Künstlicher Intelligenz verbundenen Risiken beschränken sich nicht auf die von Modellen erzeugten Fehler. Ein System kann auch Verzerrungen reproduzieren oder innerhalb einer Organisation ohne klare Regeln eingesetzt werden. Die folgenden Begriffe helfen dabei, diese Risiken und Möglichkeiten zu ihrer Begrenzung besser zu verstehen.

# KI-Halluzination

Eine KI-Halluzination bezeichnet eine von einem System der Künstlichen Intelligenz erzeugte Antwort, die schlüssig erscheint, aber falsche, erfundene, ungenaue oder nicht überprüfbare Informationen enthält. Der Begriff bezieht sich hauptsächlich auf generative Modelle.

Wie kann sich dies in der Forschung zeigen?
Eine Halluzination kann in Form einer nicht existierenden bibliografischen Quelle, einer falschen Zuordnung, einer ungenauen Definition, einer fehlerhaften Interpretation oder einer unbelegten Zahl auftreten. Das Risiko ist besonders hoch, wenn KI für eine Literaturübersicht, eine Methode, ein Protokoll oder eine wissenschaftliche Schlussfolgerung eingesetzt wird.

Wie lässt sich dieses Risiko begrenzen?
Quellen, Zahlen, Zitate und Schlussfolgerungen, die von einer KI erzeugt wurden, müssen anhand zuverlässiger Quellen überprüft werden – idealerweise anhand von Primärquellen. Generative KI kann dabei helfen, Informationen zu erkunden, zu strukturieren oder umzuformulieren, stellt jedoch selbst keine wissenschaftliche Quelle dar.

# Algorithmischer Bias

Ein algorithmischer Bias bezeichnet eine systematische Verzerrung der Ergebnisse, die von einem System der Künstlichen Intelligenz erzeugt oder beeinflusst werden. Er kann auf die Daten, das Modell, die Optimierungskriterien oder den Nutzungskontext zurückzuführen sein.

Wie kann sich dies in der Forschung zeigen?
Ein Modell, das mit nicht ausreichend repräsentativen Daten trainiert wurde, kann bei bestimmten Bevölkerungsgruppen, Sprachen, Disziplinen oder Datentypen schlechtere Ergebnisse liefern. Es kann außerdem Ungleichgewichte reproduzieren, die in der wissenschaftlichen Literatur oder in den für das Training verwendeten Datenbanken vorhanden sind.

Wie lässt sich dieses Risiko begrenzen?
Die Daten müssen dokumentiert, die Leistung in relevanten Untergruppen bewertet, die Ergebnisse mit anderen Methoden verglichen und das Modell anhand unabhängiger Daten getestet werden. Die menschliche Aufsicht bleibt notwendig, muss jedoch durch eine strenge methodische Evaluierung ergänzt werden.

# Shadow IA

Shadow AI bezeichnet die Nutzung von Tools der Künstlichen Intelligenz innerhalb einer Organisation ohne offizielle Freigabe, Transparenz oder Governance. Es handelt sich nicht zwangsläufig um eine böswillige Praxis: Shadow AI entsteht häufig, wenn ein Team schnell auf einen Bedarf reagieren möchte, ohne über geeignete Tools oder klare Regeln zu verfügen.

Wie kann sich dies in der Forschung zeigen?
Eine Forscherin, ein Forscher oder ein Team kann ein externes Tool verwenden, um einen Artikel zusammenzufassen, Daten zu analysieren, einen Text zu korrigieren oder Code zu generieren, ohne die Bedingungen der Datenverarbeitung zu prüfen. Das Risiko ist besonders hoch, wenn unveröffentlichte Ergebnisse, personenbezogene Daten, Protokolle, Code oder vertrauliche Informationen übermittelt werden.

Wie lässt sich dieses Risiko begrenzen?
Die Organisation sollte die tatsächlichen Nutzungen erfassen, eine klare Richtlinie festlegen, zugelassene Tools identifizieren und Daten nach ihrer Sensibilität klassifizieren. Die Schulung der Teams und die Möglichkeit, neue Anwendungsfälle in einem kontrollierten Rahmen zu testen, helfen dabei, Risiken zu begrenzen, ohne sinnvolle Initiativen zu blockieren.

Das Verständnis der grundlegenden Begriffe der Künstlichen Intelligenz bildet eine erste Grundlage, um ihre rasante Entwicklung zu verfolgen und die Nachrichten rund um KI kritisch einzuordnen. Diese Orientierungspunkte helfen dabei, die Möglichkeiten und Grenzen von KI besser zu erfassen, ein gemeinsames Verständnis zu entwickeln und diese Tools sinnvoll einzusetzen. Dieses gemeinsame Verständnis ist der Ausgangspunkt für eine nützliche, zuverlässige und an die Forschungspraxis angepasste Integration von KI.

Die Integration von KI weiter vorantreiben

Auf dieser Grundlage besteht der nächste Schritt darin, das Verständnis von KI in konkrete Anwendungen zu überführen. Dafür müssen die richtigen Tools ausgewählt, relevante Anwendungsfälle identifiziert und ein Rahmen definiert werden, der den Bedürfnissen und Anforderungen jeder Organisation entspricht.

Genau in dieser Logik begleitet RITME seit mehr als 35 Jahren die Akteure der Forschung – mit einem Katalog professioneller Fachsoftware, Schulungen und Begleitservices, die an wissenschaftliche Umgebungen angepasst sind.

In diese Kontinuität fügt sich EFFISCIANCE ein: unser von Wissenschaftlerinnen und Wissenschaftlern für Wissenschaftlerinnen und Wissenschaftler entwickeltes KI-Begleitangebot mit drei komplementären Bausteinen:

• Beratung: zur Klärung von Anwendungsfällen, zur Identifizierung der richtigen Tools und zur Schaffung eines realistischen, sicheren und auf Ihre wissenschaftlichen Herausforderungen zugeschnittenen Rahmens.
• Schulung: zur Entwicklung der Kompetenzen Ihrer Teams und zur Verankerung konkreter Einsatzmöglichkeiten generativer KI im wissenschaftlichen Arbeitsalltag.
• Integration: um identifizierte Anwendungsfälle in konkrete Lösungen zu überführen – ob spezialisierte Assistenten, KI-Agenten oder Automatisierungen wissenschaftlicher Prozesse.

Um diesen Ansatz zu strukturieren, haben wir eine vollständige, modulare KI-Programm entwickelt. Von Einführungssitzungen und Schulungen über die Identifizierung von Anwendungsfällen bis hin zur Integration von Assistenten oder Agenten lässt sie sich an den Reifegrad, die Ziele und die Rahmenbedingungen jeder Organisation anpassen.

---

Bereit, die KI-Transformation Ihrer Organisation erfolgreich zu gestalten?

Kontaktieren Sie unsere Experten, um über Ihr KI-Projekt zu sprechen.