Glossar

Systeme, die Aufgaben nicht nur beantworten, sondern eigenständig in mehreren Schritten ausführen können. Dazu gehören Planen, Entscheiden, Werkzeuge nutzen und Ergebnisse anpassen

Alignment beschreibt die Ausrichtung eines KI-Systems auf menschliche Ziele, Werte und Sicherheitsanforderungen. Ein gut ausgerichtetes Modell soll hilfreich sein, ohne schädliche oder unerwünschte Ergebnisse zu erzeugen.

Automation Bias bezeichnet die menschliche Neigung, automatisierten Systemen wie Software, Algorithmen oder Künstlicher Intelligenz übermäßig zu vertrauen. Das kann dazu führen, dass fehlerhafte Empfehlungen übernommen werden, ohne sie ausreichend kritisch zu prüfen.

Bias in KI bezeichnet systematische Verzerrungen in Daten, Modellen oder Ergebnissen. Solche Verzerrungen können dazu führen, dass KI-Systeme bestimmte Gruppen, Merkmale oder Perspektiven unfair bevorzugen oder benachteiligen.

Computer Vision ist ein Bereich der Künstlichen Intelligenz, der Bilder und Videos analysiert und interpretiert. Typische Anwendungen sind Objekterkennung, Bildklassifikation, Gesichtserkennung und visuelle Qualitätskontrolle.

Data Drift bezeichnet die Veränderung von Eingabedaten im Laufe der Zeit. Wenn neue Daten deutlich anders aussehen als die Daten aus dem Training, kann die Leistung eines KI-Modells sinken.

Deep Learning ist ein spezieller Bereich des Machine Learning, der mit mehrschichtigen neuronalen Netzen arbeitet. Diese Methode eignet sich besonders für komplexe Aufgaben wie Bildanalyse, Spracherkennung und generative KI.

Ein Embedding ist die numerische Darstellung von Texten, Bildern oder anderen Inhalten in einem Vektorraum. Dadurch können Systeme Ähnlichkeiten, Bedeutungen und Beziehungen zwischen Inhalten besser erkennen.

Explainable AI (XAI) umfasst Methoden, die Entscheidungen und Ergebnisse von KI-Systemen nachvollziehbarer machen sollen. Ziel ist es, Transparenz, Vertrauen und bessere Kontrollmöglichkeiten zu schaffen.

Fine-Tuning bezeichnet das gezielte Nachtrainieren eines bereits bestehenden KI-Modells für spezielle Aufgaben, Branchen oder Themen. Dadurch lässt sich ein allgemeines Modell an konkrete Anwendungsfälle anpassen.

Generative KI bezeichnet KI-Systeme, die neue Inhalte erzeugen können, etwa Texte, Bilder, Musik, Video oder Code. Sie basiert häufig auf Modellen, die Muster in großen Datenmengen gelernt haben.

Guardrails sind Sicherheits- und Steuerungsmechanismen, die das Verhalten eines KI-Systems begrenzen oder absichern. Sie helfen dabei, riskante, unerwünschte oder regelwidrige Ausgaben zu reduzieren.

Halluzination bezeichnet in der Künstlichen Intelligenz die Ausgabe von falschen, erfundenen oder nicht belegbaren Informationen, die sprachlich dennoch überzeugend wirken. Besonders bei Sprachmodellen kann dadurch der Eindruck entstehen, eine Antwort sei korrekt, obwohl sie sachlich falsch ist.

Human-in-the-Loop beschreibt Prozesse, bei denen ein Mensch bewusst in die Arbeit mit KI eingebunden bleibt. Das kann der Kontrolle, Korrektur, Freigabe oder Qualitätsbewertung von Ergebnissen dienen.

Inference beschreibt die Phase, in der ein trainiertes KI-Modell praktisch angewendet wird. Dabei verarbeitet das Modell neue Eingaben und erzeugt darauf basierend Vorhersagen, Empfehlungen oder Inhalte.

Das Kontextfenster beschreibt die Menge an Informationen, die ein KI-Modell gleichzeitig berücksichtigen kann. Dazu gehören frühere Nachrichten, Anweisungen und bereitgestellte Inhalte innerhalb einer Anfrage.

Ein Large Language Model (LLM) ist ein großes Sprachmodell, das auf sehr umfangreichen Textdaten trainiert wurde, um Sprache zu verstehen und zu erzeugen. Es kann unter anderem Texte schreiben, zusammenfassen, übersetzen und Fragen beantworten.

Machine Learning ist ein Teilbereich der Künstlichen Intelligenz, bei dem Systeme aus Daten Muster und Zusammenhänge lernen. Statt feste Regeln nur manuell zu programmieren, verbessert sich das Modell durch Training mit Beispielen.

Model Drift beschreibt den Leistungsabfall eines KI-Modells über die Zeit, weil sich reale Bedingungen, Datenmuster oder Zusammenhänge verändert haben. Das Modell liefert dann zunehmend schlechtere oder weniger passende Ergebnisse.

Multimodale KI bezeichnet Systeme, die mehrere Arten von Eingaben und Ausgaben verarbeiten können, etwa Text, Bild, Audio oder Video. Dadurch können Informationen aus verschiedenen Quellen kombiniert und besser verstanden werden.

Ein neuronales Netz ist ein mathematisches Modell, das lose vom Aufbau des menschlichen Gehirns inspiriert ist. Es verarbeitet Eingaben über mehrere verbundene Schichten und erkennt dadurch Muster in Daten.

Overfitting bedeutet, dass ein Modell die Trainingsdaten zu genau lernt und dadurch bei neuen, unbekannten Daten schlechter abschneidet. Es erkennt dann eher Details des Trainingssatzes als allgemeine Muster.

Ein Prompt ist die Eingabe oder Anweisung, mit der ein Nutzer ein KI-System steuert. Je klarer und präziser der Prompt formuliert ist, desto relevanter und nützlicher fällt in der Regel die Antwort aus.

Prompt Engineering beschreibt die gezielte Gestaltung und Optimierung von Eingaben, um bessere Ergebnisse von einer KI zu erhalten. Dazu gehören klare Aufgabenstellungen, Kontext, Rollenbeschreibungen und gewünschte Ausgabeformate.

RAG steht für Retrieval-Augmented Generation und beschreibt einen Ansatz, bei dem ein Sprachmodell zusätzlich auf externe Wissensquellen zugreift. So lassen sich Antworten mit aktuellen oder spezifischen Informationen anreichern.

Reinforcement Learning ist ein Lernverfahren, bei dem ein System durch Belohnung und Rückmeldung schrittweise besser wird. Das Modell lernt, welche Handlungen in einer bestimmten Situation zu guten Ergebnissen führen.

Sycophancy bezeichnet eine übermäßige Zustimmungsneigung gegenüber anderen. In der Künstlichen Intelligenz beschreibt der Begriff das Verhalten eines Modells, dem Nutzer eher zu gefallen als inhaltlich korrekt oder kritisch zu antworten.

Ein Token ist eine kleine Verarbeitungseinheit, mit der Sprachmodelle Texte intern zerlegen. Ein Token kann ein Wort, ein Wortteil, ein Zeichen oder eine Kombination daraus sein.

Trainingsdaten sind die Daten, mit denen ein KI-Modell lernt. Die Qualität, Vielfalt und Struktur dieser Daten beeinflussen maßgeblich, wie gut, fair und zuverlässig das spätere Modell arbeitet.

Underfitting liegt vor, wenn ein Modell zu wenig aus den Trainingsdaten lernt und deshalb selbst einfache Muster nicht gut erkennt. Das führt in der Regel zu ungenauen oder schwachen Ergebnissen.