Glossar
Diese Konzepte sind nicht einzigartig für die Sprachmodelle von Anthropic, aber wir präsentieren eine kurze Zusammenfassung der wichtigsten Begriffe unten.
KontextfensterDas „Kontextfenster“ bezieht sich auf die Menge an Text, auf den ein Sprachmodell zurückblicken und sich beziehen kann, wenn es neuen Text generiert. Dies ist anders als das große Datenkorpus, auf dem das Sprachmodell trainiert wurde, und stellt stattdessen eine „Arbeitsgedächtnis“ für das Modell dar. Ein größeres Kontextfenster ermöglicht es dem Modell, komplexere und längere Eingaben zu verstehen und darauf zu reagieren, während ein kleineres Kontextfenster die Fähigkeit des Modells einschränken kann, längere Eingaben zu verarbeiten oder die Kohärenz über längere Gespräche hinweg aufrechtzuerhalten.