Die 10 wichtigsten Einstellungen für Sprachmodelle

Sprachmodelle wie GPT-4o können beeindruckende Texte generieren, aber um das Beste aus ihnen herauszuholen, ist es wichtig zu verstehen, wie man die Eingaben (Prompts) gestaltet. Perfekte Prompts können die Qualität und Relevanz der generierten Texte erheblich verbessern, indem sie die gewünschten Informationen klar und präzise an das Modell weitergeben. Zusätzlich können mehrere Parameter eingesetzt werden, um das bestmögliche Ergebnis zu erhalten.

model

Das model oder Modell bezieht sich auf die spezifische Architektur und die Trainingsdaten, die für das Sprachmodell verwendet wurden. Verschiedene Modelle bieten unterschiedliche Funktionen und Leistungsniveaus, die sich auf die Qualität und Vielseitigkeit der generierten Texte auswirken können. Bekannte Modelle wie GPT-4 bieten fortschrittliche Fähigkeiten, komplexe Zusammenhänge zu verstehen und kontextsensitive Antworten zu generieren, während einfachere Modelle möglicherweise weniger komplex sind und weniger nuancierte Ergebnisse liefern.

max_tokens

Der Parameter max_tokens bestimmt die maximale Anzahl von Tokens (Wörtern oder Zeichen), die das Sprachmodell bei der Generierung eines Textes verwenden soll. Dies ist besonders wichtig, um die Länge der generierten Antwort zu kontrollieren und sicherzustellen, dass sie innerhalb bestimmter Grenzen bleibt. Ein höherer Wert ermöglicht es dem Modell, ausführlichere Antworten zu generieren, während ein niedrigerer Wert kürzere und prägnantere Texte fördert.

Beispiele max_tokens:

• Prompt: „Beschreibe die Geschichte eines tapferen Ritters.“
• max_tokens = 50: „Ein tapferer Ritter namens Sir Edward kämpfte gegen einen feuerspeienden Drachen und rettete das Königreich.“
• max_tokens = 200: „Sir Edward, ein tapferer Ritter aus dem Königreich Eldoria, stand mutig gegen den feuerspeienden Drachen, der das Land bedrohte. Mit seinem Schwert Excalibur in der Hand und einem festen Entschluss, das Königreich zu verteidigen, kämpfte er einen epischen Kampf, der in die Geschichte eingehen sollte.“

temperature

temperature ist ein Parameter, der die Kreativität und Vielfalt der Antworten eines Sprachmodells beeinflusst. Bei niedrigen Temperature-Werten erzeugt das Modell sehr vorhersehbare und konventionelle Antworten, die gut strukturiert und formell sind. Hohe Werte hingegen führen zu kreativeren und weniger vorhersehbaren Antworten, die origineller und überraschender sein können. Dies ist besonders nützlich, wenn man nach innovativen oder künstlerischen Texten sucht. Durch Anpassung der Temperature kann man das Modell entweder mehr kontrollieren oder ihm mehr Freiraum für kreative Ausdrücke geben.

• Niedrige Werte (z.B. 0.1): Das Modell gibt sehr vorhersehbare und typische Antworten.
• Hohe Werte (z.B. 1.5): Die Antworten werden kreativer und weniger vorhersehbar.
• Empfehlung für Anfänger: Probieren Sie Werte zwischen 0.7 und 1.0 aus, um ein gutes Gleichgewicht zu finden.

Beispiele temperature:

• Prompt: „Erzähle eine Geschichte über einen mutigen Hund.“
• temperature = 0.2: „Ein Hund rettete ein Kind aus einem Fluss.“
• temperature = 1.2: „Ein Hund namens Luna reiste durch magische Länder und kämpfte gegen Drachen, um einen verlorenen Schatz zu finden.“

top-p

Der top-p-Parameter, auch als Nucleus Sampling bekannt, bestimmt, wie viele der wahrscheinlichsten Wörter das Modell bei der Generierung von Texten berücksichtigt. Ein niedriger Top-p-Wert schränkt die Auswahl des Modells auf die wahrscheinlichsten Wörter ein, was zu vorhersehbaren und kohärenten Texten führt. Ein höherer Top-p-Wert erweitert die Auswahl, sodass das Modell kreativere und vielfältigere Wörter verwenden kann. Dies kann nützlich sein, um Texte weniger vorhersehbar und monoton zu machen.

• Niedrige Werte (z.B. 0.1): Nur die wahrscheinlichsten Wörter werden ausgewählt.
• Hohe Werte (z.B. 1.0): Das Modell kann aus einem breiteren Spektrum von Wörtern wählen.
• Empfehlung für Anfänger: Starten Sie mit dem Standardwert 1.0 und passen Sie ihn bei Bedarf an.

Beispiele top-p:

• Prompt: „Beschreibe einen schönen Sonnenuntergang.“
• top-p = 0.1: „Der Himmel war rot.“
• top-p = 1.0: „Der Himmel war in herrlichen Schattierungen von Orange, Rosa und Purpur getaucht, als die Sonne langsam hinter den Bergen verschwand.“

top-k

Der top-k-Parameter steuert die Anzahl der möglichen Wörter, die das Modell bei jeder Auswahl berücksichtigt. Mit einem niedrigen Top-k-Wert wird die Auswahl auf die wahrscheinlichsten Wörter beschränkt, was zu sehr vorhersehbaren Ergebnissen führt. Ein höherer Top-k-Wert ermöglicht es dem Modell, aus einer größeren Auswahl an Wörtern zu wählen, was die Kreativität und Vielfalt der Antworten erhöht. Diese Einstellung ist besonders nützlich, wenn man komplexere und unkonventionellere Texte benötigt.

• Niedrige Werte (z.B. 1): Das Modell wählt immer das wahrscheinlichste nächste Wort, was sehr vorhersehbar ist.
• Hohe Werte (z.B. 50): Das Modell hat mehr Auswahlmöglichkeiten und kann kreativere Antworten geben.
• Empfehlung für Anfänger: Lassen Sie diesen Wert zunächst auf dem Standardwert (0) und experimentieren Sie später, wenn Sie mehr Erfahrung haben.

Beispiele top-k:

• Prompt: „Schreibe einen Satz über das Meer.“
• top-k = 1: „Das Meer ist blau.“
• top-k = 50: „Das endlose Meer erstreckte sich in funkelnden Blautönen bis zum Horizont, wo es den Himmel küsste.“

frequency_penalty

Die Frequency Penalty ist ein Parameter, der steuert, wie oft das Modell bestimmte Wörter wiederholt, basierend auf deren Häufigkeit im Eingabetext. Höhere Werte führen dazu, dass das Modell Wörter weniger häufig wiederholt, was die Vielfalt der Wortwahl erhöht. Negative Werte hingegen fördern die Wiederholung von Wörtern. Diese Einstellung ist besonders nützlich, um monotone oder redundante Texte zu vermeiden oder gezielt zu erzeugen.

• Hohe Werte (z.B. 2.0): Das Modell vermeidet Wiederholungen stark.
• Negative Werte (z.B. -2.0): Das Modell wiederholt Wörter häufiger.
• Empfehlung für Anfänger: Verwenden Sie den Standardwert (0.0), um natürliche Wiederholungen zu ermöglichen.

Beispiele frequency_penalty:

• Prompt: „Erzähle eine Geschichte über einen Wald.“
• frequency_penalty = 2.0: „In einem Wald lebten viele Tiere. Sie hatten unterschiedliche Farben und Größen.“
• frequency_penalty = -2.0: „In einem Wald lebten viele Tiere. Tiere, Tiere, überall Tiere.“

presence_penalty

Die Presence Penalty beeinflusst, ob das Modell Wörter wiederholt, die bereits im Eingabetext vorkommen. Höhere Werte verringern die Wahrscheinlichkeit, dass diese Wörter wiederholt werden, was die Varianz der generierten Antworten erhöht. Negative Werte führen dazu, dass das Modell diese Wörter häufiger wiederholt. Dies kann hilfreich sein, um bestimmte Wörter zu betonen oder zu vermeiden.

• Hohe Werte (z.B. 2.0): Reduziert die Wahrscheinlichkeit, dass Wörter wiederholt werden.
• Negative Werte (z.B. -2.0): Erhöht die Wahrscheinlichkeit der Wiederholung.
• Empfehlung für Anfänger: Belassen Sie diesen Wert auf dem Standardwert (0.0) und passen Sie ihn bei Bedarf an.

Beispiele presence_penalty:

• Prompt: „Beschreibe einen magischen Garten.“
• presence_penalty = 2.0: „Der Garten war voller bunter Blumen, leuchtender Lichter und singender Vögel.“
• presence_penalty = -2.0: „Der magische Garten war voller magischer Blumen und magischer Lichter.“

repetition_penalty

Die repetition_penalty reduziert die Wahrscheinlichkeit, dass das Modell Wörter aus dem Eingabetext wiederholt. Ein hoher Repetition Penalty-Wert minimiert Wiederholungen und fördert die Verwendung unterschiedlicher Wörter. Dies ist besonders nützlich, um Texte abwechslungsreicher und interessanter zu gestalten. Zu hohe Werte können jedoch die Kohärenz des Textes beeinträchtigen.

• Hohe Werte (z.B. 2.0): Minimiert Wiederholungen stark.
• Standardwert (1.0): Ermöglicht eine gewisse Wiederholung, um den Text kohärent zu halten.
• Empfehlung für Anfänger: Nutzen Sie den Standardwert (1.0) für ausgewogene Ergebnisse.

Beispiele repetition_penalty:

• Prompt: „Erkläre die Bedeutung von Freundschaft.“
• repetition_penalty = 2.0: „Freundschaft ist wichtig. Sie bringt Menschen zusammen und schafft starke Bindungen.“
• repetition_penalty = 0.0: „Freundschaft ist wichtig. Freundschaft bringt Menschen zusammen. Freundschaft schafft starke Bindungen.“

min_p

Der min_p-Wert legt fest, wie wahrscheinlich ein Wort mindestens sein muss, um vom Modell berücksichtigt zu werden. Diese Einstellung hilft dabei, weniger wahrscheinliche Wörter auszuschließen und die Textqualität zu verbessern. Ein höherer Min-p-Wert stellt sicher, dass nur relativ wahrscheinliche Wörter verwendet werden, was die Kohärenz und Verständlichkeit erhöht.

• Hohe Werte (z.B. 0.1): Nur Wörter, die relativ wahrscheinlich sind, werden ausgewählt.
• Empfehlung für Anfänger: Starten Sie mit dem Standardwert (0.0) und passen Sie ihn bei Bedarf an.

Beispiele min_p:

• Prompt: „Beschreibe das Wetter im Frühling.“
• min_p = 0.1: „Im Frühling ist das Wetter mild und die Blumen blühen.“
• min_p = 0.0: „Im Frühling kann das Wetter wechselhaft sein, mit plötzlichen Schauern und strahlendem Sonnenschein, während die Natur erwacht.“

top_a

Der top_a-Parameter berücksichtigt nur Wörter mit einer ausreichend hohen Wahrscheinlichkeit im Verhältnis zum wahrscheinlichsten Wort. Dies funktioniert ähnlich wie Top-p, jedoch fokussierter auf die wahrscheinlichsten Optionen. Ein höherer Top-a-Wert engt die Auswahl auf die wahrscheinlichsten Wörter ein, was zu kohärenteren und präziseren Texten führt.

• Hohe Werte (z.B. 0.1): Engt die Auswahl auf die wahrscheinlichsten Wörter ein.
• Empfehlung für Anfänger: Belassen Sie diesen Wert auf dem Standardwert (0.0) und experimentieren Sie später damit.

Beispiele top_a:

• Prompt: „Erzähle einen Witz.“
• top_a = 0.1: „Warum können Skelette nicht lügen? Weil sie durchscheinend sind!“
• top_a = 0.0: „Warum können Skelette nicht lügen? Weil sie niemanden hereinlegen können!“

Zusammenfassung & Tipps

Das Anpassen dieser Einstellungen kann die Antworten eines Sprachmodells erheblich beeinflussen. Durch Experimentieren mit diesen Einstellungen können Sie die gewünschten Ergebnisse erzielen und die Leistung des Sprachmodells optimieren. Starten Sie mit den empfohlenen Standardwerten und passen Sie diese nach und nach an, um die beste Balance für Ihre spezifischen Anforderungen zu finden. Allgemein wird zum Beispiel empfohlen, Top-p oder die Temperatur zu ändern, aber nicht beides.

Einstellung	Standardwert	Empfohlene Werte für Anfänger	Hinweise und Tipps
temperature	1.0	0.7-1.0	– Niedrige Werte (0.1-0.5) für sachliche Antworten – Hohe Werte (1.0-2.0) für kreative Texte
top_p	1.0	0.7-1.0	– Standardwert für maximale Vielfalt – Werte zwischen 0.7 und 0.9 für gute Mischung aus Vorhersehbarkeit und Vielfalt
top_k	0	10-50	– Niedrige Werte (1-10) für fokussierte Antworten – Hohe Werte (20-50) für mehr kreative Freiheit
frequency_penalty	0.0	0.0-2.0	– Höhere Werte (1.0-2.0) um Wiederholungen zu minimieren – Negative Werte (-1.0 bis -2.0) um Wiederholungen zu fördern
presence_penalty	0.0	0.0-2.0	– Höhere Werte (1.0-2.0) um Wiederholungen zu vermeiden – Negative Werte (-1.0 bis -2.0) um Wörter zu betonen
repetition_penalty	1.0	0.5-2.0	– Höhere Werte (1.5-2.0) um Wiederholungen stark zu minimieren – Niedrigere Werte (0.5-1.0) für Kohärenz
min_p	0.0	0.0-0.2	– Höhere Werte (0.1-0.2) um weniger wahrscheinliche Wörter zu minimieren
top_a	0.0	0.0-0.2	– Höhere Werte (0.1-0.2) um präzisere Texte zu erzeugen