Monat: November 2023

XLSTM: Die nächste Generation der Sprachmodellierung

Long Short-Term Memory (LSTM) Netzwerke, eingeführt von Josef „Sepp“ Hochreiter und Juergen Schmidhuber, waren ein Wendepunkt in der Entwicklung neuronaler Netzwerke, insbesondere für die Verarbeitung sequenzieller Daten wie Sprache. LSTMs lösten das Problem verschwindender Gradienten, das bei früheren rekurrenten neuronalen Netzwerken (RNNs) auftrat, und ermöglichten es Modellen, Informationen über längere Zeiträume zu behalten und zu… XLSTM: Die nächste Generation der Sprachmodellierung weiterlesen

Welche Aufgaben hat ein Prompt-Ingenieur?

In der sich schnell entwickelnden Landschaft der künstlichen Intelligenz nimmt der Prompt Engineer eine Schlüsselrolle ein. Durch die Gestaltung der Interaktion zwischen Mensch und Maschine trägt er maßgeblich zur Effizienz und Benutzerfreundlichkeit von KI-Systemen bei. Die folgende Aufzählung gibt einen Überblick über die vielfältigen und komplexen Aufgaben, die diese Rolle umfasst: Die Rolle des Prompt… Welche Aufgaben hat ein Prompt-Ingenieur? weiterlesen

State of GPT (ChatGPT) – Andrej Karpathy

Dieses Video sollte man sich anschauen, wenn man sich mit ChatGPT, seiner Entwicklung und seinem Aufbau, beschäftigen will. Worum geht es im Detail in dem Video? Andre Carpathy, ein Gründungsmitglied von OpenAI (ChatGPT), erklärt in „State of GPT“ den Prozess des Trainings von GPT, einem entstehenden Ökosystem großer Sprachmodelle. Es beginnt mit dem Vortraining mit… State of GPT (ChatGPT) – Andrej Karpathy weiterlesen