AMD entwickelt neue KI Chips

Wie „The Verge“ meldet AMD hat AMD neue MI300-Chips und Ryzen 8040 mobile Prozessoren angekündigt, die ab 2024 in Laptops verfügbar sein werden. Diese Ankündigung ist ein wichtiger Schritt im Wettbewerb mit Nvidia im Bereich der KI-Chips. Die neuen MI300X-Beschleuniger und M1300A-APUs sind speziell für das Training und den Betrieb großer Sprachmodelle (LLMs) konzipiert. Mit… AMD entwickelt neue KI Chips weiterlesen

llamafile – LLM lokal

llamafile, ein innovatives Projekt entwickelt von Mozilla und Justine Tunney, repräsentiert einen bedeutenden Fortschritt in der Nutzung von Large Language Models (LLMs) auf lokalen Computern. Diese Technologie ermöglicht es, eigene Versionen von hochentwickelten Sprachmodellen, ähnlich ChatGPT, direkt auf dem eigenen Rechner zu betreiben. Ein llamafile ist eine umfangreiche Datei, die sowohl die Modellgewichte eines LLM… llamafile – LLM lokal weiterlesen