NVIDIA L4 Passive PCIe 24GB LP bracket installed/ATX bracket in box

Alternativen anzeigen
Produktzubehör
Herstellerwebsite

Gefallen Ihnen die Alternativen nicht?

Wählen Sie aus dem gesamten Angebot

NVIDIA L4 Passive PCIe 24GB LP bracket installed/ATX bracket in box

nvidia-Logo

NVIDIA L4 Passive PCIe-Grafikkarte mit 24 GB, LP-Halterung montiert / ATX-Halterung im Lieferumfang enthalten

Die NVIDIA L4 Passive PCIe 24 GB stellt diese Gleichung auf den Kopf: Die Ada-Lovelace-Architektur mit dem AD104-Chip, 24 GB GDDR6 mit einer Bandbreite von 300 GB/s und einer Leistung von 485 TFLOPS in FP8 in einem Ein-Slot-Low-Profile-Gehäuse mit einer TBP von nur 72 W. Im Vergleich zur CPU-Infrastruktur bietet NVIDIA L4 eine bis zu 120-mal höhere Leistung für die KI-Videopipeline und eine 2,5-mal höhere Leistung für generative KI-Inferenz im Vergleich zur Vorgängergeneration – bei einer um 99 % besseren Energieeffizienz und einem Bruchteil des benötigten Platzbedarfs im Rack. Von Edge-Systemen über Mainstream-Rechenzentren bis hin zu Cloud-Instanzen ist L4 der effizienteste Weg zur Beschleunigung von Server-KI, ohne dass eine Umgestaltung der Infrastruktur erforderlich ist.

Nvidia GeForce RTX 40

GDDR6 / 24 GB

Arbeitspeicher
NVIDIA-GPU

PCI Express 4.0 x16

Bus-Schnittstelle
NVIDIA-GPU

1× 16-pin

Zusätzliche Stromversorgung
Nvidia GeForce RTX 40

Ada Lovelace (104 n. Chr.)

Chiparchitektur
Nvidia GeForce RTX 40

500 W

Empfohlene Netzteilleistung
NVIDIA L4 Passive PCIe-Grafikkarte mit 24 GB, LP-Halterung montiert / ATX-Halterung im Lieferumfang enthalten

Hauptmerkmale: Grafikkarte NVIDIA L4 Passive PCIe 24 GB, LP bracket installed/ATX bracket in box

  • Die Grafikkarte verfügt über 24 GB GDDR6-Speicher mit einer Bandbreite von 300 GB/s auf einem 192-Bit-Bus – das sind 50 % mehr Speicher als bei der Vorgängergeneration T4 – für größere KI-Modelle, generative KI-Inferenz sowie eine Videopipeline mit höherer Auflösung von bis zu 1.024 × 768 px
  • Die Ada-Lovelace-Architektur mit dem AD104-Chip und Tensor-Kernen der 4. Generation erreicht 30,3 TFLOPS in FP32, 242 TFLOPS bei FP16 und 485 TFLOPS bei FP8 für effiziente KI-Inferenz, generative KI und Video-Workloads in Serverumgebungen
  • Das Low-Profile-Design mit einem Steckplatz, einer TBP von 72 W und passiver Kühlung ermöglicht den Einsatz in Standard-Servern mit einer bis zu acht GPUs, ohne dass besondere Anforderungen an die Stromversorgung oder Kühlung gestellt werden – die Karte passt buchstäblich in jeden PCIe 4.0 x16-Steckplatz
  • Vier NVDEC-Decoder, zwei NVENC-Encoder und vier JPEG-Decoder mit AV1-Unterstützung ermöglichen die Verarbeitung von bis zu 1.040 gleichzeitigen AV1-Videostreams in einer Auflösung von 720p30 auf acht L4-Karten – für Live-Übertragungen, die Personalisierung von Inhalten und Smart-Space-Anwendungen in großem Maßstab
  • RT-Kerne der 3. Generation mit DLSS 3 bieten im Vergleich zu CPU-Lösungen eine mehr als viermal höhere Leistung für KI-Avatare, virtuelle Welten in NVIDIA Omniverse und Cloud-Gaming – der Server-Chip NVIDIA L4 bewältigt sowohl Echtzeit-Rendering als auch Grafiken in Kinoqualität
  • Die Karte wird mit einer vorinstallierten Low-Profile-Halterung und einer ATX-Halterung im Lieferumfang geliefert, sodass sie in erster Linie für kompakte Low-Profile-Servergehäuse geeignet ist, wobei ein sofortiger Wechsel zur Vollformat-Ausführung möglich ist, ohne dass zusätzliches Zubehör bestellt werden muss
  • NVIDIA AI Enterprise umfasst als zusätzliches Abonnement optimierte Frameworks, vortrainierte Modelle und NVIDIA NIM-Mikroservices für die beschleunigte Bereitstellung von produktionsreifer KI auf zertifizierten Systemen mit L4-GPUs
  • Die Karte ist headless – ohne Grafikausgänge – und ausschließlich für den Einsatz in Serverumgebungen vorgesehen; Für die Anzeige ist ein System mit einer dedizierten Grafikkarte oder KVM-Zugriff erforderlich

99 % höhere Energieeffizienz: L4 verändert die Wirtschaftlichkeit von Rechenzentren

Jedes Watt im Rechenzentrum zählt – und der NVIDIA L4 Passive PCIe 24 GB mit einer TBP von 72 W ist in der Kategorie der Ada-Lovelace-KI-Beschleuniger in puncto Energieeffizienz konkurrenzlos. Der Übergang von einer CPU-basierten Videopipeline zu einer Serverinfrastruktur mit L4-Karten bringt laut Messungen von NVIDIA eine Verbesserung der Energieeffizienz um 99 % – und in einem Rechenzentrum mit einer Leistung von 2 MW entspricht dies einer Energieeinsparung für fast 2.000 Haushalte pro Jahr oder einer CO₂-Kompensation von 172.000 Bäumen über einen Zeitraum von zehn Jahren. Für CTOs, IT-Manager und Rechenzentren, die sich mit Nachhaltigkeit und Gesamtbetriebskosten befassen, ist L4 ein Argument, das in Zahlen spricht, die auch außerhalb der technischen Abteilung verständlich sind.

NVIDIA-GPU

120-fache CPU-Leistung auf einer einzigen Karte

Videos sind nicht mehr nur Darstellungen – sie sind eine Datenquelle voller Informationen, die KI in Echtzeit auswerten kann. Die NVIDIA L4 Passive PCIe 24 GB mit Tensor-Kernen der 4. Generation und vier NVDEC-Decodern bietet eine durchgängige KI-Videopipeline – Decodierung, Vorverarbeitung, Inferenz, Nachbearbeitung und Kodierung – und das bis zu 120-mal schneller als CPU-basierte Lösungen. Für Live-Streaming-Plattformen, die Personalisierung von Inhalten, die Erkennung unangemessener Inhalte oder Smart-Space-Sicherheitsanwendungen bedeutet dies eine Echtzeitverarbeitung, die eine CPU-Infrastruktur selbst mit einer um ein Vielfaches höheren Investition einfach nicht gewährleisten kann.

NVIDIA-GPU

Generative KI, Cloud-Gaming und virtuelle Workstations auf einer Karte

Vielseitigkeit ist der Schlüssel zur effizienten Nutzung der Serverinfrastruktur. Die NVIDIA L4 Passive PCIe 24 GB unterstützt generative KI-Inferenz mit einer 2,5-fach höheren Leistung im Vergleich zur vorherigen T4-Generation, Cloud-Gaming und virtuelle Workstations über NVIDIA RTX vWS mit Echtzeit-Raytracing sowie DLSS 3 und einer KI-Videopipeline – alles parallel auf einer einzigen Karte mit 72 W TBP. Für Cloud-Anbieter, Managed-Service-Provider und IT-Abteilungen in Unternehmen, die eine mehrschichtige KI- und Grafik-Infrastruktur aufbauen, ist L4 der flexibelste und effizienteste Ausgangspunkt.  

NVIDIA-GPU
Nvidia GeForce RTX 40

Chip AD104

7.424 Ada-Lovelace-CUDA-Kerne für maximale Serverleistung
Nvidia GeForce RTX 40

Tensor-Kern der 4. Generation

485 TFLOPS in FP8 für KI-Inferenz, generative KI und Videopipeline
Nvidia GeForce RTX 40

72 W TBP, 1-Slot-Low-Profile

Höchste Leistung pro Watt im Serverbetrieb ohne besondere Anforderungen
Nvidia GeForce RTX 40

120× AI-Videoleistung im Vergleich zur CPU

End-to-End-KI-Videopipeline für Streaming, Content-Personalisierung und Smart-Space
Nvidia GeForce RTX 40

24 GB GDDR6, 300 GB/s

50 % mehr Speicher als die Vorgängergeneration für größere KI-Modelle und generative KI
Nvidia GeForce RTX 40

4× NVDEC + 2× NVENC + 4× JPEG

Parallele Verarbeitung von 1.040 AV1-Streams für Medien- und Videoplattformen
Nvidia GeForce RTX 40

RT-Kerne der 3. Generation + DLSS 3

4-mal höhere Leistung für Cloud-Gaming, KI-Avatare und virtuelle Workstations
Nvidia GeForce RTX 40

ATX- und LP-Halterung im Lieferumfang enthalten

Sofortige Installation in Servergehäusen in Standardgröße und Low-Profile-Ausführung

Spezifikationen

Abmessungen

Breite 169 mm

AI

TOPS-Anzahl insgesamt 485
INT8 TOPS 242
Unterstützte Genauigkeit FP32

Chip

Chiphersteller NVIDIA
Modellbezeichnung L4
Grafikprozessor AD104
Chip-Architektur Ada Lovelace
Anzahl der Stream-Prozessoren 7.424×
Produktionstechnik 5 nm

Leistung und Verwendung

Verwendung Profieinsatz
Kartenprofil Low Profile (LP)

Speicher

VRAM-Kapazität 24 GB
Typ des Speichers GDDR6
Bus-Breite 192-Bit

Frequenz

Kernfrequenz 795 MHz
Kernfrequenz (Boost Clock) 2.040 MHz
Speicherfrequenz 12.500 MHz (12,5 GHz)
Effektiver Speichertakt (Bandbreite) 12,5 Gbps

Schnittstelle

Für PC-Anschluss PCI Express x16 4.0
Bus-Schnittstelle PCIe 4.0 x16

Technologie

DirectX-Version 12 Ultimate

Kühlung

Größe des Kühlers Single-Slot

Verbrauch

NCNR (Non-Cancellable, Non-Returnable)

Einkaufsmodalitäten für Unternehmen Direktkauf ohne Stornierungs- und Rückgaberecht

Tops

TOPS-Anzahl insgesamt 485

AI-Spezifikationen

Primäre Anwendung der KI LLM Inference
Code:  NVl01
Links: Herstellerwebsite