Nvidia L4 24GB Tensor KI VDI Computing Server GPU 7680 CUDA Cores PCIe Gen4 x16 Fanless 70W +NEW+

konzipiert für:
High-Performance-Computing
Deep-Learning-Training und -Inferenz maschinelles Lernen
Datenanalysen und Grafik


Gerätetyp GPU-Rechenprozessor - ohne Lüfter
Bustyp PCI Express 4.0 x16
Grafik-Engine NVIDIA Tesla L4
CUDA-Kerne 7680

Speicher
Grösse 24 GB
Technologie GDDR6 SDRAM
Busbreite 256-bit
Bandbreite 300 GBps
Verschiedenes
Leistungsaufnahme im Betrieb 70 Watt

NVIDIA L4 - vGPU Software Unterstützung
NVIDIA Virtual Apps | vApps
NVIDIA Virtual PC | vPC
NVIDIA RTX Virtual Workstation | vWS
NVIDIA Virtual Compute Server | vCS
NVIDIA AI Enterprise

Mit der NVIDIA KI-Plattform und dem Full-Stack-Ansatz ist L4 für Video und Inferenzen im großen Maßstab für eine breite Palette von KI-Anwendungen optimiert, darunter Empfehlungen, sprachbasierte KI-Avatar-Assistenten, generative KI, visuelle Suche und Contact-Center-Automatisierung, um die besten personalisierten Erfahrungen zu liefern.
Als effizientester NVIDIA-Beschleuniger für den Mainstream ermöglichen mit L4 ausgestattete Server eine bis zu 120-fach höhere KI-Videoleistung im Vergleich zu CPU-Lösungen, während sie eine 2,7-fach höhere generative KI-Leistung und eine über 4-fach höhere Grafikleistung im Vergleich zur vorherigen Generation bieten.
Die Vielseitigkeit von NVIDIA L4 und der energieeffiziente, flache Formfaktor mit nur einem Steckplatz machen ihn ideal für globale Implementierungen, einschließlich Edge-Standorten.
Da KI und Video immer allgegenwärtiger werden, steigt die Nachfrage nach effizientem, kostengünstigem Computing mehr denn je. NVIDIA L4-GPUs bieten eine bis zu 99 % bessere Energieeffizienz und niedrigere Gesamtbetriebskosten im Vergleich zu herkömmlichen CPU-basierten Infrastrukturen.
Dadurch können Unternehmen den Platzbedarf in ihren Racks reduzieren und den CO2-Fußabdruck deutlich verringern, während sie ihre Rechenzentren für viel mehr Benutzer skalieren können. Die Energie, die durch die Umstellung von CPUs auf NVIDIA L4s in einem 2-Megawatt-Rechenzentrum eingespart wird, kann über 2.000 Haushalte ein Jahr lang mit Strom versorgen oder den CO2-Ausstoß von 172.000 Bäumen über 10 Jahre hinweg ausgleichen.