Mit dem Validated Design for Generative AI with Nvidia bietet Dell Technologies Infrastruktur-Baupläne für generative KI. Das Design wurde gemeinsam mit Nvidia entwickelt und ermöglicht es Unternehmen, bei sich vor Ort eine modulare und sichere Plattform für Generative AI aufzubauen. Mit ihr können sie für ihre eigenen Daten Anwendungen mit großen Sprachmodellen (Large Language Models, LLMs) entwickeln, betreiben und schnell skalieren.
Das Design umfasst getestete und validierte Kombinationen von Infrastruktur-Komponenten wie den Servern Dell PowerEdge XE9680 und Dell PowerEdge R760xa mit Nvidia-Tensor-Core-GPUs, Nvidia-AI-Enterprise-Software, Nvidia-NeMo-Framework und Software von Dell Technologies. Diese Kombinationen können Unternehmen mit Storage-Lösungen für unstrukturierte Daten erweitern, etwa mit Dell PowerScale oder dem Dell ECS Enterprise Object Storage. Die Infrastrukturen sind auch via Dell Apex verfügbar. Auf diesem Weg erhalten Unternehmen eine On-Premises-Installation, die sie wie eine Cloud nutzen und verwalten können.
Umfassende Services
Neue Dell Professional Services helfen Unternehmen dabei, die Einführung von generativer KI zu beschleunigen. Die Dienstleistungen beginnen mit der Entwicklung einer Strategie für generative KI, die sinnvolle Einsatzszenarien identifiziert und eine Roadmap für ihre Umsetzung definiert. Zudem bietet Dell Technologies umfassende Implementierungsservices für das Dell Validated Design for Generative AI with Nvidia sowie Dienstleistungen für die Ausrichtung der Plattformen auf konkrete Anwendungsfälle. Nach der Implementierung helfen Skalierungsdienstleistungen den Unternehmen dabei, den Betrieb mithilfe von Managed Services, Schulungen oder Experten vor Ort zu optimieren.
Erweiterte Workstations
Dell Technologies erweitert außerdem seine Tower-Workstations Dell Precision 7960, 7865 und 5860 um Konfigurationen mit Nvidia-RTX-6000-Ada-Generation-GPUs. Die Workstations unterstützen KI-Entwickler und Datenwissenschaftler dabei, Generative-AI-Modelle lokal zu entwickeln und zu verfeinern, bevor sie im großen Maßstab eingesetzt werden. Dafür stehen ihnen bis zu vier Nvidia-RTX-6000-Ada-Generation-GPUs in einer Workstation zur Verfügung.
Zudem hat Dell Technologies die in seine Workstations integrierte KI-Software Dell Optimizer mit weiteren Features ausgestattet. Nutzer von mobilen Workstations können jetzt generative KI verwenden, um die Performance von Anwendungen zu verbessern und die Akkulaufzeiten zu optimieren.
Verfügbarkeit
Das Dell Validated Design for Generative AI with Nvidia ist weltweit über die herkömmlichen Kanäle sowie Dell Apex verfügbar.
Die Dell Professional Services for Generative AI stehen in ausgewählten Ländern, darunter auch Deutschland, zur Verfügung.
Die Dell Precision Workstations 7960 Tower, 7865 Tower und 5860 Tower mit Nvidia RTX 6000 Ada Generation GPUs sind ab Anfang August 2023 weltweit verfügbar.
Die neuen Features von Dell Optimizer stehen ab dem 30. August 2023 weltweit auf ausgewählten mobilen Precision-Workstations zur Verfügung.
