Unternehmen
Red Hat GmbHRed Hat beteiligt sich an verschiedenen Open-Source-Projekten für künstliche Intelligenz. Das Unternehmen stellt sieben Core-Committer für vLLM, ein Inference-Framework für Large Language Models. Weitere Aktivitäten umfassen die Entwicklung von InstructLab für Model Alignment, Beiträge zur IBM Granite Modellfamilie und die Initiierung des llm-d Projekts zusammen mit CoreWeave, Google, IBM Research und NVIDIA.
Technische Plattformen
Das Portfolio umfasst drei Hauptkomponenten: Red Hat Enterprise Linux AI als Linux-Server-Appliance mit integrierter Hardware-Beschleunigung, Red Hat OpenShift AI für verteiltes Training und MLOps-Workflows sowie den Red Hat AI Inference Server basierend auf vLLM. Die Lösungen unterstützen Hardware-Beschleuniger von NVIDIA, AMD, Intel und Google TPU. vLLM nutzt PagedAttention für effizientes Speichermanagement und ermöglicht einen höheren Durchsatz bei der Verarbeitung von LLM-Anfragen. Red Hat stellt auf Hugging Face ein Repository mit validierten und komprimierten Modellen bereit.
Technische Plattformen
Das Portfolio umfasst drei Hauptkomponenten: Red Hat Enterprise Linux AI als Linux-Server-Appliance mit integrierter Hardware-Beschleunigung, Red Hat OpenShift AI für verteiltes Training und MLOps-Workflows sowie den Red Hat AI Inference Server basierend auf vLLM. Die Lösungen unterstützen Hardware-Beschleuniger von NVIDIA, AMD, Intel und Google TPU. vLLM nutzt PagedAttention für effizientes Speichermanagement und ermöglicht einen höheren Durchsatz bei der Verarbeitung von LLM-Anfragen. Red Hat stellt auf Hugging Face ein Repository mit validierten und komprimierten Modellen bereit.
Adresse
Werner-von-Siemens-Ring 12, 85630 Grasbrunn, Deutschland
Unternehmensinfos
Hier stehen weitere Informationen zum Unternehmen.Produkt/Service-Typ
*Technologie-Typ
*Unternehmensfunktion
*Business Value
*...
Kundeninfos
Hier stehen weitere Informationen zu unseren Kunden.Businessmodell
Kundengröße in Mitarbeiter
Kundenbranche