Red Hat heeft tijdens de Red Hat Summit in Denver samenwerkingen aangekondigd met NVIDIA, Intel, AMD, Stability AI en Run:ai.
De samenwerking met Intel richt zich op de levering van AI-oplossingen met behulp van Intel AI-producten, waaronder Intel Gaudi AI-accelerators, Intel Xeon-processors, Intel Core Ultra- en Core-processors en Intel Arc GPU’s. Deze producten ondersteunen modelontwikkeling, -training, -levering, -beheer en -monitoring in een hybride cloudinfrastructuur. Daarnaast biedt Intel een reeks open source-software die geïntegreerd kan worden met Red Hat OpenShift AI, zoals het Intel Tiber Edge Platform en oneAPI AI Tools. Klanten kunnen toegang krijgen tot Intel Gaudi AI-accelerators via de Intel Tiber Developer Cloud.
NVIDIA integreert zijn NIM-microservices op Red Hat OpenShift AI, wat inferentie optimaliseert. Dit stelt organisaties in staat om Red Hat OpenShift AI te gebruiken samen met NVIDIA NIM, een reeks microservices voor inferentie die deel uitmaken van het NVIDIA AI Enterprise-softwareplatform. Dit bevordert een integratie van NVIDIA NIM in AI-implementaties, waardoor consistente workflows en eenvoudiger beheer mogelijk worden. Het biedt geïntegreerde scaling en monitoring, evenals security, support en stabiliteit, wat de overgang van prototype naar productie ondersteunt.
Run:ai werkt samen met Red Hat aan GPU-optimalisatie via gecertificeerde Operators voor Red Hat OpenShift AI. Deze Operators helpen gebruikers om AI-workloads te schalen en te optimaliseren, wat GPU-kosten kan verminderen. Hierdoor kunnen bedrijven optimaal gebruikmaken van beschikbare AI-resources en zowel menselijke als hardwarematige workflows verbeteren op een MLOps-platform voor de ontwikkeling van AI-applicaties en -modellen. Organisaties kunnen GPU-gebruik inplannen voor AI-workloads, fractionele GPU en monitoring inzetten en controle en zichtbaarheid op gedeelde GPU-infrastructuur verbeteren.
AMD heeft zich ook aangesloten bij de samenwerking voor GPU-optimalisatie via gecertificeerde Operators voor Red Hat OpenShift AI. Deze samenwerking stelt organisaties in staat om beperkingen in de GPU-supply chain te mitigeren of te overwinnen.
Stability AI integreert zijn open AI-modellen met Red Hat OpenShift AI, waardoor gebruikers toegang krijgen tot open source LLM’s voor de ontwikkeling en het testen van AI-use cases. Red Hat OpenShift AI biedt een platform voor datavergaring, modeltraining en -finetuning, terwijl Stability AI helpt bij het vinden van het juiste model voor de juiste use case. Voordelen zijn onder meer de mogelijkheid om te schalen en innoveren, met behoud van controle over data en producten in een vertrouwde omgeving, toegang tot open generatieve AI-modellen voor diverse toepassingen, en lagere kosten voor het testen van AI-use cases binnen het platform.
