Hewlett Packard Enterprise (HPE) heeft een uitbreiding van het HPE GreenLake portfolio aangekondigd. Deze uitbreiding stelt Large Language Models (LLM’s) beschikbaar voor alle soorten bedrijven, van start-ups tot Fortune 500-bedrijven. Bedrijven krijgen hiermee on-demand toegang tot AI-diensten via een multi-tenant supercomputer cloudservice. HPE heeft vandaag ook een nieuwe reeks compute-oplossingen geïntroduceerd die zijn geoptimaliseerd voor AI-inferentieworkloads aan de rand en in het datacenter.
HPE GreenLake voor LLM’s wordt aangeboden op de duurzame HPE Cray XD supercomputers. Dit betekent dat klanten niet langer zelf een supercomputer hoeven aan te schaffen of te beheren, wat vaak duur en complex is. Het maakt het gebruik van supercomputers toegankelijker voor een groter publiek.
“HPE maakt AI, ooit het domein van multinationals, toegankelijk voor iedereen,” zegt Antonio Neri, President en CEO bij HPE. “Organisaties kunnen AI nu inzetten om innovatie te stimuleren en op een verantwoorde manier doorbraken te realiseren met een on-demand cloudservice die op maat beschikbaar is.”
HPE GreenLake voor LLM’s maakt gebruik van een AI-native architectuur, ontworpen om één grootschalige AI-training en -simulatie workload te runnen op volle computingcapaciteit. Dit is in tegenstelling tot cloudservices voor algemeen gebruik die meerdere workloads tegelijkertijd runnen. Het aanbod ondersteunt AI- en HPC-projecten op honderdduizenden CPU’s of GPU’s tegelijkertijd. Het vermogen is effectiever, betrouwbaarder en efficiënter om AI mee te trainen en creëert daarmee nauwkeurigere modellen. Bedrijven kunnen hiermee de ontwikkeling van proof of concept (POC) naar productie versnellen om problemen sneller op te lossen.
In de HPE GreenLake voor LLM’s applicatie hebben gebruikers toegang tot Luminous, een getraind LLM van Aleph Alpha. Dit model is beschikbaar in meerdere talen, waaronder Engels, Frans, Duits, Italiaans en Spaans.
HPE GreenLake voor LLM’s zal draaien in colocatiefaciliteiten, zoals met QScale in Noord-Amerika. Daar bouwden ze als eerste regio een met purpose gebouwd design, om de schaal en capaciteit van supercomputing te ondersteunen met bijna 100% hernieuwbare energie. HPE GreenLake voor LLM’s is de eerste in een reeks industrie- en domeinspecifieke AI-applicaties die HPE zal lanceren. De reeks van applicaties geven ondersteuning bij klimaatmodellering, gezondheidszorg en biowetenschappen, financiële diensten, productie en support.
