Welkom bij “Kennedy’s Kata,” de column waarin Dutch Cloud Community actuele onderwerpen bespreekt en haar visie met jullie deelt. Met oog voor detail willen we niet alleen informeren maar vooral een open conversatie starten met jullie. Lees mee, denk mee en deel jouw mening en visie met ons!
De eerste column gaat over AI en datacenters. Een ‘hot topic’ binnen onze community en een onderwerp dat onze Algemeen Directeur Edwin Kennedy met zijn ervaring bij datacenters en in de Cloud technologie fascineert.
Stelling: Om AI te laten draaien, wordt het datacenter zelf ook een AI-device.
Artificial intelligence, kortweg AI, is in hoog tempo bezig de manier waarop wij werken en leven te veranderen. Slimme chatbots nemen steeds meer werk van ons over, krachtige AI-systemen zorgen voor doorbraken in wetenschappelijk onderzoek. Onze office-suite tools hebben co-pilots en bedrijven als Apple en Google kunnen niet wachten om van onze telefoons slimme, semi-autonome assistenten te maken.
Uiteindelijk gaat het bij AI om rekenkracht. Heel veel rekenkracht. Dat wordt in steeds groter wordende datacenters ingezet als motor van al die verbluffend knappe toepassingen.
De datacenters bevinden zich midden in een transformatie van traditionele housing van servers naar massale AI “fabrieken”. Om die ontwikkeling te kunnen faciliteren gebruiken die datacenters zelf ook steeds meer AI-oplossingen.
De investeringen die in AI worden gedaan zijn duizelingwekkend. Volgens hun kwartaalrapportage hebben Alphabet, Amazon en Microsoft tussen januari en maart samen 40 miljard dollar geïnvesteerd in AI-gerelateerde datacenter investeringen. Meta heeft voor dit jaar een soortgelijk bedrag gereserveerd voor AI-projecten. Ook de commerciële colocatiewereld ontkomt er niet aan. Klanten melden zich bij de providers met de vraag om er machine learning en AI-toepassingen te laten draaien. In de praktijk betekent dit een (veel) hogere densiteit, dus ook meer stroomgebruik, meer koelingsbehoefte, meer netwerkcapaciteit.
Een vraag van 45kW in een rack, of zelfs 60kW, in uitzonderlijke gevallen 100kW komt steeds vaker voor. Daar zijn traditionele datacenters niet op gebouwd. De faciliteiten moeten mee veranderen om aan de vraag te kunnen voldoen. Het datacenter van morgen zal er waarschijnlijk heel anders uitzien.
Het datacenter zelf wordt steeds meer een AI-powered device, maar dan op grote schaal.
Het eerste terrein waar AI nu al wordt ingezet, is de koeling van de servers. Kort uitgelegd: de traditionele manier om de servers koel te houden met koude lucht is (een beetje gechargeerd) een one-size-fits-all. De airco blaast koude lucht onder de vloer of in een gesloten gang en de luchtdruk is bij alle racks min of meer hetzelfde. Enkele datacenters experimenteren nu al met intelligente modulatie van de lucht. Sensoren meten de luchtdruk en de temperatuur constant op detailniveau en gekoppeld aan een AI-systeem kan de hoeveelheid lucht heel nauwkeurig worden afgestemd op de behoefte op een specifieke plek in het datacenter, op een specifiek moment. Zo kan bijvoorbeeld extra koeling ingezet worden tijdens piekbelasting en juist weer minder op andere momenten.
Ook in het managen van het netwerk maakt AI zijn opmars in het datacenter. Doordat gebruikers steeds meer met AI-toepassingen doen, stijgt het netwerkverkeer fors. Maar door inzet van AI in het managen van het netwerk is het ook mogelijk om die groei aan te kunnen. Een recent onderzoek van CIENA toonde aan dat operators wereldwijd verwachten minimaal 40% winst te kunnen boeken in de manier waarop ze hun capaciteit benutten. Slimme cognitieve software berekent constant, zonder dat menselijke interventie daarbij nodig is, wat de optimale ratio is tussen belasting, snelheid, kwaliteit en kosten op alle punten van het netwerk. Het netwerk kan dan zelf bepalen wat op ieder moment de beste aanpak is, afhankelijk van de parameters waarmee het werkt. Fouten worden automatisch hersteld en de bestaande algoritmes die met vaste regels werken, worden vervangen door zelflerende logica die zelfstandig besluiten en initiatieven kan nemen.
Een gebied dat een enorme belofte voor de toekomst biedt, is dat van de stroomdistributie. De meeste stroomnetwerken, zowel die van de energieleveranciers als de stroomnetwerken in het datacenter zelf, zijn nog helemaal niet aangepast voor zelfregulerende software die het aansturen in eigen hand neemt. Maar er is wel een begin. Door intelligente systemen te koppelen aan sensoren, maar ook aan bijvoorbeeld waterstofaggregaten en batterijen die heel nauwkeurig afgestemd kunnen zijn, is het mogelijk om op een slimmere manier de stroom in te zetten (door bepaalde opdrachten op momenten waar veel stroom beschikbaar is uit te voeren bijvoorbeeld). Ook is het mogelijk om met digital twins, die de capaciteit en de beschikbare ruimte kunnen simuleren en voorspellen, efficiënter gebruik te maken van de bestaande infrastructuur. Op dit gebied voorspellen experts winsten van 40 tot 50%.
Het datacenter van de toekomst zal niet meer primair een gebouw zijn maar wordt ook een intelligente machine waarin de AI door AI aangestuurd wordt. De mens zal nog wel een rol spelen, maar de aansturing van het geoptimaliseerde datacenter zullen wij steeds meer aan de facility zelf overlaten.
Wij zijn benieuwd naar jullie mening en visie over dit onderwerp en wij gaan graag de conversatie met jullie hierover aan. Als jullie bovendien suggesties hebben voor toekomstige onderwerpen van Kennedy’s Kata horen wij dat graag.
Edwin Kennedy, Dutch Cloud Community
