De datacenterindustrie bevindt zich in de transformatiefase naar een klimaat-neutrale industrie. Terwijl de sector grote stappen zet richting vergroening, ontstaan er nieuwe ontwikkelingen en diensten, zoals artificiële intelligentie (ai), die hoge eisen stellen aan de capaciteit van de datacenters. Als gevolg hiervan komen de reeds behaalde vergroeningsresultaten door deze ontwikkelingen onder druk staan.
De Dutch Data Center Association (DDA) heeft verduurzaming van datacenters opgedeeld in drie fases in de keten: wat de datacenters in gaat, wat in het datacenter gebeurt, én wat de datacenters uit gaat. In een rapport van de DDA valt te lezen dat een modern datacenter vijftien tot twintig procent gebruikt van het totale elektriciteitsverbruik voor koeling en facilitaire zaken. De overige elektriciteit wordt gebruikt door voornamelijk de servers en netwerk. Hieruit is te concluderen dat tachtig procent van het energieverbruik afkomstig is uit activiteiten die betrekking hebben op de verwerking en het transport van data. In dat geval komen we bij de meest bekende energieverbruikers: cpu/gpu en schijven.
Ontwikkelingen
De cpu is in de jaren vijftig ontwikkeld. Het verdere proces heeft geleid tot het ontstaan van de gpu, in de jaren zeventig. Parallel hieraan waren er andere ontwikkelingen die meer gericht waren op high performance computing en andere delen van de industrie. Die hebben geleid tot het ontstaan van asic (jaren zeventig) en fpga (jaren tachtig).
Fpga
Fpga, wat staat voor field programmable gate array, is een stuk hardware dat veel chips bevat. Deze chips zijn te programmeren om als rekenkracht te functioneren. In tegenstelling tot een cpu/gpu, die eenmalig ontworpen en voor specifieke taken gemaakt zijn, biedt fpga voldoende flexibiliteit in veranderen van functie en herinrichting voor andere doeleinden.
De kaart kan ontworpen worden om verschillende taken door verschillende units en met verschillende prioriteiten uit te voeren. Laag energieverbruik, hoge capaciteit en herinrichtingmogelijkheid van de kaart zijn onder andere aspecten die de oplossing zeer geschikt maken voor doeleinden zoals rekenkracht voor high performance computing, realtime processing, extra securitylagen en ook interessant is als verwerkingseenheid in een internet of things (iot)-architectuur.
Fpga en datacenters
Fpga kan afhankelijk van de architectuur en applicaties een bijzondere bijdrage leveren aan de vergroening van het datacenter:
- Fpga kan als custom hardware acceleration ingezet worden voor vervanging of verlaging van cpu/gpu-activiteiten en reductie van energieverbruik. Eerst dient onderzocht te worden waar met de inzet van de kaart het meeste voordeel in de datacenterarchitectuur te behalen is. Een custom hardware acceleration is een goede oplossing voor diensten als ai en applicaties waar realtime processing vereist is.
- Fpga is eenvoudig in te zetten als rekenkracht voor encryptie/decryptie van data. De enorme hoeveelheid data die een datacenter binnenkomt of verlaat, krijgt te maken met encryptie/decryptie gebaseerd op het zware ipsec-proces en op cpu/gpu-basis. Een fpga-kaart kan zeer energiezuinig het proces van encryptie/decryptie uitvoeren en zorgdragen voor veilige communicatie en toegang tot hardware en de next hub in de communicatieketen.
Wireguard
De huidige internetcommunicatiebeveiliging is gebaseerd op vpn met de bekende protocollen zoals ipsec en openvpn. Deze opensource-protocollen bevatten inmiddels meer dan 600.000 regels. Het zware protocol verbruikt veel energie bij het encryptie-/decryptieproces. 600.000 regels zorgen ervoor dat de audit ingewikkeld wordt en dus de fraudegevoeligheid toeneemt. Ipsec is toe aan vervanging en dit maakt dat de toepassing van een protocol zoals wireguard steeds interessanter wordt bij (vpn-)leveranciers.
Wireguard kent grote flexibiliteit, weinig regels (vierduizend), snelheid en nog een aantal andere voordelen. Wanneer we het wireguard op een fpga-chiparchitectuur laten, landen dan realiseren we een oplossing met de beste opties voor sterke beveiliging, snelheid en lage energieverbruik voor datacenters en ook een iot-architectuur.
Uitdaging van fpga
Fpga kan lage latancy, hoge snelheid en een laag energieverbruik voor het verwerken van matrixoperatie als machine learning leveren. Dit is een groot voordeel ten opzichte van cpu/gpu. Daar tegenover staan voornamelijk twee uitdagingen waar fpga mee te maken heeft. Dit zijn de benodigde kennis voor het ontwerpen en de ondersteuning vanuit applicatieleveranciers.
Fpga vereist veel kennis en ervaring om ontworpen te worden. Het goede nieuws is dat er steeds meer ondersteuning en belangstelling vanuit de community aan fpga geschonken wordt. De toename in belangstelling versimpelt langzaam de tweede uitdaging; de ondersteuning van applicatieleveranciers.
BrightAI
In mijn zoektocht naar fpga kwam ik een Nederlandse onderneming tegen die als chipdesigner een bijzondere kennis en een plek binnen de community heeft. BrightAI is een scale-up die zich gespecialiseerd heeft in het ontwerp van fpga-chips en de inzet van een fpga-kaart op verschillende plekken in een datacenterarchitectuur. BrightAI is er als enige in de wereld in geslaagd het wireguard-vpn-protocol te porten naar een fpga-smart-nic, waarmee een bescherming op postkwantumniveau mogelijk is geworden (zie www.blackwire.online). Hun kennis en kunde is recentelijk beloond door de Linux FPGA Design Foundation. Fpga zal naar mijn mening een belangrijke rol gaan spelen in nieuwe ict-ontwikkelingen. Ik ben benieuwd met welke nieuwe oplossingen BrightAI de community gaat verrassen.
Reza Sarshar is projectmanager bij Interstellar
Dit artikel verscheen eerder in Computable 100, magazine #1 2024:
Als we kijken naar de fasen die DDA hanteert over wat erin gaat, eruit gaat en blijft hangen geeft de naam al een indicatie van de uitdaging want we noemen het geen rekencentra meer. Aantal Watts per TB is voor verduurzaming interessant want cloud opslag is allesbehalve groen als we kijken naar de gehele keten waarin we zeker ook niet het aantal Watts per transactie moeten vergeten. Verbeter de wereld en begin bij een ander heb ik geen wireguard-vpn-protocol nodig als ik een gesloten systeem heb.
Dom geboren, suf gewiegd en nooit wat bijgeleerd leerde de AI van jaren 80 met de film Wargames ons al dat beveiligingsmaatregelen steeds meer stroom vragen. Wat betreft beveiliging op ‘postkwantumniveau’ is niet alles geheim en je kunt energie voor encryptie-/decryptieproces besparen door je data te classificeren. Want wat betreft het verzamelen van metadata beschrijvingen in een archief wil je niet dat ChatGPT slimmer wordt met jouw data.