Amerikaanse onderzoekers hebben samen met TSMC, de grootste chipfabrikant op aarde, een geheugenchip gemaakt die slechts een fractie verbruikt van wat gangbaar is. Een schrijfactie kost ongeveer twee biljoenste van een joule. De chip moet kunstmatige intelligentie mogelijk maken op kleine apparaten, zonder dat er een datacenter tussen moet komen.
AI heeft een energieprobleem. Dat komt vooral omdat gegevens voortdurend heen en weer moeten worden verplaatst. Een processor haalt bijvoorbeeld gegevens uit het geheugen, rekent ermee en schrijft het resultaat terug in het geheugen. Dat transport vereist meer energie dan de berekening zelf. Schaal dat op naar miljoenen chips in datacenters en je hebt veel ruimte voor verbetering.
Onderzoekers van de Universiteit van Texas hebben daarvoor de handen ineengeslagen met TSMC. Samen maakten en testten zij chips met magnetisch geheugen, in vakjargon SOT-MRAM.
Elke geheugencel van deze chips bevat een piepklein magneetje. Wijst het de ene kant op, dan is dat een nul. De andere kant betekent één. Het voordeel aan een magneet is dat die niets vergeet. Als je de stekker uittrekt, blijft de informatie bestaan, in tegenstelling tot werkgeheugen in moderne computers (RAM, niet je harde schijf).
Oudere magnetische geheugens bestonden al, maar daarin werd stroom door de magneten zelf gejaagd. Dat zorgt voor slijtage. In deze chip loopt de stroom door een metalen strookje ernaast, dat de magneet als het ware een duwtje geeft. De cel gaat zo langer mee en het schrijfproces is sneller.
Rekenen in het geheugen zelf
De cellen liggen in een raster, met horizontale en verticale draden die elkaar kruisen. Op elk kruispunt zit een geheugencel. Zo’n raster kan berekeningen in één keer uitvoeren. Dat gebeurt in het geheugen zelf. De gegevens hoeven dus niet eerst naar een processor en terug.
De onderzoekers lieten deze chips drie soorten AI-taken uitvoeren: een getraind netwerk laten redeneren, een netwerk trainen en kansmodellen doorrekenen.
Eén schrijfactie duurde twee nanoseconden en kostte twee picojoule. Andere geheugentypes doen daar volgens de onderzoekers vijf keer tot honderden keren langer over en verbruiken honderden picojoule of meer.
Waarom niemand dit eerder probeerde
Er was een goede reden om dit type geheugen voor AI links te laten liggen. Een cel kent maar twee standen. Neurale netwerken werken juist met tussenwaarden, met alle waarden tussen nul en één. Met alleen uitersten verlies je nauwkeurigheid.
“De unieke combinatie van snelheid, energiezuinigheid en levensduur maakt dit geheugen bijzonder geschikt voor AI-toepassingen, zeker in apparaten waar stroom en geheugen beperkt zijn”, zegt eerste auteur Sam Liu in een persbericht. “Wij hebben het zo ontworpen dat we die tweedeling kunnen benutten en toch nauwkeurig blijven.”
Slimme sensoren zonder datacenter
De onderzoekers mikken niet op de grote datacenters, maar op de apparaten aan de rand van het netwerk, zoals sensoren, camera’s en robots.
“Neem een robothand die warmte voelt”, zegt Jean Anne Incorvia, projectleider van het onderzoek, in het persbericht. “Net als bij een mens kan de lokale AI in die hand snel genoeg en accuraat genoeg beslissen om de hand te bewegen, zonder het signaal eerst naar de hersenen te sturen. Is er heel hoge nauwkeurigheid nodig, dan kan de robot alsnog verbinding maken met datacenters in de cloud.”
Het stroomverbruik van AI kun je op twee manieren temmen: de techniek zuiniger maken, of minder afhankelijk worden van datacenters. Zuiniger geheugen doet allebei tegelijk.
De chips zijn gemaakt op volledige wafers in een echte fabriek, niet als losse proefexemplaren in een universiteitslab. Dat is een belangrijk verschil: het betekent dat de techniek in principe met bestaande productielijnen gemaakt kan worden.
Wil je niets van Scientias missen? Voeg Scientias toe als voorkeursbron op Google dan zie je al onze verhalen!
Uitgelezen? Luister ook eens naar de Scientias Podcast:
