Sam Altman noemt werkgeheugen in pc's verspilling

OpenAI-topman Sam Altman vindt het zonde dat consumenten werkgeheugen in hun eigen computers hebben zitten terwijl datacenters kampen met tekorten. Volgens hem kan de wereldwijde voorraad DRAM veel efficiënter worden ingezet in de cloud dan op je bureau.

• Wat: Sam Altman stelt dat RAM in consumenten-pc's een inefficiënte verdeling van schaarse hardware is.
• Waar gezegd: In de Cheeky Pint podcast, tijdens een gesprek over AI en toeleveringsketens.
• Context: Een aanhoudende RAM-crisis drijft de prijzen van laptops, telefoons en losse modules al flink op.

Liever in het datacenter dan op je bureau

Altman reageerde tijdens de Cheeky Pint podcast op de aanhoudende tekorten aan werkgeheugen. Veel techliefhebbers hopen met open-source modellen AI lokaal op hun eigen pc te draaien, zodat ze niet afhankelijk zijn van clouddiensten. Volgens Altman lost dat het capaciteitsprobleem helemaal niet op.

Video afspelen

The Verge schrijft dat Altman het vanuit het oogpunt van wereldwijde toewijzing zelfs verschrikkelijk noemt dat iedereen lokaal geheugen heeft staan. Engadget vat het treffend samen: volgens Altman zit er een flink deel van de beperkte wereldwijde voorraad DRAM in pc's waar consumenten het grootste deel van de tijd nauwelijks iets mee doen. In een datacenter draait datzelfde geheugen daarentegen continu op volle toeren.

Waarom hardwareliefhebbers hier kwaad over worden

De uitspraken vallen compleet verkeerd bij pc-gamers en enthousiastelingen. De markt zucht al langer onder stijgende hardwareprijzen, juist omdat gigantische AI-datacenters grote happen uit de beschikbare geheugenproductie nemen. SK Hynix waarschuwde eerder al dat het geheugentekort tot 2030 kan aanhouden.

Zoals de redactie van Bright opmerkt, merken gewone kopers dit tekort al direct in hun portemonnee bij de aanschaf van een nieuwe laptop of smartphone. Dat uitgerekend het gezicht van de AI-industrie nu suggereert dat consumenten die reepjes geheugen eigenlijk onterecht opeisen, voelt als een schop na.

De wereld draait niet alleen om cloudmodellen

Altman bekijkt hardware puur door een kille efficiëntiebril. Op papier heeft hij vanuit serverperspectief een punt: een serverrack benut elke gigabyte 24 uur per dag, terwijl mijn game-pc het grootste deel van de nacht stilstaat.

Maar een pc is geen gedeeld bedrijfsmiddel. We kopen die gigabytes om zware games te draaien, video's te renderen, of gewoon om programma's soepel open te houden zonder dat een cloudprovider over onze schouder meekijkt. Lokale rekenkracht geeft onafhankelijkheid en privacy.

Het idee dat consumentenhardware een verspilling van grondstoffen is omdat AI-bedrijven honger hebben naar geheugen, laat vooral zien hoe losgezongen de top van Silicon Valley inmiddels raakt van de gewone hardwarekoper.