Teknik

OpenAI-chefen Sam Altman säger att RAM-uttalandet togs ur sitt sammanhang – utskriften ger honom halvt rätt

Han svarade på en fråga om lokal AI-inferens, inte om speldatorer. Hans argument placerar fortfarande det knappa minnet i datacenter.
Adrian Kessler
Lägg till oss på Google

Sam Altman vill få det till protokollet att han står på samma sida som människor som köper minne till sina egna datorer. OpenAI:s vd säger att en kommentar om att hemdatorer skulle hålla på världens knappa DRAM-förråd togs ur sitt sammanhang, och att han länge har drivit på branschen för att tillverka mer. Hela samtalet visar att han har delvis rätt. Kontexten förändrar vad han menade. Men den förändrar inte vart hans argument leder chippen medan bristen består.

Han försvarade sig på X efter flera dagars skämt på hans bekostnad, och spelade själv med. En användare bad honom byta namn på sitt konto till ”Ram Altman”. Han svarade ”ok ja” och ändrade visningsnamnet. Sedan förklarade han sig: ”Jag vill faktiskt att världen ska ha massor av minne och att folk ska kunna stoppa in så mycket de vill i sina datorer, och det är så jävla irriterande att det här togs ur sitt sammanhang.” Han lade till: ”Jag har länge argumenterat för att världen ska öka minnesproduktionen.”

Vad Altman faktiskt sa i Cheeky Pint

Uttalandet kommer från Cheeky Pint, podden som leds av Stripe-medgrundaren John Collison och publicerar fullständiga transkriberingar. Avsnittet lyder: ”Men ur ett globalt fördelningsperspektiv är det faktiskt rätt illa om alla har en massa av världens begränsade DRAM-förråd sittande i sina egna datorer. Och som används […] 5 procent av tiden. Om man försöker hantera den här situationen med mycket begränsad tillgång vill man ha maximalt utnyttjande i molnet.”

Merparten av rapporteringen började citatet där. Men det som sades före spelar roll. Collison hade frågat varför de höga minnespriserna inte lockade nya tillverkare in på marknaden. Altman svarade att ”den osynliga handen sviker just nu”. I årtionden, sade han, kunde en DRAM-tillverkare ”investera 20 miljarder dollar i investeringar för att tjäna in 19 miljarder” och ta sig igenom hög- och lågkonjunkturer. Nu när var och en av dem enligt hans uppskattning kan tjäna ”typ 100 miljarder dollar i fritt kassaflöde på ett år” tänker de ”alla på sin historia. På hur många gånger de nästan gick i konkurs för att de byggde för många fabriker.” Först därefter vände han sig till dem som vill köra inferens lokalt: använda AI-modeller med öppen källkod på sina egna datorer, med antagandet att det minskar trycket på datacentren. Kommentaren om att det är ”rätt illa” var hans invändning mot det antagandet.

Senare i samma samtal säger han att kostnaderna för energi och chip ”borde gå ner”, att ”om de inte går ner blir jag väldigt ledsen” och att ”utbudet måste öka rejält”. På den snäva sakfrågan håller hans försvar. Han pratade om AI-inferens hemma, inte speldatorer eller videoredigering, och efterlyste ökad produktion i samma avsnitt.

Där kontexten slutar hjälpa

På en marknad med brist på utbud handlar ett argument om fördelning om vem som får chipp. ”Maximalt utnyttjande i molnet” innebär att de går till datacenter, och OpenAI är en av de största köparna på den marknaden. Samsung och SK Hynix undertecknade avsiktsförklaringar om att leverera minne till OpenAI:s infrastrukturprojekt Stargate, ett åtagande som The Register uppskattade till omkring 900 000 DRAM-waferstarter i månaden. Avsiktsförklaringarna är inte bindande, men de visar hur stor del av marknaden OpenAI har för avsikt att köpa upp. Notebookcheck påpekade att argumentet också passar OpenAI:s affärsmodell: slutna modeller som körs i företagets datacenter och säljs via abonnemang.

Inte ens avsnittets tydligaste uttalande om överflöd kommer från Altman. ”Överflödet av beräkningskapacitet”, där ”alla som vill ha en dator, oavsett anledning, kan få en”, är Collisons sammanfattning av Altmans ståndpunkt. Altman svarade inte direkt på det. I stället talade han i datacentertermer och nämnde kostnaden för fem års kapacitet på en gigawatt, som han uppskattade till omkring 70 miljarder dollar och gärna skulle se sjunka till 20.

Uppgiften om 5 procent saknar källa

Siffran som utlöste bråket saknar underlag i form av mätningar. PC Games Hardware påpekade att den beskriver hur stor del av tiden minnet är upptaget, inte hur mycket en maskin behöver: ett operativsystem behåller data i cache, och program tar i anspråk mer minne i korta perioder. En gigabyte som står oanvänd över natten måste ändå finnas tillgänglig när ett spel eller en lokal modell startar. Människor kör också AI på sin egen hårdvara av skäl som en siffra för minnesutnyttjande inte kan fånga, till exempel integritet, kontroll över en modell som en leverantör inte i tysthet kan ändra och en engångskostnad i stället för ett abonnemang.

Elon Musk gav sig också in i diskussionen på X med orden: ”Folk förtjänar också att ha sitt RAM!” Hans eget AI-bolag driver datacentret Colossus i Memphis, som PC Games Hardware påpekade.

Bristen märks redan i butikspriserna. Den 2 november höjde Raspberry Pi priset på Raspberry Pi 5 med 16 GB minne med 80 dollar, till 385 dollar, med hänvisning till ”brist på alternativa leverantörer av DRAM på 16 GB”. PC Gamer, vars rapportering spred X-utbytet till en bred publik, skrev att teknikentusiaster och gamers har ”inte längre råd med ny hårdvara” på grund av OpenAI och resten av AI-branschen. Avsnittet av Cheeky Pint publicerades den 29 oktober, och Altmans svar på X kom under de första dagarna i november.

Altmans lösning på allt detta är fler fabriker. Enligt hans egen beskrivning minns företagen som skulle behöva bygga dem hur nära konkurs de var förra gången någon sa att den här högkonjunkturen var annorlunda. Till dess att de ändrar sig fördelas minnet redan på det sätt han beskrev: till köparen som betalar mest och håller det mest sysselsatt. Och den köparen är ett datacenter, inte en stationär dator.

Taggar: , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.