Teknik

Apple godkänner TinyGPU — Mac Mini kan nu köra stora AI-modeller

Susan Hill

Apple har officiellt signerat drivrutinen TinyGPU, utvecklad av Tiny Corp grundat av programmeraren George Hotz. För första gången sedan övergången till Apple Silicon kan Mac-användare ansluta ett externt Nvidia- eller AMD-grafikkort och använda det för AI-beräkningar — utan att kringgå systemets säkerhetsmekanismer.

Sedan Apple bytte till egna chip 2020 var det i praktiken omöjligt att använda externa grafikkort på Apple Silicon-maskiner. Tidigare försök krävde att användaren inaktiverade System Integrity Protection (SIP), ett centralt säkerhetslager i macOS som Apple aldrig officiellt stött att kringgå. TinyGPU löser detta genom att köra inom macOS normala säkerhetsramar via Apples DriverKit-mekanism och aktiveras enkelt via systeminställningarna utan några systemmodifikationer.

Enligt Tiny Corps egna tester kör en Mac Mini ansluten till en AMD Radeon RX 7900 XTX via Thunderbolt modellen Qwen 2.5 27B med 18,5 tokens per sekund. Med en extern RTX 4090 registrerar community-benchmarks mellan 45 och 50 tokens per sekund för Llama-modeller i Q4-kvantisering — en prestandanivå som tidigare krävde dedikerad hårdvara till väsentligt högre kostnad.

Vad drivrutinen klarar — och inte klarar

TinyGPU är uteslutande avsett för AI-beräkningar. Det accelererar inte skärmutmatning, förbättrar inte spelprestanda och ersätter inte Apple Silicons integrerade GPU för videoredigering eller grafikarbete. AMD-kort från RDNA3-generationen och framåt fungerar med en relativt enkel installationsprocess; Nvidia-kort från Ampere-generationen och framåt kräver Docker Desktop, vilket förutsätter kännedom om utvecklingsmiljöer. Thunderbolt 4:s bandbredd utgör dessutom ett fysiskt tak: samma grafikkort presterar märkbart bättre i en nativ PCIe-plats än via extern kabelanslutning.

Mac Pro avvecklat — Mac Mini uppgraderat

Det framkom att Apple i samma månad tyst avvecklade Mac Pro och tog bort produktsidan från sin webbplats utan officiellt meddelande och utan att presentera en efterföljare. Mac Pro var Apples enda modulära stationära dator — den enda som gav professionella användare möjlighet att utöka beräkningskraften med egna hårdvarukomponenter. Godkännandet av TinyGPU framstår som Apples implicita svar på den fråga som beslutet väckte: användare med behov av kraftfull AI-beräkning på Mac får framöver den kapaciteten genom att ansluta extern hårdvara till en Mac Mini, inte genom att köpa ett proprietärt torn.

Enligt Tom’s Hardware och TechRadar är detta den första tredjeparts compute-drivrutin för externa GPU:er på Apple Silicon som officiellt godkänts av Apple via DriverKit — ett anmärkningsvärt prejudikat för ett traditionellt slutet ekosystem.

För användare som redan använder Mac Mini som lokal AI-inferensserver via verktyg som Ollama eller llama.cpp är förändringen omedelbar: modeller som överskred kapaciteten för unified memory kan nu ligga helt i VRAM:et på en extern GPU, vilket eliminerar fragmentering och förbättrar bearbetningshastigheten avsevärt.

Minimikraven är macOS 12.1 eller senare, en Thunderbolt 3-, Thunderbolt 4- eller USB4-port samt ett kompatibelt grafikkort i ett eGPU-chassi med tillräcklig strömförsörjning. TinyGPU finns tillgängligt via Tiny Corps officiella dokumentation och GitHub-repository.

Diskussion

Det finns 0 kommentarer.