Teknik

Opera kör AI direkt på din egen dator, utan abonnemang eller moln

Adrian Kessler
Lägg till oss på Google

Operas webbläsare för datorer kan nu köra en AI-modell på datorn där den är installerad och låta webbplatser och tillägg som du godkänner använda modellen. Funktionen heter WebAI och finns nu som en tidig förhandsversion i Opera One. När den aktiveras laddar den ner en modell med öppna modellvikter, exempelvis Googles Gemma. På en Mac använder den i stället den grundmodell som Apple redan bygger in i operativsystemet. Godkända webbplatser kan sedan be modellen att skriva, sortera eller jämföra text.

Den praktiska skillnaden handlar om vem som betalar och vart dina ord tar vägen. Ett webbläsartillägg som sammanfattar artiklar eller organiserar dina flikar med hjälp av AI skickar vanligtvis sidan till en molntjänst. Det innebär att någon måste stå för kostnaden, genom ett konto, en API-nyckel eller ett månadsabonnemang. Med WebAI stannar texten på datorn, utvecklaren betalar ingenting per förfrågan och användaren betalar inte heller något. ”Mycket av det människor vill ha AI till kräver inget datacenter. Din laptop klarar redan av det, utan att skicka dina data någonstans”, säger Krystian Kolondra, Operas vice vd med ansvar för webbläsare och AI.

Utvecklare får tre byggstenar, som Opera kallar Prompt, Decision och Semantic Embeddings API:erna. Enkelt uttryckt gör de det möjligt för en webbsida att skapa text, sortera information i kategorier och mäta hur nära besläktat innehållet i två texter är. Operas egna exempel är medvetet småskaliga: ett tillägg som varnar för klickbeten, ett som hittar relevanta jobbannonser medan du surfar och ett som färgmarkerar varje stycke i en artikel utifrån hur viktigt det är för ett projekt du har beskrivit.

För att visa vad tekniken kan användas till har Opera släppt sex experimentella tillägg och understryker att de är demonstrationer, inte produktfunktioner. Ett av dem skriver ett kort quiz för att kolla om du förstått artikeln du just läst. Ett annat, Semantic Art, omvandlar en webbsida till rörliga former där likartade meningar glider intill varandra. Några är uppenbart skämt, till exempel ett verktyg som skriver om vilken artikel som helst till ett ”outhärdligt inspirerande” inlägg för det parodiska nätverket RecordIn, och två ASCII-katter som hittar på en scen utifrån vilket ämne du än skriver in.

Den större ambitionen ryms i ordet standard. WebAI är en föreslagen webbstandard som enligt Opera har stöd från Google och Microsoft. Chrome erbjuder redan utvecklare egna inbyggda AI-gränssnitt, som kör Googles modell Gemini Nano. Operas lösning är inte knuten till någon viss modell: den kan använda öppna modeller som Opera distribuerar, kompatibla modeller som redan finns på datorn eller Apples modell som körs på enheten. Om webbläsarna enas om ett gemensamt gränssnitt skulle en utvecklare kunna skriva en AI-funktion en gång och låta den köras med den modell som finns i varje besökares webbläsare, i stället för att hyra molnkapacitet för varje läsare.

Begränsningarna är tydliga. WebAI är en förhandsversion och fungerar bara på 64-bitars Windows-datorer med Intel- eller AMD-chip och på Mac-datorer med Apple Silicon. Linux, Intel-baserade Mac-datorer och Windows på Arm saknar stöd, och Opera har inte sagt något om sina mobilwebbläsare. Lokala modeller är betydligt mindre än modellerna bakom de stora molnbaserade chatbotarna. Opera varnar också för att hastigheten beror på datorns hårdvara, så en äldre laptop svarar långsammare än ett datacenter. Att texten stannar på din dator skyddar dessutom bara det som modellen behandlar: webbplatsen du ger åtkomst till ser fortfarande vad du gör där, precis som tidigare.

Opera låter användaren själv bestämma om funktionen ska aktiveras. Ingenting laddas ner förrän WebAI slås på i webbläsarens AI-inställningar, och den första modelld nedladdningen kan ta några minuter. Varje webbplats måste få ett eget tillstånd, och hela funktionen kan stängas av när som helst. För ett företag som i åratal har marknadsfört sina webbläsare med fokus på integritet och säger att hundratals miljoner människor använder dem är möjligheten att själv välja en central del av erbjudandet.

Lanseringen, som tillkännagavs från Oslo den 27 oktober, bygger vidare på en experimentell utvecklarversion från 2024. Då blev Opera den första stora webbläsaren med inbyggt stöd för lokala modeller. Lanseringen skedde samtidigt som HTML-in-Canvas, en separat utvecklarfunktion som placerar levande, klickbara webbsidor i 2D- och 3D-miljöer och riktar sig till spel och Opera GX. WebAI kommer härnäst till Opera GX, spelarnas webbläsare, och Opera Neon, företagets agentdrivna webbläsare. Något datum har inte angetts. Opera planerar också fler öppna modeller som anpassats för olika enheter och fler verktyg för utvecklare.

Så länge andra webbläsare inte erbjuder samma gränssnitt fungerar en funktion byggd med WebAI bara för dem som redan använder Opera. Om det förändras beror mindre på Opera än på om Google och Microsoft går från att stödja förslaget på papper till att införa det i sina egna webbläsare.

Taggar: , , , , ,

Lägg till oss på Google

Diskussion

Det finns 0 kommentarer.