Instagram testar en ’AI-creator’-märkning och lämnar valet till skaparna

Instagram rullar ut den hittills tydligaste signalen om att ett konto drivs av artificiell intelligens — en märkning på profilnivå som lyder ”Den här profilen publicerar innehåll som är genererat eller modifierat med AI”. Det finns en hake som definierar hela funktionen — att aktivera märkningen är helt och hållet skaparens val.

Det nya ”AI-creator”-märket dyker upp på två platser. Det syns tydligt på skaparens profilsida och följer med dennes inlägg och Reels där dessa visas på andra ställen i appen — i flödet, i Utforska, inuti Reels. Formuleringen är märkbart mer rak än Metas befintliga ”AI info”-märken, som bara antyder att ett visst inlägg ”kanske” har skapats eller redigerats med ett AI-verktyg. Det nya märket går rakt på sak.

För användarna är den praktiska effekten när ett opt-in-konto syns framför dem verklig. Att veta att allt som kommer ur en profil är AI-genererat förändrar hur den profilen läses — vad dess bilder hävdar, vad dess stories säger, vad dess lifestyle-scener antyder. Instagrams in-app-uppmaning till skaparen ramar in detta som en fördel: ”Den här märkningen skapar förtroende genom att hjälpa din publik att förstå vad de ser på Instagram.” Meta beskriver det bredare arbetet som att höja ribban för AI-transparens.

Du kanske också gillarSpaceX lämnar in ansökan om historiens största börsnoteringen: 75 miljarder till 1 750 miljarder dollar

Opt-in-konstruktionen är där bilden tappar kraft. De konton som är mest benägna att lura en tittare om huruvida innehållet är äkta är exakt samma konton som är minst benägna att frivilligt berätta att de drivs av AI. Jämför alternativen Meta hade kunnat välja. Plattformen kunde ha slagit på märket som standard, gjort det obligatoriskt eller dragit ned räckvidden för konton som vägrar märka sig. Inget av dessa alternativ ligger på bordet. Metas eget Oversight Board har separat noterat att de befintliga AI-redovisningarna tillämpas ojämnt, eftersom Meta saknar ett tillförlitligt sätt att upptäcka det AI-genererade innehåll som passerar genom appen.

Resultatet är ett system som hänger på den goda viljan hos den mest investerade användarkategorin på Instagram. Var och en som driver en lönsam AI-persona — fiktiva influencers, AI-genererade lifestyle-konton, modesidor med AI-modeller — har ett direkt ekonomiskt incitament att inte uppge att innehållet är syntetiskt. Märkningen är mer användbar som verktyg för etablerade skapare som ibland använder AI och vill spela med öppna kort, mindre användbar som försvar mot just de delar av AI-flodvågen som företaget uppenbart försöker hantera i första hand.

Sedan finns frågan om vad märkningen betyder för skapare som använder AI som ett verktyg bland många. En fotograf som kör upscaling, en videoredigerare som använder AI-brusreducering, en lifestyle-skapare som då och då skickar en bild genom ett generativt verktyg — alla skulle tekniskt falla under ”genererat eller modifierat med AI”. Meta har inte specificerat var gränsen går mellan AI-hjälp som utlöser märkningen och AI-hjälp som inte gör det.

Testet rullas ut gradvis. Det finns inget meddelat datum för en bredare utrullning, inget åtagande att göra märket obligatoriskt och inget tecken än på att AI-märkningen kommer att kopplas till Instagrams distributionsalgoritmer. Det riktiga testet av funktionen blir inte utrullningen — det blir om de konton som mest borde märkas någonsin slår på den.

Mer som detta

Spöket som styr: när autonom AI överträffar de system som är utformade för att hålla den i schack

Kina godkänner världens första kommersiella hjärnimplantat och lämnar Neuralink efter sig

Meta testar WhatsApps första betalnivå — meddelandena förblir gratis

StoneHold avtäckt: En hybrid mellan action-MOBA och samlarkortspel

WhatsApp lanserar användarnamn — du behöver inte längre dela ditt telefonnummer

Den algoritmiska seansen: Sorg, dataism och ändlighetens död