Demis Hassabis om vem som ska betala för AI-säkerhet: ”Finansieringen skulle behöva vara betydande och mestadels komma från industrin”

Demis Hassabis har under året argumenterat för att de mest kraftfulla AI-systemen borde granskas innan de når allmänheten, av ett oberoende organ inspirerat av den tillsynsmyndighet som övervakar Wall Streets mäklare. Den svårare frågan är inte om en sådan domare ska finnas. Det är vem som betalar – och i en enda mening gav chefen för Google DeepMind också svar på det.

”Finansieringen måste vara substantiell och sannolikt till största delen komma från industrin, för att locka till sig världsklassens tekniska talanger och tillhandahålla de nödvändiga beräkningsresurserna för storskaliga tester,”

Hassabis skrev den raden i det ramverk som lade fram hans förslag, enligt Malay Mail. Läs den snabbt, och den låter som ansvarstagande: skyddsräcken kostar pengar, och företagen som bygger tekniken bör stå för notan snarare än att låta allmänheten finansiera saneringen. Läs den som en mekanism, och det är den bärande raden i hela planen – den som avgör vems intressen domaren i slutändan skyddar.

Spänningen finns i meningen. Hassabis vill att organet ska vara oberoende. Han vill också att det ska finansieras, ”till största delen”, av just den industri det ska granska. Dessa två mål drar i olika riktningar, och historien om den modell han valde visar vilket som oftast vinner. Financial Industry Regulatory Authority, hans förebild, betalas av de mäklarfirmor den övervakar. Senator Elizabeth Warren har i flera år hävdat att FINRA agerar ”mer i de mäklarfirmors intresse som betalar dess räkningar än de enskilda investerare det är tänkt att skydda.”

Invändningen är inte perifer. Nader Henein, vicepresident och analytiker på Gartner, kallar självreglering helt enkelt ”inte genomförbar”, eftersom de flesta leverantörer saknar kapacitet för det och arrangemanget ”oundvikligen” skapar intressekonflikter. Den oberoende analytikern Carmi Levy gick längre och beskrev planen som ”en självbetjänt färdplan för en industri som är fast besluten att rusa framåt oavsett skadan”. Även sympatiska röster vill ha en brandvägg: Yoshua Bengio säger att han förstår pragmatismen men insisterar på ”en tydlig och precis färdplan för att gå från en frivillig till en obligatorisk modell.”

En säkerhetsregim är bara så oberoende som dess budget. Meningen som kommer att avgöra om den här skyddar allmänheten eller labben är inte den om att testa frontier-modeller. Det är den tysta om vem som skriver under checkarna.

Taggar: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI