Som tekniken bakom artificiell intelligens ser ut i dag kommer den att koncentrera rikedomar och göra arbetstagare maktlösa. Denna debattartikel ställer frågan om detta går att undvika.
TEXT TED CHIANG
N Ä R V I TA L A R om artificiell intelligens använder vi oss ofta av metaforer. Vi jämför kraftfulla AI med andar i sagor eller med kung Midas, som krävde att allt han rörde vid skulle förvandlas till guld.
Jag vill dock föreslå en annan liknelse för riskerna med artificiell intelligens: att vi tänker på AI som en managementkonsultfirma, i stil med McKinsey & Company. Likheterna mellan McKinsey – som arbetar med de flesta av västvärldens största företag – och AI är tydliga. Företag inom sociala medier nyttjar maskininlärning för att hålla användarna fast vid deras flöden. På liknande sätt anlitades McKinsey av läkemedelsbolaget Purdue Pharma för att ta reda på hur man skulle ”turboladda” försäljningen av Oxycontin under opioidepidemin i USA. Precis som AI lovar att utgöra en billig ersättning för mänskliga arbetare, så hjälpte McKinsey och liknande företag till att normalisera massuppsägningar som ett sätt att höja aktiekurserna och ersättningen till chefer, vilket bidrog till att förstöra medelklassen i Amerika.
En tidigare McKinseyanställd har beskrivit företaget som ”kapitalets villiga bödlar”. Att slippa behöva ta ansvar är en av de mest värdefulla tjänster som managementkonsultföretag tillhandahåller. Genom att anlita konsulter kan en företagsledning säga att den bara följde oberoende expertråd.
Den fråga vi borde ställa oss är: När AI blir allt kraftfullare, finns det då något sätt att förhindra att de blir en ny version av McKinsey? Anta att det byggs en halvautonom AI som är helt följsam mot människors instruktioner. Detta är drömmen för många AI-forskare. Och det kommer alltid att gå att bygga en AI som prioriterar höjt aktieägarvärde. De flesta företag kommer att vilja använda en sådan snarare än en AI som begränsas av prosociala principer.
Jag kritiserar inte idén att sälja saker, utan omständigheten att människor som har mycket pengar får utöva makt över människor som faktiskt arbetar. Mer specifikt kritiserar jag den ständigt växande koncentrationen av rikedom bland allt färre människor. Detta är kanske inte en inneboende egenskap hos kapitalismen, men den
