Många föreställer sig att ett system med god förmåga att producera text också är intelligent. Det är en missuppfattning, skriver fyra AI-forskare.
DET KAN VERKA rimligt att utgå från att en chatbot som producerar komplicerad och övertygande text har någon form av generell intelligens. Den uppfattningen finns även bland kända AI-forskare. Peter Norvig, tidigare forskningschef på Google, och hans medarbetare Blaise Agüera y Arcasanser skrev nyligen att artificiell generell intelligens redan är här i form av så kallade stora språkmodeller (large language models, LLM:s). De anser att ”dagens främsta modeller presterar kompetent även på nya uppgifter som de inte är tränade för”.
Vi bör ta den typen av påståenden med en rejäl nypa salt. Vi vet inte vilken information som ingått i träningen av till exempel Chat GPT, vilket innebär att vi inte vet om språkmodellen står inför en uppgift som verkligen är ny. Det har till exempel visat sig att den klarar ett prov som krävs för att arbeta som advokat i USA. Men vi vet inte om det beror på att Chat GPT har memorerat tidigare prov och övningsuppgifter, eller på att den kan resonera om juridik.
Ett annat exempel: Den ledande AI-forskaren och Turingpristagaren Yoshua Bengio sa tidigare i år att vi ”nu i princip har nått den punkt där det finns AI-system som kan lura människor, vilket betyder att de kan klara Turing-testet”.
Vi betonar nyckelfrasen ”lura människor”. Redan för ett kvarts sekel sedan påpekade den australiensiske data- och kognitionsforskaren David Powers att olika system klarat Turingtestet eftersom människan har en ”välvillig utgångspunkt” och därför antar att den vi talar med är en verklig person.
MÄNNISKOR HAR LÄTT att föreställa sig mänskliga förmågor hos system som genererar språk. Fraser som ”Jag är ledsen, jag kan inte hjälpa dig med det”, leder till att vi felaktigt antar intentioner och intelligens. Men språkförmåga är något annat än intelligens. Mängder av studier inom psykologi, neurovetenskap och kognitionsvetenskap visar att språket inte avgör hur intelligenta vi är, utan är vad som gör det möjligt för oss att kommunicera vår intelligens med andra.
Det faktum att en bebis ännu inte lärt sig prata ordentligt betyder inte att den saknar intellige
