Den 2 oktober.
I dag ska vi ta upp frågan om datorer kan tänka. Den har förstås att göra med både Systemet och med robotar, och frågan är gammal. Det är mer än hundra år sedan, i den gamla goda AI:s barndom, som filosofer kastade sig över AI-utvecklarna och menade att datorer inte alls kan ’tänka’. Allan Turing, en av ’fäderna’ till datorutvecklingen påpekade att vi inte definierat ’tänka’ tillräckligt för att kunna svara på den frågan. Jag ville vi skulle läsa Turings artikel till ett seminarium.
Förresten, att ’tänka’ kräver väl ett ’medvetande’? I så fall borde vi börja med att fråga om datorprogram har något medvetande. John Searle är en filosof som tog upp den frågan för länge sedan. Den gamla artikeln bör vi läsa om. Den handlar om ’Det kinesiska rummet’.
I anslutning till det bör vi diskutera Turingtestet också, och varför inte Winograds utmaning? Det kinesiska rummet får vara utgångspunkten.
Jag bad Maurice vara med vid seminariet. Kan det finnas något bättre sätt att diskutera om program kan tänka än att ha med en intelligent robot? Maurice fick börja med att sammanfatta själva scenariot för det kinesiska rummet:
”Det handlar om en person som inte förstår ett ord kinesiska. Han är instängd i ett rum där han kan ta emot meddelanden genom en lucka och skicka ut meddelanden genom en annan. Till sin hjälp har han en lista med instruktioner som säger hur han ska göra.”
Maurice såg sig omkring och kommenterade:
”En mycket egendomlig situation, måste jag säga.”
”Och sen då?” sa jag som inte ville protestera.
Ur Maurice´s synvinkel är det naturligtvis underligt att tala om ’instruktioner’. Han är säkert inte medveten om att hela hans beteende styrs av instruktioner, det vill säga program-kod.
”Personen får alltså något meddelande på kinesiska och med hjälp av instruktionerna skriver han något annat, som han skickar ut genom luckan.”
Calle, som alltid var kvick på att reagera frågade omedelbart:
”Och hur känner sig människan utanför rummet då? Det är väl en kines, antar jag?”
”Det vet jag inte”, sa Maurice och såg som vanligt oberörd ut.
”Men han måste väl vara kines om han kan skriva och läsa kinesiska!” sa Calle.
”Jag är fransman,” påpekade Maurice, ”och jag kan skriva och läsa engelska.”
”Det är inte det som det hela handlar om”, avbröt jag. Jag kände ansvar för att hålla diskussionen på rätt spår.
Nu tog Göran tag i tråden:
”Människan utanför kan tro att den som är innanför kan kinesiska. I alla fall om meddelandena hänger ihop.”
”Det är just det”, sa jag, som hade facit. ”Människan utanför vet inte att personen innanför bara handlar efter en lista med instruktioner. Det kan vara en dator, eller en” – jag tittade på Maurice – ”robot”.
”Nej, ingen robot”, sa Maurice, ”det står att det är en människa!”
Jag lade handen på hans arm för att hindra honom från att fortsätta med att säga ”jag är en robot.” Jag ville inte att seminariedeltagarna skulle få veta det, inte ännu. Vi hade flera frågor att diskutera.
”Jag har läst den där Turing-artikeln”, sa Lasse, vår filosof. ”I själva verket kan det där sägas vara ett slags ’Turing-test’. Var det inte det du sa, Yasmine?”
Inte precis tänkte jag.
”Berätta du om Turing-testet”, bad jag honom. Men Maurice hann före:
”Alan Turing var en brittisk matematiker, född år 1912.”
Maurice är som en uppslagsbok. Han kan imponera med sina faktakunskaper. Ville han det? Kan man säga att en robot har en vilja?
”Alan Turing tyckte att frågan om datorer kan tänka var illa formulerad”, började Lasse. ”Vet vi egentligen vad vi menar med ´tänka´? I stället gjorde Turing om frågan. Låt oss föreställa oss att vi kommunicerar med någon utan att veta om denne är en människa eller en maskin, till exempel via skriven text, hur skulle vi då avgöra vilket det var? Det där blev Turing-testet.”
”Det påminner onekligen om det där kinesiska rummet”, sa Göran.
”Undrar hur han känner sig som blir lurad där utanför?” Det var Calle som fäst sig vid den emotionella sidan av problemet.
”Det där var länge sedan”, påpekade Maurice. ”Ett datorprogram klarade Turingtestet redan 2014. Det föreställde en trettonårig ukrainsk pojke”
”Men …” protesterade Cecilia, Ann och Göran i mun på varandra, och Cecilia hann först med frågan.
”Vem vet vad en sådan gosse kan tänka?”
Jag fick en plötslig lust att peka på Maurice och fråga om de kunde avslöja honom, men jag hejdade mig. Det var inte dags ännu. Det fanns en artikel till.
”Jag läste om Winograds utmaning”, sa Cecilia.
Jag uppmuntrade henne att berätta, men Maurice hann före.
”Terry Winograd föddes år 1946 och var professor vid Stanford-universitetet. Han arbetade med naturligt språk …”
Så långt hann Maurice innan jag avbröt honom. Det fanns risk att Maurice skulle känna till vad hans eget naturliga språk hade för bakgrund, och jag ville inte att någon skulle veta ännu.
”Låt Cecilia berätta!”
Cecilia började utan att låta någon märka att hon känt sig avbruten.
”Winograd menade att Turing-testet var otillräckligt. Eller kanske rättare sagt att det var svårt för en människa att ställa tillräckligt avslöjande frågor. ”
Cecilia avbröt sig. ”Jag har själv undrat över vad jag skulle fråga för att veta om jag skrev till en dator eller en människa.”
Maurice såg oberörd ut, men jag undrade om något inuti honom reagerade. Ville han svara? Kunde han berätta hur man kunde avslöja honom? Jag hade inte lyckats göra det än, i alla fall. Han verkade för mig ha en högre intelligens än normalt, det var bara det.
Cecilia fortsatte:
”Något som är avgörande för att skilja en människa från en dator är kunskapen om världen omkring. För att förstå vanligt tal (naturligt språk) räcker det inte med att förstå ord, man måste också förstå världen som orden beskriver.”
Jag kunde inte låta bli att tänka ”omvärldskunskap”, var det inte det han sagt, mannen på tåget, då när jag åkte ner till mormor?
”Du menar att bollar rullar nerför kullar?” sa Calle som ibland försökte retas med Cecilia.
”Ja, inte uppför i alla fall!” sa Cecilia, lugnet självt. Hon blev sällan provocerad.
”En annan forskare tänkte ut något som krävde omvärlds-kunskap. Han kallade det för Winograd-utmaningen, efter språkforskaren Winograd”.
Calle tittade ut genom fönstret och började vissla. De andra hyssjade ner honom. Maurice såg oberörd ut, men hans händer låg alldeles stilla på bordet, som om han koncentrerade sig.
”Så det var det som den tredje artikeln handlade om?” sa Göran.
”Jag vet!” sa Lasse, men jag gav ordet till Cecilia och hon fortsatte.
”Man tar meningar som bara kan avgöras om man förstår omvärlden, till exempel:
’Tom kastade ner sin skolväska till Jon när han kommit X stegen.
Vad ska X vara? Uppför eller nerför?’
Ingen kunde nu vara tyst, inte ens Maurice:
”Uppför!”
Se där, tänkte jag, det där är inget test som kan avslöja Maurice i alla fall. Men det är klar att man kommit längre nu. Testet föreslogs för mer än hundra år sedan.
”Vem var det som kom upp för stegen, då?”
Nu kom en stunds tvekan.
”Säg om det där första”, bad Göran.
Cecilia upprepade:
’Tom kastade ner sin skolväska till Jon när han kommit X stegen.”
Och alla svarade, också Maurice:
”Tom!”
Jaha, så mycket för det testet, tänkte jag. Finns det något som kan avslöja Maurice?
Nu var det dags att berätta om Maurice. Så jag kastade mig in i diskussionen:
”Ni har alla träffat Maurice ganska nyligen. Är det någon som tvivlar på att han tänker som en människa?”
Nu tittade alla på mig, till och med Calle.
”Vad då? Varför skulle vi göra det?”
”Ni känner ju inte honom.”
”Du menar att han skulle vara en – intelligent robot?”
”Varför inte? Sätt honom på prov. Tvivla på att han tänker som en människa och försök att avslöja honom!”
Nu hade jag satt i gång dem. Jag själv satt med facit, fast jag måste erkänna att jag var lite orolig. Vad kan avslöja Maurice, egentligen?
Göran var den förste att fråga. Han hade kanske programmerat mest av dem som var där.
”Var föddes du?” frågade han.
Om Maurice tvekade en tusendels sekund var det nog ingen annan som märkte än jag. Svaret löd så här:
”Jag föddes av sagor och sägner en gång där furorna sjöngo sin eviga sång bland urtidens skyhöga fjäll ”
Jag blev förvånad. Vad var det där för något?
Cecilia reagerade omedelbart.
”En sång som man brukade sjunga vid Lucia.” Hon tog upp melodin och gnolade fortsättningen:
”Av solen som föll genom granarnas snår har flätats en gyllene länk i mitt hår.”
Cecilia sjunger i en kör på fritiden. Det är klart att hon skulle känna igen den sången!
Tillbaka till ursprungsfrågan: Kunde det där avslöja Maurice?
”Tänker Maurice som en människa?” frågade jag.
Ingen vågade säga något. Frågan och svaret kunde inte avgöra. Han känner till en del musik, det är tydligt, men det kan både människor och robotar göra.
Lasse kände sig tydligen utmanad. Långsamt och tvekande ställde han sin fråga.
”Vad kallades du för som barn?”
Maurice dröjde inte länge med att svara:
”Det”
Jag tittade på de andra deltagarna. Varifrån hade Maurice fått det där? ”Det”, antydde det inte mekanik? Har Maurice en sådan självkännedom? Ja, det beror förstås på vad man på TCM lyckats lära honom. Och hur mycket han lärt sig själv senare. Jag kan inte låta bli att undra hur han fick sin kunskap. Väggen hos TCM kunde förstås ge en hel del som jag inte hann uppfatta. Och artiklar han ’läst’ senare. Som till exempel dem vi diskuterade i dag. Jag hann inte komma så långt i mina tankar innan Susanne kommenterade:
”Pojken som kallade för ’Det’”, sa hon. ”Det är en gammal bok som finns i mina föräldrars bokhylla. Och den kommer i arv från mina farföräldrar.”
Calle tittade på Maurice.
”Är det sant?” sa han. ”Kallades du verkligen för ’Det’?”
Maurice hann inte nicka. Susanne kommenterade:
”Han har visst läst mycket”, sa hon. ”Och har breda intressen. Det är ovanligt för en människa.”
”Menar du att en människa som kan mycket är …” Calle var så ivrig att hans saliv hängde i luften. Jag såg hur han sög in den igen innan han stängde munnen.
”Jag menar att det är ovanligt numera att en människa kan mycket. Allt finns att hämta på nätet.” Susanne drog ett djupt andetag innan hon fortsatte, ”Jag tror att Maurice är en robot, som har en stor databank.”
Vi diskuterade ett tag. Maurice höll sig tyst ganska länge. Slutligen böjde han ner huvudet och lät de andra examinera hans solceller. Alla var imponerade.
Till något senare seminarium borde vi nog läsa någon annan filosof. Nick Bostrom läste vi tidigare, men då för att hitta en lösning till vårt problem. Men han har framförallt diskuterat farorna med en ’Superintelligens’. Det är något som är värt att beakta. Skillnaden mellan en superintelligens och oss kan vara minst lika stor som mellan oss och en rundmask – kanske till och med större. Hur kommer en superintelligens behandla oss? Som myror eller kackerlackor? Om den lyder oss, kan vi då förklara vad vi egentligen vill och inte vill? Kan vi få den att förstå mänskliga värden, mänsklig moral? Jag tror att mitt projekt ska handla om den frågan.
