Kategoriarkiv: maskininlärning

Om etik inom artificiell intelligens

E

När icke-tekniker ser på teknikens utveckling är det somliga som börjar tänka: är det här bra? Vart kan det här leda?

Det gäller Artificiell intelligens likaväl som annat. Jag ska här fundera lite över etik inom artificiell intelligens.

Blir vi översköljda av etikfrågor?

Det är inte så enkelt som inom robotiken, där Isaac Asimov redan på 1940-talet (krigsåren, kanske) formulerade de s.k. robotlagarna:

1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.

2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Man har diskuterat dessa lagar om och om igen, t.ex. ställt de sedvanliga dilemma-frågorna: Om man måste offra en människa för att rädda flera, hur ska man då göra? 

Men det är inte sådana frågor jag ska ställa nu. 

Artificiell intelligens kan förvissa skada människor, det pågår en hel del tankar (kanske t.o.m. utveckling) inom området robotkrigföring, men det finns andra etiska frågor, mer vardagsnära. 

Vad säger en leksak?

Allt behöver inte handla om robotar. Det finns artificiell intelligens invävd i mycket mer än vi (eller i alla fall jag) trodde.

Just nu finns t.ex. program som översätter språk eller program som söker efter information, program som anpassar information till användaren (t.ex. vilka inlägg som visas på Facebook eller vilka tidningsartiklar som erbjuds en viss läsare) och så förstås bildigenkänningsprogram. 

Där finns väl inga etiska problem? Förvisso. Jag minns de första taligenkänningsprogrammen. Jag lyckades aldrig tala in en enda enkel siffra eller ett enkelt kommando. Tills jag förstod att taligenkänningsprogrammen på den tiden var mycket dåliga på kvinnliga röster. När jag senare kom till USA och försökte ge ett telefonnummer muntligt, misslyckades jag. Min svengelska förstods inte av programmet. Det här är exempel på tidiga problem, men problemen fortsätter. 

Googles ”translate” t.ex. översätter hyggligt till engelska, men ganska ohyggligt till svenska. Kolonialism? Nej, det finns helt enkelt en större databas av engelska texter. Oskyldigt? Nej.

Program som känner igen ansikten, och som många börjat med numera, har svårare att känna igen mörkhyade än ljushyade. Är det en ”barnsjukdom”? 

Det sägs att det är svårare för ett program för ansiktsigenkänning att känna igen mörkhyade.

Kan det vara så att människor från ”’socialt utsatta” områden inte får samma erbjudanden som människor från gynnade områden? t.ex. om resor, skolor, arbete eller medicin? Jag påstår inte att det är så, men en hel del beror på hur man valt materialet som AI tränas på. 

En småsak möjligen, men nog så irriterande är att Facebook väljer att visa inlägg från mina flitigaste vänner i första hand. Och eftersom jag inte scrollar så långt, får jag inte se inlägg som människor som är nya på Facebook gör. En bidragsgivare blev riktigt sur och anklagade en grupp för att negligera henom. Vi blev sura tillbaka, och det blev riktigt citronlikt tills vi förstod varifrån vårt förmodade ointresse kom: Facebook hade helt enkelt uteslutit personens inlägg från de flesta av oss. Etik? Javisst, det skadade uppenbarligen personen. 

Vi kanske inte förstår effekterna förrän det är för sent. Eller också hinner vi inte bry oss. Det finns så mycket att läsa. 

I min pågående bok berättar jag om Pedro, ett robotbarn som görs att vara fyra år gammal. Men hur gammal blir han med träning?

En läsare om: När havet steg

Nu har jag äntligen läst boken ”När havet steg” och jag tyckte mycket om den, framför allt alla spännande tankar kring hur vi människor vill och bör förhålla oss till robotar och AI. Jag har markerat många citat i boken som fick mig att tänka lite extra eller som kändes lite extra fyndiga!

Det är en sakkunnig läsare, som studerar på Kognitionsvetenskapliga programmet.

Tankar kring boken ”När havet steg”.

Varje gång jag skriver en bok är jag i en annan värld. Det finns ett motto som säger: Att läsa är att resa. Jag säger samma sak om att skriva. Egentligen är det mina memoarer som pockar på att skrivas, men ändå sitter jag just nu och tänker på ”Artificiell intelligens” (A.I.) och ”Klimatförändringar”. 

Det är ett drygt år sedan jag fick den första inspirationen att ta itu med mina gamla kunskaper om just A.I.  Det var en hel del vi mötte på det glada 70-talet. Herbert Simon och Alan Newell hade just kommit ut med sin bok om ”Human problem solving”, och optimismen frodades när det gällde att kunna ”vetenskapligt” beskriva hur människor löste problem. Så här uttryckte två av mina begåvade doktorander det: ”Tänkandet är en PROCESS vari information i form av symbolstrukturer genomgår en serie förändringar i riktning mot ett visst mål under kontroll av ett komplicerat program.” (Stellan Ohlsson och Ove Amqvist). Med den definitionen kunde tänkandet hos en människa jämföras med tänkandet hos en dator eller tvärtom. Nu äntligen hade man en metafor för att beskriva tänkandet, nämligen som ”sökande i en problemrymd”. Den lämpade sig bra för ett dataprogram: Om du är där, gå då dit. Det fanns också ett problem som lämpade sig till att pedagogiskt förklara det hela, nämligen ”Hanois torn”.


Här satt jag och tänkte tillbaka på den glada tiden för fyrtiofem år sedan. Den blev förresten aktuell igen på ett möte med Psykologihistoriska sällskapet på Vetenskapsakademien förra våren. Vad hände efter ”vår” tid? Jag vet att artificiell intelligens kom i vanrykte, man lyckades inte göra det man förutspått. Visserligen hade A.I. program besegrat världsmästare i både schack och Go, men de programmen var inte av den typ som Newell & Simon föreslagit. Symboliska informationsprocesser i all ära, men symbolerna som gjorde jobbet numera var ”subsymboler” och grundstrukturen var ett neuralt nätverk snarare än en problemrymd. 

Jag dök ner i de neurala nätverkens värld och kom upp med en mängd idéer. Samtidigt började klimatproblemen bli allt mer uppmärksammade och jag drogs med. Det var mycket som samverkade: A.I., klimatproblem och så framtidsabstinensen. Vad då abstinens? Jo, vi hade just beslutat oss för att det här var sista gången vi skulle vara på Lanzarote. Det var på den Kanarieön som jag satt och skrev den första versionen av boken.


Så här satt jag och skrev första utkastet till boken”När havet steg”

Det fattas ytterligare en ingrediens: Min mamma brukade åka till Spanen. En gång bröt hon sitt lårben där. Vips blev hon min mormor i manuset, vips förflyttades hon till Lanzarote, men sitt vänliga sinne och sin vitalitet fick hon behålla.

Mamma med nästan läkt lårbensbrott


Vad jag hade roligt när jag skrev den boken! Och så mycket nytt jag lärde mig. Jag delar gärna med mig – fråga på! 

Jag kan svara på frågor som: 

Hur kan vattnet stiga hela 50 meter? 

Hur vet jag vad som skulle ligga under vattnet om hundra år?

Vad menas med  ”deep learning”? 

Varifrån har jag problemen som användes i tävlingen mellan robotar och människor?

Tänker jag fortsätta med boken?