Etikettarkiv: verktyg

Reflektioner över Artificiell intelligens. Del 6: Robotar som verktyg

Vad ska vi ha robotar till? Hur ska de tjäna oss? Många tänker sig robotar som artificiella människor, men vad är det som säger att robotar ska ha mål eller bete sig som människor? I många sammanhang har människor större nytta av en eller flera robotar om de fungerar som verktyg (tool AI, enligt Nick Bostrom).
Låt oss tänka oss en robot ungefär som en ordbehandlare. Den gör exakt vad vi säger åt den, bara litet mer (korrigerar stavningen till exempel). Tänk dig en hushållsrobot som handlar mat och lagar den, som plockar undan och dammsuger, så bekvämt. Du bara befaller vad roboten ska göra och så gör den det.
Vad är det för skillnad mellan en människoliknande robot i så fall och ett ”vanligt” datorprogram?

För det första kan den göra så mycket mer än datorprogram gör just nu. Den är inte specialkonstruerad för en enda uppgift, utan har en bredare kompetens. Men måste den likna en människa för det?
Det är förstås bekvämt för en användare med en robot som kan göra det som en människa kan göra. Man behöver inte tveka om robotens funktioner; den kan helt enkelt göra samma saker som en människa. En användare behöver inte en flersidig manual som beskriver olika aktiviteter; en användare tänker bara på sig själv och vad hen kan göra. Sedan kan vi förstås diskutera om roboten ska ha liknande kroppsliga begränsningar: det kanske inte vore så dumt om den kunde bära tyngre föremål, orka mera, se bättre och höra bättre. Då kunde den verkligen hjälpa en människa. Huvudsaken är att den gör det som användaren vill. En robot som verktyg behöver inte ha någon fri vilja, vi säger bara vad den ska göra och resultatet blir därefter.

Ja, en sak till, det ska förstås vara lätt att tala om för roboten vad den ska göra. Vi vill inte ha något krångligt ”gränssnitt”, inte en manual som talar om vilka knappar vi ska trycka på eller vilka ord vi ska använda. Vi vill kunna umgås med roboten som med en människa. Forskarna talar om detta som ”naturligt språk”, det kan vara skrivet eller talat. Flera exempel på ett gränssnitt med naturligt språk finns redan nu. Det är ”Siri”, men hennes handlingar är relativt begränsade. Också sökningen i internet, t.ex. med hjälp av Google sker med naturligt språk. Människoliknande i kommunikationen, men inte i formen. De är båda exempel på verktyg.
Drömexempel på tjänare som fungerar som verktyg är anden i flaskan, den som kan ge människan allt hon önskar. Ett annat exempel är en sexrobot som enbart underkastar sig och inte har några egna önskemål.
En robot som verktyg skulle vi kunna jämföra med en hund: Den kan hjälpa oss med många olika aktiviteter, inom hundens begränsningar och med hundens särskilda förmågor. Den förstår inom vissa gränser vad vi vill om vi säger till den. Men det tar lång tid att träna en robot. Åtminstone med dagens maskininlärningstekniker.
Även om vi är långt från människoliknande verktygsrobotar just nu kan vi fråga oss om det kan vara något fel på att utveckla robotar som verktyg. Om de inte gör något annat än vad människan bestämmer kan de väl inte utgöra någon risk för människan?

Då kan vi ta ett motargument med hjälp av en slags ”robot” som finns redan nu: de moderna målsökande raketerna. De tjänar sin herre genom att skada herrens fiende. De är visserligen inte människoliknande, men de kan belysa problemen med att använda robotar eller överhuvudtaget AI som verktyg.
Verktygsrobotar lyder under människan och är därmed underkastade människans välkända svagheter: kort planeringshorisont, kort minne, oförmåga att förstå komplicerade samband samt det värsta: människans egoism och människans ondska. Kan vi göra människan god kvarstår ändå de andra problemen. Vore det inte bra att ha en robot som kunde hindra människan från att göra dumheter? En som åtminstone kunde tala om när människan är på ”fel” väg?

Vi kommer då in på helt autonoma människoliknande robotar,  jag ska diskutera dem litet nästa vecka.

Men först: ett exempel på vad det kan innebära att ha en robot som ”verktyg” finns i kapitel 14 i boken ”När havet steg”. Här är det träningen som tas upp. Tänk dig en lat robot som den här: