\n
L\u00e5t oss nu t\u00e4nka oss att v\u00e5ra intelligenta tekniker lyckats med att konstruera en (eller flera)\u00a0 <\/span>apparater som kan fungera p\u00e5 ett intelligent s\u00e4tt. Dessa har i sin tur utvecklat sig sj\u00e4lva till en superintelligens, dvs en intelligens som \u00e4r vida \u201dh\u00f6gre\u201d \u00e4n v\u00e5r – s\u00e5 mycket h\u00f6gre att det inte g\u00e5r att m\u00e4ta p\u00e5 intelligenstest, vi skulle kunna s\u00e4ga att v\u00e5r intelligens \u00e4r som kackerlackors i f\u00f6rh\u00e5llande till superintelligensen. <\/span><\/p>\n Hur ska vi kunna leva ihop med en s\u00e5dan intelligens? Vilka risker kan vi r\u00e5ka ut f\u00f6r? Hur kan vi f\u00f6rebygga dem?<\/span><\/p>\n Elon Musk (Teslas utvecklare) \u00e4r en AI skeptiker och s\u00e4ger f\u00f6ljande: <\/span><\/p>\n \u201dVi bara har \u201dfem till tio procents chans\u201d att lyckas kontrollera en generell artificiell intelligens.\u201d<\/i><\/span><\/p>\n (Ur:\u00a0 <\/span>https:\/\/www.idg.se\/2.1085\/1.693118\/elon-musk-ai<\/span><\/a> )<\/span><\/p>\n Att kontrollera en superintelligens \u00e4r ett \u00e4mne som Nick Bostrom tar upp i sin\u00a0 <\/span>bok \u201dSuperintelligence – paths, dangers, strategies\u201d.<\/span><\/p>\n Han menar att det i princip finns tv\u00e5 s\u00e4tt att kontrollera det intelligenta systemet:<\/span><\/p>\n Begr\u00e4nsa f\u00f6rm\u00e5gan<\/b><\/span><\/p>\n Den f\u00f6rsta metoden inneb\u00e4r att f\u00f6rs\u00f6ka l\u00e5sa in AI (boxing method)<\/span><\/p>\n H\u00e4r argumenterar Bostrom mycket \u00f6vertygande om att det inte kommer att g\u00e5. Ett superintelligent artificiellt system kommer alltid att \u00f6verlista oss p\u00e5 n\u00e5got s\u00e4tt och ta sig ur det \u201df\u00e4ngelse\u201d vi skapat.<\/span><\/p>\n Den andra \u00e4r att f\u00f6rs\u00f6ka f\u00e5 systemet att intressera sig f\u00f6r n\u00e5got som inte \u00e4r i v\u00e4gen f\u00f6r oss, t.ex. umg\u00e5s med andra eller till och med engagera sig i projektet som den \u00e4r delaktig i. \u00c4ven om jag inte helt f\u00f6rst\u00e5r vad Bostrom \u00e4r ute efter, kan jag f\u00f6rst\u00e5 att det kan vara sv\u00e5rt f\u00f6r en m\u00e4nniska med v\u00e5r begr\u00e4nsade intelligens att f\u00f6rst\u00e5 vad som kan engagera en superintelligens, och vilka konsekvenser en s\u00e5dan distraktion kan f\u00e5.<\/span><\/p>\n Den tredje f\u00f6rm\u00e5gebegr\u00e4nsningen ligger helt enkelt i att begr\u00e4nsa systemets tillg\u00e5ng till information. Man kan g\u00f6ra det genom att l\u00e5ta den k\u00f6ras p\u00e5 system med l\u00e5ngsam h\u00e5rdvara eller mycket begr\u00e4nsat minne. Det h\u00e4r \u00e4r en m\u00f6jlig kontrollmetod, nackdelen \u00e4r att den kommer att drabba oss sj\u00e4lva ocks\u00e5. Vi kommer inte att kunna utnyttja det super intelligenta systemet s\u00e5 som vi t\u00e4nkt oss.<\/span><\/p>\n Den fj\u00e4rde metoden \u00e4r att l\u00e4gga ut snubbeltr\u00e5dar i form av diagnostiska test p\u00e5 systemet. Om testet visar att systemet \u00e4r \u201dp\u00e5 fel v\u00e4g\u201d, stoppar det systemet. Kan det funka? Ja, i vilket fall borde det vara obligatoriskt att anv\u00e4nda s\u00e5dana diagnostiska test i utvecklingsfasen.<\/span><\/p>\n V\u00e4lja motivation<\/b><\/span><\/p>\n Kan inte de som konstruerar systemet ge det en l\u00e4mplig motivaton redan under konstruktionsfasen? Hur skulle man kunna g\u00f6ra det?<\/span><\/p>\n Ett s\u00e4tt \u00e4r att direkt specificera vilket m\u00e5l som systemet ska arbeta mot. Vi k\u00e4nner m\u00f6jligen igen den h\u00e4r tanken fr\u00e5n Asimovs robotlagar: En robot f\u00e5r aldrig skada en m\u00e4nniska, etc. <\/span><\/p>\n Problemet med en direkt specifikation \u00e4r att vi inte kan specificera vad vi egentligen menar. Om man skadar en m\u00e4nniska, men r\u00e4ddar en m\u00e4ngd andra, hur st\u00e4mmer det med lagen?\u00a0 <\/span>Om en masochist eller sadist hindras fr\u00e5n att skada sig sj\u00e4lv eller andra, blir inte den skadad d\u00e5? <\/span><\/p>\n De h\u00e4r inv\u00e4ndningarna bygger p\u00e5 att v\u00e5r kommunikation inte \u00e4r byggd f\u00f6r specifikationer utan f\u00f6r intuitiv f\u00f6rst\u00e5else. S\u00e5 fort som vi f\u00f6rs\u00f6ker specificera n\u00e5got, r\u00e5kar vi ut f\u00f6r definitionsproblem.<\/span><\/p>\n OK, l\u00e5t oss d\u00e5 g\u00e5 till n\u00e4sta f\u00f6rslag: Att begr\u00e4nsa agentens handling till ett visst omr\u00e5de, t.ex. till att svara p\u00e5 fr\u00e5gor (i stil med Googles s\u00f6ktj\u00e4nst). Vad kan det vara f\u00f6r farligt med det? Faran ligger i att systemet kan bli alltf\u00f6r ambiti\u00f6st: det kan bokstavligt talat \u201dg\u00e5 \u00f6ver lik\u201d f\u00f6r att f\u00e5 tag i den information du beh\u00f6ver. T\u00e4nk p\u00e5 tortyr f\u00f6r att f\u00e5 information. Ja, \u00e4ven om vi s\u00e4ger \u00e5t systemet att tortyr inte \u00e4r till\u00e5tet kommer n\u00e4sta problem: vad definierar vi med tortyr?<\/span><\/p>\n F\u00f6r varje m\u00f6jlig inskr\u00e4nkning vi g\u00f6r kan Bostrom hitta p\u00e5 ett motexemel, s\u00e5 l\u00e5t mig snabbt g\u00e5 \u00f6ver till den tredje metoden. <\/span><\/p>\n Den tredje metoden att v\u00e4lja motivation f\u00f6r ett superintelligent system \u00e4r att l\u00e5ta en m\u00e4nniska g\u00e5 in och godk\u00e4nna resultatet av systemets handlande. Detta skulle i och f\u00f6r sig inneb\u00e4ra att man inte kan utnyttja systemet fullt ut (en m\u00e4nniska \u00e4r ju definitionsm\u00e4ssigt inte lika intelligent som ett superintelligent system),men man kan \u00e5tminstone stoppa systemet s\u00e5 snart som det ser ut att f\u00f6ra \u00e5t alldeles fel h\u00e5ll. <\/span><\/p>\n Slutsatsen \u00e4r allts\u00e5: L\u00e5t en m\u00e4nniska kontrollera systemets utfall s\u00e5 att det inte kommer i konflikt med vad m\u00e4nniskor eller skadar m\u00e4nniskor. Litet svagt, kanske, men \u00e4nd\u00e5 det b\u00e4sta f\u00f6r tillf\u00e4llet.<\/span><\/p>\n Jag inbjuder dig till att sj\u00e4lv l\u00e4sa Nick Bostroms bok och komma med ytterligare metoder eller rentutav inv\u00e4ndningar mot filosofen. Jag k\u00e4nner att jag inte har den filosofiska tr\u00e4ning som kr\u00e4vs f\u00f6r att hitta p\u00e5 m\u00f6jliga absurda konsekvenser av ett superintelligent systems handlande.<\/span><\/p>\n Nick Bostrom har f\u00e5tt ett stort forskningsanslag fr\u00e5n Elon Musks institut: futureoflife. (http:\/\/futureoflife.org<\/span><\/a>)<\/span><\/p>\n Elon Musk tror allts\u00e5 p\u00e5 Nick Bostrom och hans m\u00f6jligheter att styra AI utvecklingen i en positiv riktning.<\/span><\/p>\n Referens: Nick Bostrom. Superintelligence. Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":" L\u00e5t oss nu t\u00e4nka oss att v\u00e5ra intelligenta tekniker lyckats med att konstruera en (eller flera)\u00a0 apparater som kan fungera p\u00e5 ett intelligent s\u00e4tt. Dessa har i sin tur utvecklat sig sj\u00e4lva till en superintelligens, dvs en intelligens som \u00e4r vida \u201dh\u00f6gre\u201d \u00e4n v\u00e5r – s\u00e5 mycket h\u00f6gre att det inte g\u00e5r att m\u00e4ta p\u00e5 … Forts\u00e4tt l\u00e4sa Reflektioner \u00f6ver artificiell intelligens del 12. Att kontrollera en \u201dsuperintelligens\u201d.<\/span> \n