{"id":689,"date":"2018-09-21T08:00:05","date_gmt":"2018-09-21T06:00:05","guid":{"rendered":"http:\/\/yvonnewaern.se\/?p=689"},"modified":"2018-11-12T11:14:21","modified_gmt":"2018-11-12T10:14:21","slug":"reflektioner-over-artificiell-intelligens-11-vad-ska-man-tanka-pa-vid-utvecklikngen-av-ai","status":"publish","type":"post","link":"https:\/\/yvonnewaern.se\/index.php\/2018\/09\/21\/reflektioner-over-artificiell-intelligens-11-vad-ska-man-tanka-pa-vid-utvecklikngen-av-ai\/","title":{"rendered":"Reflektioner \u00f6ver artificiell intelligens, 11. Vad ska man t\u00e4nka p\u00e5 vid utvecklingen av AI?"},"content":{"rendered":"

I det tidigare avsnittet visade jag hur m\u00e5nga olika till\u00e4mpningar som redan finns som p\u00e5 n\u00e5got s\u00e4tt baserar sig p\u00e5 artificiell intelligens. N\u00e4sta steg \u00e4r att reflektera \u00f6ver om det inte beh\u00f6vs n\u00e5gon reglering av utvecklingen? Kan man l\u00e5ta olika f\u00f6retag utveckla AI utan kontroll? <\/span><\/p>\n

Jag har botaniserat litet p\u00e5 n\u00e4tet och ger h\u00e4r n\u00e5gra egna kommentarer samt citat.\u00a0<\/span><\/p>\n

I Sverige har regeringen lagt upp f\u00f6ljande f\u00f6rslag f\u00f6r fortsatt anv\u00e4ndning av AI: <\/span><\/p>\n

(ur: https:\/\/www.regeringen.se\/informationsmaterial\/2018\/05\/nationell-inriktning-for-artificiell-intelligens\/<\/span><\/a> )<\/span><\/p>\n

Regeringens bed\u00f6mning \u00e4r att:
\n– Sverige beh\u00f6ver utveckla regler, standarder, normer och etiska
\nprinciper i syfte att v\u00e4gleda <\/i>etisk och h\u00e5llbar AI <\/i><\/b>och anv\u00e4ndning av AI.
\n– Sverige beh\u00f6ver verka f\u00f6r svenska och internationella standarder och regelverk som fr\u00e4mjar anv\u00e4ndning av AI och <\/i>f\u00f6rebygger risker<\/i><\/b>.
\n– Sverige beh\u00f6ver kontinuerligt se \u00f6ver behovet av digital infrastruktur f\u00f6r att tillvarata m\u00f6jligheterna som AI kan ge.
\n–\u00a0 <\/span>Sverige beh\u00f6ver forts\u00e4tta arbetet med att tillg\u00e4ngligg\u00f6ra data som kan utg\u00f6ra en samlad infrastruktur f\u00f6r att anv\u00e4nda AI p\u00e5 omr\u00e5den d\u00e4r det tillf\u00f6r nytta.
\n– Sverige beh\u00f6ver forts\u00e4tta att ta en aktiv roll i EU:s arbete med att fr\u00e4mja digitalisering och med att m\u00f6jligg\u00f6ra nyttan som anv\u00e4ndningen av AI kan medf\u00f6ra.<\/i><\/span><\/p>\n

I Sverige har n\u00e5gra allts\u00e5 redan t\u00e4nkt p\u00e5 att AI kan inneb\u00e4ra risker. I USA finns en hel grupp med forskare och tekniker som arbetar med att reflektera \u00f6ver hur man b\u00e4st kan f\u00f6rbereda sig f\u00f6r en bra framtid f\u00f6r m\u00e4nskligheten. Elon Musk (uppfinnaren av Tesla) har samlat en hel del goda krafter till ett institut han kallar f\u00f6r futureoflife. (<\/i>http:\/\/futureoflife.org<\/i><\/span><\/a>)<\/i><\/span><\/p>\n

Ett av omr\u00e5dena d\u00e4r handlar om framtida artificiell intelligens, d\u00e4r m\u00e5let \u00e4r att skapa en v\u00e4lvillig intelligens. S\u00e5 h\u00e4r skriver Elon Musk: <\/span><\/p>\n

\u201dDet som vi verkligen beh\u00f6ver \u00e4r att f\u00f6rs\u00e4kra oss om att livet forts\u00e4tter in i framtiden. .. Det \u00e4r b\u00e4ttre att f\u00f6rhindra en negativ utveckling \u00e4n att f\u00f6rs\u00f6ka f\u00f6r\u00e4ndra den n\u00e4r den v\u00e4l intr\u00e4ffat.<\/i>\u201d (min \u00f6vers\u00e4ttning)<\/span><\/p>\n

N\u00e4r det g\u00e4ller A:s framtida utveckling \u00e4r det \u201ds\u00e4kerhetsforskning\u201d som ligger p\u00e5 institutets agenda.<\/span><\/p>\n

Detta institut har redan startat en m\u00e4ngd relativt storskaliga projekt\u00a0 <\/span>med detta generella m\u00e5l, en \u00f6versikt finns h\u00e4r: https:\/\/futureoflife.org\/ai-safety-research\/<\/span><\/p>\n

Det st\u00f6rsta projektet leds av\u00a0 <\/span>Nick Bostrom: \u201dStrategic Research Center for Artificial Intelligence\u201d i Oxford, England, och st\u00f6ds med 1.500.000 dollar.<\/span><\/p>\n

L\u00e5t oss se litet p\u00e5 hur realistiskt projektet att utveckla en superintelligent AI kan vara. Nyligen talade Max Tegmark p\u00e5 en konferens i Stockholm och visade d\u00e5 bland annat en bild, som illustrerar vad AI kan \u00e5stadkomma nu och inom den n\u00e4rmaste framtiden. Bilden visar ett t\u00e4nkt landskap, d\u00e4r olika intellektuella f\u00e4rdigheter finns utlagda som berg och dalar. De f\u00f6rm\u00e5gor som redan karakteriserar artificiell intelligens \u00e4r utlagda som vatten, de f\u00f6rm\u00e5gor som AI \u00e4nnu inte klarar av visas som berg.<\/span><\/p>\n

Vi ser att utantillinl\u00e4rning, schack och Go ligger gott och v\u00e4l under AI:s vattenyta, medan taligenk\u00e4nning, \u00f6vers\u00e4ttning, bildtolkning och bilk\u00f6rning ligger alldeles i strandkanten. Investering och social interaktion ligger en bit h\u00f6gre upp, medan konst, film, f\u00f6rfattande, programmering, vetenskap och AI design ligger uppe p\u00e5 bergtopparna.<\/span><\/p>\n

\"\"<\/a><\/p>\n

AI landskap, fr\u00e5n ett f\u00f6redrag av Max Tegmark, 2018.<\/em><\/p>\n

Det p\u00e5pekas ofta i s\u00e5dana h\u00e4r sammanhang att det \u00e4r sv\u00e5rt att skapa program som kan utf\u00f6ra uppgifter som \u00e4r enkla f\u00f6r m\u00e4nniskan, t.ex. tolka bilder eller f\u00f6rst\u00e5 naturligt spr\u00e5k. Detta kallas f\u00f6r \u201dMoravecs paradox\u201d. Varf\u00f6r \u00e4r det s\u00e5? Jo, v\u00e5r hj\u00e4rna \u00e4gnar en stor del av sin ber\u00e4kningskapacitet (faktiskt s\u00e5 mycket som mer \u00e4n en fj\u00e4rdedel) \u00e5t \u201dl\u00e5gniv\u00e5\u201d ber\u00e4kningar av det slaget. Den \u00e4r allts\u00e5 specialkonstruerad f\u00f6r att f\u00f6rst\u00e5 tal och k\u00e4nna igen bilder, framf\u00f6rallt m\u00e4nniskoansikten. Den som vill \u00e5stadkomma en liknande prestation hos en maskin m\u00e5ste \u201dg\u00e5 runt\u201d problemet p\u00e5 n\u00e5got s\u00e4tt.<\/span><\/p>\n

Det h\u00e4r \u00e4r reflektioner som flera AI t\u00e4nkare framf\u00f6rt, och en del \u00e4r redan \u201d\u00f6verk\u00f6rda\u201d av utvecklingen. Vi talar nu p\u00e5 allvar om sj\u00e4lvk\u00f6rande bilar, och i tidigare reflektioner har jag visat att b\u00e5de taligenk\u00e4nning och \u00f6vers\u00e4ttning \u00e4r realistiska m\u00e5l f\u00f6r utvecklingen inom artificiell intelligens. De d\u00e4r b\u00f6ckerna och tavlorna som producerats av n\u00e5got AI program \u00e4r mer lustiga \u00e4n allvarliga, men snart kanske jag f\u00e5r h\u00e5lla mig f\u00f6r skratt.<\/span><\/p>\n

Max Tegmark sj\u00e4lv p\u00e5pekar i sin bok \u201dLife 3.0\u201d att vi m\u00e5ste t\u00e4nka efter f\u00f6re. Fr\u00e5gor som vi b\u00f6r st\u00e4lla oss innan vi sj\u00e4lva utvecklar (eller l\u00e5ter andra utveckla) AI system \u00e4r till exempel f\u00f6ljande: <\/span><\/p>\n

Vilken slags framtid vill vi ha? Ska vi utveckla d\u00f6dliga autonoma vapen? Vad g\u00f6r vi med automatisering av arbeten? Vad ska vi r\u00e5da dagens barn att satsa p\u00e5 f\u00f6r utbildning? Vad vill vi helst: Att det kommer nya arbeten som ers\u00e4tter gamla eller att samh\u00e4llet blir fritt fr\u00e5n arbete, s\u00e5 att m\u00e4nniskan kan \u00e4gna sig \u00e5t vad hon vill och maskiner ers\u00e4tter allt n\u00f6dv\u00e4ndigt arbete? Kommer vi att kunna kontrollera intelligensen eller kommer den att kontrollera oss? Kommer intelligenta maskiner att ers\u00e4tta oss eller att leva bredvid oss? Vad inneb\u00e4r det att vara m\u00e4nniska i ett liv med artificiell intelligens? Vad skulle vi vilja att det innebar och hur kan vi g\u00f6ra s\u00e5 att det blir s\u00e5 som vi vill?<\/span><\/p>\n

Hur vi \u00e4n svarar, kan vi inte l\u00e5ta artificiell intelligens utvecklas \u201dav sig sj\u00e4lv\u201d. Vi m\u00e5ste ta st\u00e4llning i n\u00e5gra av de ovanst\u00e5ende fr\u00e5gorna. <\/span><\/p>\n

Max Tegmarks m\u00e5l \u00e4r en \u201dv\u00e4nlig\u201d AI . Han vill f\u00f6rhindra att AI av sig sj\u00e4lv eller av andra utvecklas p\u00e5 ett negativt s\u00e4tt. En skadlig artificiell intelligens kan vara intressant f\u00f6r stormakter som vill f\u00e5 ett milit\u00e4rt \u00f6vertag, och det finns redan sj\u00e4lvstyrande robotar men ocks\u00e5 tankar p\u00e5 att utveckla robotarm\u00e9er. <\/span><\/p>\n

Men vi ska inte tro att artificiell intelligens beh\u00f6ver vara medvetet (eller designm\u00e4ssigt) fientlig f\u00f6r att p\u00e5 sikt kunna skada m\u00e4nskligheten. Det beh\u00f6vs bara att ett AI system f\u00e5r f\u00f6r sig att str\u00e4va efter ett m\u00e5l som kan komma i konflikt med m\u00e4nniskor. Tegmark tar upp ett exempel: T\u00e4nk dig att du ber ett AI system att skapa en fabrik f\u00f6r att g\u00f6ra gem. Det h\u00e4r systemet f\u00e5r f\u00f6r sig att det h\u00f6gsta m\u00e5let \u00e4r att producera s\u00e5 m\u00e5nga gem som m\u00f6jligt. F\u00f6r att kunna g\u00f6ra det beh\u00f6ver det material, och d\u00e5 b\u00f6rjar det anv\u00e4nda allt som finns omkring i v\u00e4rlden som material, till slut kan det till och med b\u00f6rja anv\u00e4nda m\u00e4nniskokroppar. Ja, detta \u00e4r ju bara ett t\u00e4nkt scenario, men framtidsforskare utg\u00e5r ofta fr\u00e5n just s\u00e5dana. <\/span><\/p>\n

N\u00e5gra slutsatser om framtiden f\u00f6r AI som Max Tegmark drar \u00e4r f\u00f6ljande:<\/span><\/p>\n

N\u00e4r vi till\u00e5ter att system i verkligheten anv\u00e4nder AI \u00e4r det s\u00e4rskilt viktigt att vi g\u00f6r systemen robusta, dvs vi m\u00e5ste kunna verifiera dem, validera dem, g\u00f6ra den s\u00e4kra och kunna kontrollera dem. Den h\u00e4r kontrollen \u00e4r speciellt viktig f\u00f6r vapensystem som kontrolleras av AI<\/span><\/p>\n

AI kan g\u00f6ra v\u00e5ra juridiska system mer r\u00e4ttvisa och effektiva om vi bara kan g\u00f6ra robot-domarna opartiska och \u201dgenomskinliga\u201d.<\/span><\/p>\n

V\u00e5ra lagar m\u00e5ste uppdateras, till exempel n\u00e4r det g\u00e4ller integritetsfr\u00e5gor, ansvarighetsfr\u00e5gor och regleringar<\/span><\/p>\n

Om AI ers\u00e4tter oss m\u00e4nniskor p\u00e5 arbetsmarknaden m\u00e5ste vi kunna f\u00e5 del av den v\u00e4lst\u00e5nds\u00f6kning som AI kan skapa.<\/span><\/p>\n

Om vi blir arbetsl\u00f6sa, m\u00e5ste vi kunna f\u00e5 ut en \u201dmening\u201d ur livet som inte enbart har med jobbet att g\u00f6ra. <\/span><\/p>\n

(Min egen kommentar \u00e4r att jag hoppas m\u00e4nniskor vill f\u00e5 ut n\u00e5got annat av livet \u00e4n bara njutning, annars kan vi ju leva p\u00e5 droger medan AI jobbar).<\/span><\/p>\n

Hur ska vi d\u00e5 kunna f\u00e5 en \u00f6nskv\u00e4rd utveckling av artificiell intelligens? N\u00e4sta g\u00e5ng ska jag ber\u00e4tta dels om Elon Musks farh\u00e5gor om Artificiell intelligens, dels om Nick Bostroms bok \u201dSuperintelligens\u201d.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

I det tidigare avsnittet visade jag hur m\u00e5nga olika till\u00e4mpningar som redan finns som p\u00e5 n\u00e5got s\u00e4tt baserar sig p\u00e5 artificiell intelligens. N\u00e4sta steg \u00e4r att reflektera \u00f6ver om det inte beh\u00f6vs n\u00e5gon reglering av utvecklingen? Kan man l\u00e5ta olika f\u00f6retag utveckla AI utan kontroll? Jag har botaniserat litet p\u00e5 n\u00e4tet och ger h\u00e4r n\u00e5gra … Forts\u00e4tt l\u00e4sa Reflektioner \u00f6ver artificiell intelligens, 11. Vad ska man t\u00e4nka p\u00e5 vid utvecklingen av AI?<\/span> →<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":691,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[68],"tags":[69],"class_list":["post-689","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificiell-intelligens","tag-artificiell-intelligens"],"_links":{"self":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts\/689","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/comments?post=689"}],"version-history":[{"count":4,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts\/689\/revisions"}],"predecessor-version":[{"id":708,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts\/689\/revisions\/708"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/media\/691"}],"wp:attachment":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/media?parent=689"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/categories?post=689"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/tags?post=689"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}