{"id":697,"date":"2018-10-05T08:00:01","date_gmt":"2018-10-05T06:00:01","guid":{"rendered":"http:\/\/yvonnewaern.se\/?p=697"},"modified":"2023-03-03T11:02:22","modified_gmt":"2023-03-03T10:02:22","slug":"reflektioner-over-artificiell-intelligens-del-13-den-tekniska-singulariteten-upptackt-och-kritik","status":"publish","type":"post","link":"https:\/\/yvonnewaern.se\/index.php\/2018\/10\/05\/reflektioner-over-artificiell-intelligens-del-13-den-tekniska-singulariteten-upptackt-och-kritik\/","title":{"rendered":"Reflektioner \u00f6ver artificiell intelligens. Del 13: Den tekniska singulariteten – uppt\u00e4ckt och kritik"},"content":{"rendered":"

Har du h\u00f6rt talas om den tekniska singulariteten? Det hade inte jag f\u00f6rr\u00e4n ganska nyligen. Fr\u00e5gan \u00e4r OM eller snarare N\u00c4R den artificiella intelligensen uppn\u00e5r och passerar den m\u00e4nskliga.
\n<\/span>L\u00e5t mig g\u00e5 direkt p\u00e5 kritiken, som har tv\u00e5 olika aspekter (minst):<\/span><\/p>\n

    \n
  1. \u00c4r det \u00f6verhuvudtaget tekniskt m\u00f6jligt att konstruera en artificiell intelligens som kan m\u00e4ta sig med den m\u00e4nskliga?<\/span><\/li>\n<\/ol>\n

    2) Varf\u00f6r ska den m\u00e4nskliga intelligensen tas som f\u00f6rebild f\u00f6r den artificiella?<\/span><\/p>\n

      \n
    1. M\u00f6jligt?<\/span><\/li>\n<\/ol>\n

      Mina tekniska v\u00e4nner reagerade genast. Nej, en teknisk singularitet finns bara i n\u00e5gra tokars huvuden, n\u00e4mligen framf\u00f6rallt hos dem som har anknytning till \u201dFuture of life institute\u201d, grundad av bland annat Max Tegmark (som f\u00f6r\u00f6vrigt har f\u00e5tt smeknamnet \u201dMad Max\u201d).<\/span><\/p>\n

      Varf\u00f6r skulle det vara s\u00e5 om\u00f6jligt att uppn\u00e5 teknisk singularitet? Max Tegmark sj\u00e4lv s\u00e4ger att den enda fysiska begr\u00e4nsningen ligger i ljusets hastighet.<\/span><\/p>\n

      Kan det vara datorernas kapacitet som g\u00f6r singulariteten om\u00f6jlig? Ja, nuvarande h\u00e5rdvara verkar inte r\u00e4cka till. Det g\u00e5r f\u00f6r l\u00e5ngsamt (\u00e4ven om det \u00e4r l\u00e5ngt fr\u00e5n ljusets hastighet), det kr\u00e4vs f\u00f6r mycket minne (\u00e4ven om man har superdatorer) och det kr\u00e4ver f\u00f6r mycket energi. (Det senaste f\u00f6rv\u00e5nade mig som trodde att informationsteknik var energisn\u00e5l, vilket allts\u00e5 \u00e4r fel.)<\/span><\/p>\n

      Nya datorer d\u00e5? Kvantdatorer till exempel? Nej, mina tekniska v\u00e4nner \u00e4r inte bara envisa, de \u00e4r ocks\u00e5 realistiska (m\u00f6jligen beror det p\u00e5 att de sj\u00e4lva jobbar med problemen): En allm\u00e4n generell intelligens liknande m\u00e4nniskans kr\u00e4ver s\u00e5 mycket \u201dh\u00e5rdvara\u201d – mest beroende p\u00e5 att det vi m\u00e4nniskor \u00e4r riktigt bra p\u00e5 \u00e4r \u201dinbyggt\u201d i oss. Vi beh\u00f6ver aldrig t\u00e4nka p\u00e5 hur vi pratar, eller hur vi g\u00f6r n\u00e4r vi blir k\u00e4ra, till exempel,. F\u00f6r att simulera s\u00e5dant som \u00e4r \u201dhardwired\u201d beh\u00f6vs en m\u00e4ngd ber\u00e4kningskapacitet. <\/span><\/p>\n

      Nu n\u00e4rmar sig den andra punkten i om\u00f6jligheten: Vi vet helt enkelt inte hur m\u00e4nniskor b\u00e4r sig \u00e5t f\u00f6r att g\u00f6ra allt det d\u00e4r som \u00e4r s\u00e5 sj\u00e4lvklart. Hur samordnas \u00f6ga och hand till exempel? Sj\u00e4lv blev jag helt f\u00f6rbluffad av hur enkelt det var att h\u00e5lla bussen kvar p\u00e5 v\u00e4gen den f\u00f6rsta g\u00e5ngen jag satte mig vid en ratt (och jag ska inte tala om n\u00e4r och var och varf\u00f6r just h\u00e4r, det f\u00e5r v\u00e4nta till mina memoarer). Det mesta av det som vi \u00e4r riktigt bra p\u00e5: att se \u201dgestalter\u201d i fl\u00e4ckar, att f\u00f6rst\u00e5 och f\u00e5 fram ord, att k\u00e4nna medlidande, att bli arga och att \u00e4lska, allt detta g\u00e5r !automatiskt\u201d, det vill s\u00e4ga utan n\u00e5got som helst medveten anstr\u00e4ngning. Hur g\u00f6r vi? Det \u00e4r \u201dinbyggt\u201d i oss och ska en artificiell apparat kunna g\u00f6ra n\u00e5got liknande kr\u00e4vs en massa studier av dels situationerna omkring de h\u00e4r prestationerna, dels prestationerna sj\u00e4lva. Och tro nu inte att s\u00e5dana studier saknas, men de \u00e4r l\u00e5ngt fr\u00e5n m\u00e4nniskans g\u00e5ta.<\/span><\/p>\n

      S\u00e5 l\u00e5t mig g\u00e5 till den andra fr\u00e5gan.<\/span><\/p>\n

      2) Varf\u00f6r ska just m\u00e4nniskan vara en f\u00f6rebild f\u00f6r Artificiell intelligens?<\/span><\/p>\n

      Dagens artificiella intelligens har den m\u00e4nskliga hj\u00e4rnan som f\u00f6rebild. Man bygger artificiella neurala n\u00e4tverk och tycker man har kommit v\u00e4ldigt l\u00e5ngt n\u00e4r man b\u00f6rjat bygga n\u00e4tverken i tre dimensioner och inte bara i tv\u00e5. Detta kallas f\u00f6r \u201ddeep learning\u201d och den tanken har lett till ett stort spr\u00e5ng i utvecklingen.<\/span><\/p>\n

      Men, m\u00e5nga t\u00e4nkare har p\u00e5pekat att det var l\u00e4nge sedan som m\u00e4nniskor \u00f6vergav id\u00e9n att bygga flygplan som fl\u00f6g som f\u00e5glar. Det gick bara inte att f\u00e5 dem att flaxa med vingarna. N\u00e4r man slutade t\u00e4nka flaxande gick det att f\u00e5 fram flygande f\u00f6rem\u00e5l, med viss \u00f6vertalning, f\u00f6rst\u00e5s, men \u00e4nd\u00e5. S\u00e5 varf\u00f6r t\u00e4nka m\u00e4nsklig hj\u00e4rna n\u00e4r man bygger artificiell intelligens?<\/span><\/p>\n

      Den kritiken l\u00e5ter ju helt rimlig, men \u2026 N\u00e4r det g\u00e4ller flygplan k\u00e4nde man till en hel del om f\u00f6ruts\u00e4ttningarna f\u00f6r flygande: aerodynamik till exempel. Det var \u201dbara\u201d att utveckla den kunskapen och s\u00e5 gick det att komma runt problemet att vingarna inte kunde r\u00f6ra sig. N\u00e4r det g\u00e4ller intelligens \u00e4r det s\u00e5 att vi vare sig k\u00e4nner till f\u00f6ruts\u00e4ttningarna eller ens \u00e4r \u00f6verens om vad som \u00e4r \u201dintelligent\u201d. \u00c4r inte myrorna intelligenta kanske, se vad de kan \u00e5stadkomma! Och delfinerna l\u00e4r vara smartare \u00e4n vi, p\u00e5 vilket s\u00e4tt d\u00e5?<\/span><\/p>\n

      Smarta konstrukt\u00f6rer och algoritmer har f\u00e5tt datorer att sl\u00e5 v\u00e4rldsm\u00e4stare i schack och i \u201dGo\u201d, men d\u00e5 \u00e4r dessa omr\u00e5den bland de mest utforskade av m\u00e4nsklig \u201dsmart\u201d verksamhet. L\u00e5t oss g\u00e5 till \u201dAllm\u00e4n Generell Intelligens\u201d – A G I – i st\u00e4llet. Vad \u00e4r det? Hur g\u00f6r vi? <\/span><\/p>\n

      Slutsatser<\/b><\/span><\/p>\n

      Det finns vare sig tekniska eller kunskapsm\u00e4ssiga f\u00f6ruts\u00e4ttningar f\u00f6r att bygga en artificiell generell intelligens.\u00a0 <\/span>Kan vi d\u00e5 vara trygga? Kan vi sluta upp med alla f\u00f6rberedelser f\u00f6r att hindra en superintelligens att ta \u00f6ver jorden? <\/span><\/p>\n

      Nja, jag \u00e4r os\u00e4ker. N\u00e4r jag s\u00f6ker efter information p\u00e5 Google, till exempel. F\u00e5r jag verkligen allt? Hur utvald och anpassad \u00e4r den informationen? Jag blir inte bara imponerad utan ocks\u00e5 litet r\u00e4dd n\u00e4r jag pratar med \u201dSiri\u201d. Kanske det \u00e4r Google och Apple vi ska vara r\u00e4dda f\u00f6r? Det tekniska undret kan utveckla sig sj\u00e4lv. Det \u00e4r det Bostrom menar n\u00e4r han talar om \u201dSuperintelligens\u201d. Den har l\u00e4mnat m\u00e4nniskan l\u00e5ngt bakom sig. <\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

      Har du h\u00f6rt talas om den tekniska singulariteten? Det hade inte jag f\u00f6rr\u00e4n ganska nyligen. Fr\u00e5gan \u00e4r OM eller snarare N\u00c4R den artificiella intelligensen uppn\u00e5r och passerar den m\u00e4nskliga. L\u00e5t mig g\u00e5 direkt p\u00e5 kritiken, som har tv\u00e5 olika aspekter (minst): \u00c4r det \u00f6verhuvudtaget tekniskt m\u00f6jligt att konstruera en artificiell intelligens som kan m\u00e4ta sig … Forts\u00e4tt l\u00e4sa Reflektioner \u00f6ver artificiell intelligens. Del 13: Den tekniska singulariteten – uppt\u00e4ckt och kritik<\/span> →<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":701,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[68],"tags":[69,78],"class_list":["post-697","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificiell-intelligens","tag-artificiell-intelligens","tag-kontroll-av-ai"],"_links":{"self":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts\/697","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/comments?post=697"}],"version-history":[{"count":3,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts\/697\/revisions"}],"predecessor-version":[{"id":702,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/posts\/697\/revisions\/702"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/media\/701"}],"wp:attachment":[{"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/media?parent=697"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/categories?post=697"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yvonnewaern.se\/index.php\/wp-json\/wp\/v2\/tags?post=697"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}