Kategoriarkiv: maskininlärning
Artificiell intelligens. Bara beteckningen kan få en normal människa att dra sig in i sitt snäckskal av ”lämna mig ifred!”
När nu tekniker har hittat på ett AI program som hanterar språk. Ska vi verkligen lämna detta område åt teknikerna?
Oansvarigt! Om inte vi författare är med nu, blir det för sent! Språket är vårt område, vårt verktyg! Vi lever i språket, ja, somliga lever AV det.
En tekniker säger så här: ”informationskriget är här. Den som inte är med är förlorad.”
Låt oss våga! Pröva de nya vapnen, berätta vad vi behöver. Våga!
Det har Holger Wästlund gjort i boken ”Att skriva med hjälp av AI. Erfarenheter och tips”. Han har vågat visa vad han behöver. Han har blottat några av sina svagheter, utom en: han har inte talat om hur mycket jobb det var med de bångstyriga skrivprogrammen.
Jag avslutar med författarens egna ord:
”Jag kommer att fortsätta att följa denna utveckling genom att testa, testa och återigen testa.
Jag skulle uppskatta om vi blir många som gör det!”
Jag kan bara hålla med.
Att skriva med hjäl av AI. Erfarenheter och tips. Av: Holger Wästlund
Mina första reaktioner:
Jag fick denna bok av författaren och är därför mer positivt inställd än jag annars skulle ha varit.
Mycket i en läsning beror på vilka förväntningar man har. Och förväntningarna styrs av de ord som används. Holger Wästlund kallar de program han skriver om för ”AI-skrivprogram”. De är enligt författaren ”utformade för att hjälpa skribenter skapa innehåll snabbt och korrekt.”
Jag som känner en del utvecklare av sådana program har hört benämningen ”naturligt språk”-program. Det nämner författaren förvisso, men han drar inte slutsatsen: Det är UTTRYCKET som står i fokus, inte innehållet.
Jag har sett vad människor förväntar sig av AI: standardiserade robotaktiga reaktioner. Holger nämner ingenting om människors förväntningar, men har uppenbarligen helt egna föreställningar, t.ex: ”programmen hjälper dig att spara tid genom att automtisera sökprocessen.”
Jag hade väntat mig att se direkta exempel på vad programmen kan ge, men i stället talar författaren på en mer abstrakt nivå. Han har dessutom integrerat programmets prestationer i sin egen text utan att klart visa var och hur. Jag gissar mig till ställen där programmet skrivit texten genom att se på trycket. På ett ställe är trycket mer grått, på ett annat är radmellanrummen olika stora. Ett spännande detektivarbete som antagligen försvåras av författarens egna redigeringar.
Jag förstår mycket väl att författaren talar om en företeelse som är under utveckling och att programmen när vi väl får se dem i mer allmänt bruk kommer att se annorlunda ut.
Men grunden kommer att bli densamma: maskininlärning i en språkmiljö. Det som kommer ut beror på vad programmet tränats på. Det får vi sällan veta.
Optimismen som författaren uttrycker tror jag inte alls på. Se t.ex. detta citat ut boken och jämför med vad jag fått som svar av ett av hans nämnda program.
Författaren:
”AI genererat innehåll kan också användas för att hjälpa till att skapa innehåll som är mer exakt och detaljerat.”
Chat GPT om Holger Wästlunds nya bok:
”Holger Wästlund har nyligen skrivit en bok som heter ”Skriva med maskiner: en introduktion till artificiell intelligens för kreativt skrivande.’
Jag undrar om det är en sådan bok som du vill läsa?
Att använda en AI utan att känna till dess databas mångdubblar kontrolltiden.
Vi kanke förlorar på gungorna vad vi vinner på karusellen?
Om etik inom artificiell intelligens
E
När icke-tekniker ser på teknikens utveckling är det somliga som börjar tänka: är det här bra? Vart kan det här leda?
Det gäller Artificiell intelligens likaväl som annat. Jag ska här fundera lite över etik inom artificiell intelligens.
Det är inte så enkelt som inom robotiken, där Isaac Asimov redan på 1940-talet (krigsåren, kanske) formulerade de s.k. robotlagarna:
1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.
3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.
Man har diskuterat dessa lagar om och om igen, t.ex. ställt de sedvanliga dilemma-frågorna: Om man måste offra en människa för att rädda flera, hur ska man då göra?
Men det är inte sådana frågor jag ska ställa nu.
Artificiell intelligens kan förvissa skada människor, det pågår en hel del tankar (kanske t.o.m. utveckling) inom området robotkrigföring, men det finns andra etiska frågor, mer vardagsnära.
Allt behöver inte handla om robotar. Det finns artificiell intelligens invävd i mycket mer än vi (eller i alla fall jag) trodde.
Just nu finns t.ex. program som översätter språk eller program som söker efter information, program som anpassar information till användaren (t.ex. vilka inlägg som visas på Facebook eller vilka tidningsartiklar som erbjuds en viss läsare) och så förstås bildigenkänningsprogram.
Där finns väl inga etiska problem? Förvisso. Jag minns de första taligenkänningsprogrammen. Jag lyckades aldrig tala in en enda enkel siffra eller ett enkelt kommando. Tills jag förstod att taligenkänningsprogrammen på den tiden var mycket dåliga på kvinnliga röster. När jag senare kom till USA och försökte ge ett telefonnummer muntligt, misslyckades jag. Min svengelska förstods inte av programmet. Det här är exempel på tidiga problem, men problemen fortsätter.
Googles ”translate” t.ex. översätter hyggligt till engelska, men ganska ohyggligt till svenska. Kolonialism? Nej, det finns helt enkelt en större databas av engelska texter. Oskyldigt? Nej.
Program som känner igen ansikten, och som många börjat med numera, har svårare att känna igen mörkhyade än ljushyade. Är det en ”barnsjukdom”?
Kan det vara så att människor från ”’socialt utsatta” områden inte får samma erbjudanden som människor från gynnade områden? t.ex. om resor, skolor, arbete eller medicin? Jag påstår inte att det är så, men en hel del beror på hur man valt materialet som AI tränas på.
En småsak möjligen, men nog så irriterande är att Facebook väljer att visa inlägg från mina flitigaste vänner i första hand. Och eftersom jag inte scrollar så långt, får jag inte se inlägg som människor som är nya på Facebook gör. En bidragsgivare blev riktigt sur och anklagade en grupp för att negligera henom. Vi blev sura tillbaka, och det blev riktigt citronlikt tills vi förstod varifrån vårt förmodade ointresse kom: Facebook hade helt enkelt uteslutit personens inlägg från de flesta av oss. Etik? Javisst, det skadade uppenbarligen personen.
Vi kanske inte förstår effekterna förrän det är för sent. Eller också hinner vi inte bry oss. Det finns så mycket att läsa.
En läsare om: När havet steg
Nu har jag äntligen läst boken ”När havet steg” och jag tyckte mycket om den, framför allt alla spännande tankar kring hur vi människor vill och bör förhålla oss till robotar och AI. Jag har markerat många citat i boken som fick mig att tänka lite extra eller som kändes lite extra fyndiga!
Det är en sakkunnig läsare, som studerar på Kognitionsvetenskapliga programmet.
Tankar kring boken ”När havet steg”.
Varje gång jag skriver en bok är jag i en annan värld. Det finns ett motto som säger: Att läsa är att resa. Jag säger samma sak om att skriva. Egentligen är det mina memoarer som pockar på att skrivas, men ändå sitter jag just nu och tänker på ”Artificiell intelligens” (A.I.) och ”Klimatförändringar”.
Det är ett drygt år sedan jag fick den första inspirationen att ta itu med mina gamla kunskaper om just A.I. Det var en hel del vi mötte på det glada 70-talet. Herbert Simon och Alan Newell hade just kommit ut med sin bok om ”Human problem solving”, och optimismen frodades när det gällde att kunna ”vetenskapligt” beskriva hur människor löste problem. Så här uttryckte två av mina begåvade doktorander det: ”Tänkandet är en PROCESS vari information i form av symbolstrukturer genomgår en serie förändringar i riktning mot ett visst mål under kontroll av ett komplicerat program.” (Stellan Ohlsson och Ove Amqvist). Med den definitionen kunde tänkandet hos en människa jämföras med tänkandet hos en dator eller tvärtom. Nu äntligen hade man en metafor för att beskriva tänkandet, nämligen som ”sökande i en problemrymd”. Den lämpade sig bra för ett dataprogram: Om du är där, gå då dit. Det fanns också ett problem som lämpade sig till att pedagogiskt förklara det hela, nämligen ”Hanois torn”.
Här satt jag och tänkte tillbaka på den glada tiden för fyrtiofem år sedan. Den blev förresten aktuell igen på ett möte med Psykologihistoriska sällskapet på Vetenskapsakademien förra våren. Vad hände efter ”vår” tid? Jag vet att artificiell intelligens kom i vanrykte, man lyckades inte göra det man förutspått. Visserligen hade A.I. program besegrat världsmästare i både schack och Go, men de programmen var inte av den typ som Newell & Simon föreslagit. Symboliska informationsprocesser i all ära, men symbolerna som gjorde jobbet numera var ”subsymboler” och grundstrukturen var ett neuralt nätverk snarare än en problemrymd.
Jag dök ner i de neurala nätverkens värld och kom upp med en mängd idéer. Samtidigt började klimatproblemen bli allt mer uppmärksammade och jag drogs med. Det var mycket som samverkade: A.I., klimatproblem och så framtidsabstinensen. Vad då abstinens? Jo, vi hade just beslutat oss för att det här var sista gången vi skulle vara på Lanzarote. Det var på den Kanarieön som jag satt och skrev den första versionen av boken.
Det fattas ytterligare en ingrediens: Min mamma brukade åka till Spanen. En gång bröt hon sitt lårben där. Vips blev hon min mormor i manuset, vips förflyttades hon till Lanzarote, men sitt vänliga sinne och sin vitalitet fick hon behålla.
Vad jag hade roligt när jag skrev den boken! Och så mycket nytt jag lärde mig. Jag delar gärna med mig – fråga på!
Jag kan svara på frågor som:
Hur kan vattnet stiga hela 50 meter?
Hur vet jag vad som skulle ligga under vattnet om hundra år?
Vad menas med ”deep learning”?
Varifrån har jag problemen som användes i tävlingen mellan robotar och människor?
Tänker jag fortsätta med boken?