First Class Citizen: Etik och Moral i framtidens IT-system?

Berätta om dina specialintressen och lär dig om andras.

 Moderatorer: Alien, marxisten, atoms

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-16 16:07:36

First class citizen är inom programmering ett begrepp för funktioner i ett system som, kort förklarat, har fler områden att kunna fungera på, än andra funktioner kan ha. Det är mig veterligen inget vetenskapligt vedertaget begrepp, utan skrev det bara för att jag anser det passar.

Etik (regler typ)
Den behandlar […] frågorna om vad som utmärker en god handling och vad som kännetecknar en god människa.
Etik - Wikipedia

Moral (och i vilken utsträckning man följer dem)
Moral är en kvalitativ egenskap i en handling, ett beteende eller hos en person att följa de etiska normerna, att följa god sed.
Moral - Wikipedia

Ett av många problem
Hur skall man programmera in etik och moral i en autonom bil? Det kommer krävas att man måste värdera människoliv, och välja riskera att en part blir av med sitt liv.

Skall bilen i första hand skydda dem som sitter i bilen, eller de som finns utanför bilen?
Eller skall bilen räkna antal människor som riskerar sina liv utanför bilen, jämfört antal passagerare i bilen, som riskerar sina?

En normal människa skulle nog väja för en grupp dagisbarn som går över gatan, utan att tänka på att man kanske riskerar sitt liv, på grund av det. Samtidigt kommer nog få att köpa en bil idag, som man vet kommer riskera att ”offra” dig som person, vid ett specifikt scenario. Speciellt om man – i början av eran - med bilmärket från X-land/tillverkaren kan välja bort att reagera på skolklassen – att alltid ta dig som förare/passagerare i första hand. Viss sannolikhet finns dock att det blir olagligt efter ett tag, och då komma klassas som förberedelse till dråp eller liknande.

Om det skulle bli olagligt att välja sitt liv framför andras genom att programmera om sin bil att strunta i fotgängare mm, har man fortfarande en bil som kan välja att offra dig. Volvo kommer behöva utesluta dig som ägare/förare i sin produkt, fall de fortfarande vill hävda att de har världens säkraste bil.

Ingen bra sits för allas vår ”marknad” heller, oavsett åsikt om den. ”Marknaden” har stor och stark vilja - på många olika sätt - i denna värld vi lever i. Hur kommer den resonera runt vem skall dö problemet, samtidigt som den vill pusha fram autonoma bilar.

Jag undrar över vem som ansvarar för etiken och moralen i framtidens IT-system? Jag vill försiktigt påstå att det kanske inte finns någon riktigt lösning, som jag ser det idag, gällande både bil och andra system. Kommer det någonstans göra så att utvecklingen på AI området stannar upp, för att vi människor inte är på det klara över problemet, och/eller är överlag dåliga på att ta hänsyn till varandra? Inte hinner för man måste analysera kvartalsrapporten? Innan, under och efter den släppts?

Denna lista kan göras jobbigt mycket längre där etik och moral kommer att behöva tas upp, som t.ex. försäkringsbolag, som inte alltför sällan ägs av banker, kan se din inköpshistorik av mediciner och därigenom har möjlighet att anpassa kostnaderna för dina försäkringar därefter osv. Vem reglerar det?

Möjligt att det går att lösa på något sätt jag inte vet, eller förstår. Eller så är det här ett sådant oundvikligt problem/möjlighet i evolutionen som faktiskt får/tvingar oss människor att reflektera över hur vi som art behandlar varandra.

Humanity saved by AI, helt enkelt?
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-16 19:13:11

Veldig interessant tema, tror jeg må fundere litt over dette. :D

nomemorytoday skrev:har fler områden att kunna fungera på, än andra funktioner kan ha.
Kan du forklare hva du mener med dette?

Det er jo en ting å sette opp en vekting av faktorer i etiske dilemmaer, men noe ganske annet når man står i det selv. Skulle jeg, i møte med en personlig tragedie, akseptere at jeg måtte ofres? Eller skulle jeg kjempe mot med alle lovlige og ulovlige midler? Skulle jeg i så fall se at det jeg gjorde var feil?

Jeg husker ikke nå hva det heter, men hvor nært noe står oss personlig påvirker også våre etiske vurderinger. Om vi kjenner berørte, identifiserer oss med dem og hvor mye vi dermed føler. For å ta et helt annerledes på kanten fiktivt dilemma som likevel ikke direkte har med bil å gjøre: Skal et gitt antall av statens penger brukes på å i noen grad forbedre levekårene til 100 eldrepensjonister, eller skal de brukes til å redde livet på 10 sultofre?

Det finnes også dette spennende aspektet med humanisme vs. naturalisme (livssyn). Flere og flere går nå tilsynelatende fra et humanistisk til et naturalistisk livssyn hvor mennesker og dyr er like mye verdt. (Merk at naturalist sjelden er noe man kaller seg selv.) Så hvor skal den autonome bilen kjøre -på de ti andungene, eller det ene barnet?

For ca. 2-3 år siden var det en stor virksomhet som crowdsourcet veivalg vet etiske dilemmaer ved autonome bilulykker av mennesker på nettet. Husker ikke om det kanskje var Tesla?

Om det skulle være slik at alt heretter ble besluttet av "etiske algoritmer", hvorfor da ikke ta det til øverste nivå. Avgjøre politikken og hele økonomien med et etisk IT-system. I så fall ville vi nok ikke bekymret for autonome biler, for de etiske IT-systemene ville allokert mye av midlene til sultkatastrofer, utdanning og sultkatastrofer i andre land. :wink: Jo jeg vet, det er for komplekse systemer med for mange elementer til at det på langt nær er aktuelt nå. Men kanskje... kanskje en gang i fjern framtid. :-)018

Veldig interessant i alle fall! :mrgreen:
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-16 20:09:05

Batte skrev:Veldig interessant tema, tror jeg må fundere litt over dette. :D

nomemorytoday skrev:har fler områden att kunna fungera på, än andra funktioner kan ha.
Kan du forklare hva du mener med dette?

First class citizen funktioner
Spoiler: visa
En funktion i ett datorprogram kan ha olika uppgifter, sortera någon lista, beräkna något, kolla fall en mailadress är giltigt osv. I funktionerna använder man sig av variabler som lagrar info X = 3, t.ex. Och en funktion kan även returnera ett resultat. Listan, uträkningen, ett svar huruvida mailadressen är riktigt eller inte.

En s.k. first class citizen funktion kan lagras dels som en variabel, dels kan den skickas vidare in i andra funktioner som argument, eller komma tillbaka som resultat eller läggas in i en lista av information.

En first class citizen funktion är inte lika begränsad som en vanlig funktion, den har mer fördelar och användningsområden, kort.

Nej, frågan är inte ny, men hur skall man gå tillväga? Förklaring med en bil var endast för att förstå fenomenet oavsett typ av system. Jag menar att det är ett mer eller mindre olösligt problem, och att det kommer vara ett hinder – bra eller inte - för utvecklingen av AI.

Här mer om bilar och test man kan göra själv med.
http://moralmachine.mit.edu/

Inom filosofin har moraliska typer av problem nog funnits sedan urminnes tider. Man har även använt sig av det s.k.”the Trolley Problem” för att jämföra med autonoma bilar, men det är inte samma sak menar jag eftersom du kan välja att gå ifrån problemet (ja, och att det bara existerar i teorin).

Skillnaden är nu, att problemen måste lösas och programmeras in, dvs någon människa måste ta det beslutet, att värdera ett människoliv – i bil fallet - och sätta dem reglerna i form av kod. Det är annorlunda än att leka med en filosofisk tanke.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-16 21:45:38

nomemorytoday skrev:Skillnaden är nu, att problemen måste lösas och programmeras in, dvs någon människa måste ta det beslutet, att värdera ett människoliv – i bil fallet - och sätta dem reglerna i form av kod. Det är annorlunda än att leka med en filosofisk tanke.

Ok, får komme med et forslag da.

Her er det mer enn etikk inne i bildet. For det første lover, de må alltid få førsteprioritet hvis systemet skal ende som salgbart. En stor bedrift som utvikler noe slikt må ha et juridisk team med hierarkisk sidestilt med, men myndighet til å stoppe regler.

Så har man de økonomiske aspektene. Et slikt system, eller altså algoritmen, bør utvikles slik at den kan selges, tilpasses til ulike land, få ny bruk etc., i den grad det er mulig. Risikodrivere. Den bør bør utvikles i samsvar m. ISO 31000 og andre vesentlige standarder.

Jo, jeg mener at det ikke må være en eller få mennesker som definerer/dikterer dette. Etikk er noe flytende, komplekst og ikke universelt. Derfor må det først foretas en grundig kvalitativ analyse av hvilke disipliner som er relevant som ressurser i vekting av regler.

Som sagt i samsvar m. risikostyring og omtrent sånn her tenker jeg.

Deretter må man sette sammen en ressursgruppe med mennesker fra disiplinene, samt lekpersoner som er og representerer befolkningen/trafikkanter. Ressursgruppen må sammen gi en kvalitativ vurdering av hvilken kvantitativ vekting (verdi/poeng) hver enkelt disiplin og crowdsourcing/lekpersoner etiske valg skal ha. De må dessuten kvalitativt analysere og konkludere med hvilket utvalg av lekpersoner som skal representere befolkningen og hvilket utvalg som skal representere relevante disipliner. De må også kvalitativt vurdere hvilken kvantitativ vekting ulike konsekvenser av ulykker skal få.

Deretter kan et fagteam defineres av ressursgruppen og gruppens hensikt er å utforme en undersøkelse hvor deltakeren kan velge gjøre etiske valg i mange ulike scenarioer. De utformer også en undersøkelse hvor deltageren får vekte risikovillighet i mange ulike scenarioer. Det vil si på en skala mellom risikovegring og en situasjon som er et etisk dilemma.

Så får man alle til å svare på undersøkelsene, og da får man en vekting på alt man har spurt om. Den må prøves opp mot den juridiske instansen (lovverk) og bedriftens styringsdokumenter etc. og kvalitativt vurderes av ressursgruppen.

Håper jeg ikke hoppet over noe.
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-16 23:28:16

ISO certifieringar och kvalitetsteknik, kan jag en aning, och visst kan man använda sig av det och även bör kanske även göra det. Men det kan vara svårt att applicera dem på annat än själva organisationen runt omkring framtagandet av de etiska reglerna, inte etiken och moralen i sig. Eller missuppfattar jag dig?

Jag menar att skall man utgå från någon form av principiellt regelverk, bör man använda ett mer anpassat för själva uppgiften typ; (men inte nödvändigtvis)
The Framing Trap: Failure to model the entire system over which a social criterion, such as fairness, will beenforced

The Portability Trap: Failure to understand how repurposing algorithmic solutions designed for one social contextmay be misleading, inaccurate, or otherwise do harm when applied to a different context

The Formalism Trap: Failure to account for the full meaning of social concepts such as fairness, which can beprocedural, contextual, and contestable, and cannot be resolved through mathematicalformalisms

The Ripple Effect Trap: Failure to understand how the insertion of technology into an existing social systemchanges the behaviors and embedded values of the pre-existing system

The Solutionism Trap:
Failure to recognize the possibility that the best solution to a problem may not involvetechnology

Menar du nedan att de medverkande skall gå igenom olika potentiella krocksituationer? Och baserat på hur deltagarna gör sina val programmerar man bilen utefter det? Att man skall utgå från typ ett holistiskt förhållningssätt, för att sedan gå ner till atomistiskt då? Och samtidigt operationalisera de begrepp man kvalitativt använt sig av?
Batte skrev:Deretter kan et fagteam defineres av ressursgruppen og gruppens hensikt er å utforme en undersøkelse hvor deltakeren kan velge gjøre etiske valg i mange ulike scenarioer. De utformer også en undersøkelse hvor deltageren får vekte risikovillighet i mange ulike scenarioer. Det vil si på en skala mellom risikovegring og en situasjon som er et etisk dilemma.

Vilka resultat menar du nedan att man får, om du inte svarat ja på frågan ovan.(?)
Batte skrev:Så får man alle til å svare på undersøkelsene, og da får man en vekting på alt man har spurt om. Den må prøves opp mot den juridiske instansen (lovverk) og bedriftens styringsdokumenter etc. og kvalitativt vurderes av ressursgruppen.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 1:14:16

nomemorytoday skrev:ISO certifieringar och kvalitetsteknik, kan jag en aning, och visst kan man använda sig av det och även bör kanske även göra det. Men det kan vara svårt att applicera dem på annat än själva organisationen runt omkring framtagandet av de etiska reglerna, inte etiken och moralen i sig. Eller missuppfattar jag dig?
Jeg tror du forstår meg rett. Man bør benytte standarden for risikostyring, evt. kvalitet for å:
A)sikre bedriften flest mulig innovasjonsmuligheter og redusere økonomisk risiko.
B) sikre prossess- og kvalitetsdokumentasjon
C) Sikre at kontekst, interessenter, risikodrivere etc. blir tilfredsstillende kartlagt, analysert og evaluert, med resultat at ressurs-/ arbeidsgruppe utvelges på rett premisser. Gruppenes utforming vil jo direkte påvirke resultatet av vektingen, som gir alle etiske premisser til produkteieren/programmererne.

Må legge til at alt dette jo blir synsing og refleksjoner fra min side.

nomemorytoday skrev:Jag menar att skall man utgå från någon form av principiellt regelverk, bör man använda ett mer anpassat för själva uppgiften typ; (men inte nödvändigtvis)
Hvilken fagdisiplin kommer denne fra? Jeg er tilbøyelig til å tro at det er fra IT. Jo, disse er absolutt relevante. Men i et slikt prosjekt mener jeg at en systemarkitekt ikke kan ha hovedansvar for etikken. Har ikke hørt om disse før, men tenker sånn om jeg har tolket dem rett:

Framing trap: Jeg tenker vektingen skal settes på den måten jeg beskrev. Av en tverrfaglig gruppe og lekmenn som vekter alle premisser.

The Portability Trap: Derfor kan det være vesentlig å ha IT-faglige med i tverrfaglig ressursgruppe, men i alle fall i arbeidsgruppen som utformer spørsmålene slik at man får de rette dataene. Faktisk burde det kunne gå å programmere det langt på vei ferdig før de etiske vurderingene er sluttført. De etiske vurderingene er jo bare vekttall som input. Kanskje til og med ulike fra land til land eller biltype til biltype.

The Formalism Trap: Alt dette, disse verdiene, må kvantifiseres i form av vekting som beskrevet ovenfor. Ja, man kan alltid i praksis komme til et dypere nivå av faktorer som kan være av relevans, men det må være opp til ressursgruppen å vurdere hvor man kan og må trekke inn faktorer. Det er også viktig selvsagt, at ressursgruppen forblir tilgjengelig for utviklerne, og at de blir en del av det arbeidet. Dette for å sikre at de etiske tallfestede vurderingene formaliseres rett i IT-systemet.

The Ripple Effect Trap: Dette er noe man aldri kan vite sikkert, men det må man benytte risikoanalyser for å analysere. Det bør dessuten være ressursgruppens ansvarsområde. Tester må selvsagt også gjennomføres.

The Solutionism Trap: Dette må da vurderes av det juridiske teamet, ressursgruppen som rådgivende instans og evt. respondentenes risikovegring.

nomemorytoday skrev:Menar du nedan att de medverkande skall gå igenom olika potentiella krocksituationer? Och baserat på hur deltagarna gör sina val programmerar man bilen utefter det? Att man skall utgå från typ ett holistiskt förhållningssätt, för att sedan gå ner till atomistiskt då? Och samtidigt operationalisera de begrepp man kvalitativt använt sig av?
Batte skrev:Deretter kan et fagteam defineres av ressursgruppen og gruppens hensikt er å utforme en undersøkelse hvor deltakeren kan velge gjøre etiske valg i mange ulike scenarioer. De utformer også en undersøkelse hvor deltageren får vekte risikovillighet i mange ulike scenarioer. Det vil si på en skala mellom risikovegring og en situasjon som er et etisk dilemma.

Ja, de skal gå igjennom mange ulike potensielle ulykkessituasjoner.
Ja, at de skal levere alle etiske valg til programmererne i form av vekttall.
Nja, jeg mener alle vekttall skal leveres på det nivået ressursgruppen og arbeidsgruppen har besluttet at det skal gjøres på det gitte tidspunktet. Det vil si vekting på alt som skal ha relevans og dermed er direkte overførbart.
Ja, programmererne skal operasjonalisere den vektingen/prioriteringen de har fått overlevert i form av tall.

I bunn og grunn mener jeg at programmererne ikke skal ha mye med de etiske valgene å gjøre, men at de selvsagt må se til etikken i den tekniske løsningen.
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 3:49:55

Batte skrev:Må legge til at alt dette jo blir synsing og refleksjoner fra min side.

Kör på Batte, ingen fara. Samma här.

Just verksamhetsledningssystem vet jag hur de fungerar och hur man utifrån riskanalyser och andra kvalitetstekniker letar upp varianser från olika typer av styrdiagram och mätmetoder, för att sedan analysera och återinföra de olika resultaten tillbaka in verksamhetsledningssystemet. Och därigenom säkerställa samt förbättra kvaliteten, gällande alla olika processer som förekommer i organisationen. Marknad, ekonomi, redovisning, styrning osv.

Möjligt att jag har varit otydlig med den biten jag inte förstår i sammanhanget dock, vilket är hur man just i detta bil-fall värderar ett människoliv, men även i lite större kontext, andra sociotekniska system som kanske inte på en gång, riskerar en annans människas liv eller ev. välmående.

Batte skrev:Hvilken fagdisiplin kommer denne fra?

Exemplen jag tog upp var ”fällor” man ev. kan hamna i när man genom tillämpad databehandling, Juridik, beteendevetenskap och datorteknik försöker utröna något som kallas ”fair-ML”. De olika ”fällorna” kan användas för att hjälpa designers av IT-system eller allra minst, att förstå begränsningar vid implementationen av olika sociotekniska system.

Batte skrev:Gruppenes utforming vil jo direkte påvirke resultatet av vektingen,...

Blir orolig av den meningen, för det innebär att skulle det vara en annan grupp av människor skulle de kunna få ett annat resultat.

Arbetssätten som används för att få fram en perfekt AI bil – om det nu går - borde kunna användas av alla olika typer av konstellationer av människor som jobbar inom de aktuella skråen. En människa är värd lika mycket överallt.

Batte skrev:I bunn og grunn mener jeg at programmererne ikke skal ha mye med de etiske valgene å gjøre, men at de selvsagt må se til etikken i den tekniske løsningen.

Du har delvis rätt tycker jag, beroende på hur du definierar en programmerare. En programmerare gör vanligtvis betydligt mer saker än trycker på ett keyboard dock. De kan designa hela systemet som pratar med bilen och därigenom sin omgivning, hur och på vilket sätt den informationen tas upp av systemet genom bil och omgivning, och på vilket sätt det skall värderas i systemet osv. Möjligt att det även någonstans i någon funktion har betydelse att det faktiskt är programmeraren som bestämmer hur ett val skall göras. Kanske inte vad, men hur det ”vad” skall ske kan vara av betydelse.

Nu tänkte jag att du helt själv, om du pallar, skulle kunna svara på frågan hur man värderar ett människoliv. Det är ungefär det här jag inte förstår, och som jag tror just nu, inte går att lösa.

Utgångspunkten är den att det är två människor, en person i bilen och en person utanför bilen. Båda personerna har samma sannolikhet till att riskera att dö. Vem skall bilen välja, den utanför bilen eller den som kör bilen? Alla andra aspekter du kan komma på, omgivning ålder mm värderas exakt likadant. Det enda som skiljer, är att en sitter i bilen och en är utanför bilen.

Hur väljer du Batte, att programmera bilen vid just detta scenario?
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 14:33:34

nomemorytoday skrev:Möjligt att jag har varit otydlig med den biten jag inte förstår i sammanhanget dock, vilket är hur man just i detta bil-fall värderar ett människoliv, men även i lite större kontext, andra sociotekniska system som kanske inte på en gång, riskerar en annans människas liv eller ev. välmående.
Jeg tror jeg forstår hva du mener. Først og fremst synes jeg ikke sosiotekniske system skal risikere menneskers liv. Med andre ord mener jeg hovedvekten må ligge på preventiv risikohåndtering i definering av regler for sosiotekniske autonome systemer. Dog mener jeg at risikoviljen, vektingen, må settes som beskrevet.

Det er ikke gitt at det er rett at en autonom bil skal kjøre i mer enn 30km/t i en 70-sone dersom veien ikke er oversiktlig nok til å unngå reell dødsulykkesrisiko.

nomemorytoday skrev:Exemplen jag tog upp var ”fällor” man ev. kan hamna i när man genom tillämpad databehandling, Juridik, beteendevetenskap och datorteknik försöker utröna något som kallas ”fair-ML”. De olika ”fällorna” kan användas för att hjälpa designers av IT-system eller allra minst, att förstå begränsningar vid implementationen av olika sociotekniska system.
De/dette bør definitivt være en del av ressursgruppe/arbeidsgruppe. Jeg mener at for åpne autonome sosiotekniske systemer som avgjør liv og død må det sosiale i form av etikken skilles ad fra det tekniske med tanke på beslutningstakere.

nomemorytoday skrev:
Batte skrev:Gruppenes utforming vil jo direkte påvirke resultatet av vektingen,...

Blir orolig av den meningen, för det innebär att skulle det vara en annan grupp av människor skulle de kunna få ett annat resultat.

Arbetssätten som används för att få fram en perfekt AI bil – om det nu går - borde kunna användas av alla olika typer av konstellationer av människor som jobbar inom de aktuella skråen. En människa är värd lika mycket överallt.

Ja, en annen gruppe mennesker skulle kunne få et annet resultat. Derfor er utvalget viktig. Jeg mener likevel det er den rette måten da et utvalg av befolkningen alene ikke ville tilstrekkelig vekte opp mot kvantitative og kvalitative premisser gitt i relevante fagområder.

Ja, alle mennesker er like mye verdt over alt. Likevel er det andre faktorer enn individets verdi som spiller inn. La oss f.eks. si at å gå på rødt lys straffes med fengsel i et land. Skal det ha noe å si i hvilken grad sjåføren eller andre er skyldig i trafikkulykken?

Et menneskeliv har en konstant verdi. Potensielle ulykkessituasjoner er også i stor grad overførbare. Derfor kan koden overføres fra land til land f.eks., men de etiske verdiene/vekttallene kan komme til å variere.

nomemorytoday skrev:Du har delvis rätt tycker jag, beroende på hur du definierar en programmerare.
I dette tilfellet definerer jeg en programmerer en som formaliserer potensielle ulykkessituasjoner, etiske verdier gitt som vekttall og kommandoer i en algoritme. En som er ansvarlig for å operasjonalisere valg definert av andre.

Tenker da at en arkitekt/produkteier med programmeringskompetanse deltar inn mot ressursgruppe og arbeidsgruppe. Evt. også en eller flere programmerere.

Kommer med et innlegg til om de tre siste avsnittene.
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 15:24:11

Batte skrev:Kommer med et innlegg til om de tre siste avsnittene.

Tack för svar Batte :-)Happy

Batte skrev:Først og fremst synes jeg ikke sosiotekniske system skal risikere menneskers liv.

Nej det tycker inte jag heller, men vill samhället ha autonoma bilar kommer det tyvärr bli så. Man skulle även kunna tänka sig en del olika vårdalgoritmer som kan komma att behöva ta beslut som inte är fördelaktiga, och därigenom riskerar människors liv.

Den sista frågan är den som jag inte förstår hur man kan lösa. Och den frågan har inte så mycket med själva organisationen av att bygga olika typer av IT-system att göra, direkt. Hur man organiserar och vilka som är med och bestämmer kan vara väldigt viktigt, men det kommer alltid komma ner till val som vem som helst kan förstå.

Den enkelheten och transparensen är oerhört viktig, för att alla i samhället ska kunna förstå hur och vad ML, AI, och AGI faktiskt är. Och kommer det t.ex. riktig e-demokrati i framtiden är tydligheten av olika problem som behöver lösas, viktigast.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 16:02:51

nomemorytoday skrev:Nu tänkte jag att du helt själv, om du pallar, skulle kunna svara på frågan hur man värderar ett människoliv. Det är ungefär det här jag inte förstår, och som jag tror just nu, inte går att lösa.
Alle menneskeliv har samme verdi. 1 liv.

nomemorytoday skrev:Utgångspunkten är den att det är två människor, en person i bilen och en person utanför bilen. Båda personerna har samma sannolikhet till att riskera att dö. Vem skall bilen välja, den utanför bilen eller den som kör bilen? Alla andra aspekter du kan komma på, omgivning ålder mm värderas exakt likadant. Det enda som skiljer, är att en sitter i bilen och en är utanför bilen.

Preventive tiltak skal først settes inn, sånn at bilen kjører etter forholdene og ikke havner i dødsulykkessituasjoner. Det er uetisk med en våghalsbil som kjører i en hastighet høyere enn situasjonen tillater og påfører død.

Du spør meg om menneskeliv, men mange vil også mene at (andre) dyr skal ha en verdi. Det mener ikke jeg. Selvsagt mener jeg at dyr er dyrebare og elsket, men ikke at de har verdi sett opp mot opprettholdelse av menneskeliv. Dette har jeg mistet venner på å si.

Om bilen likevel havner i en dødsulykkessituasjon må den først og fremst følge loven, men den kan bryte loven hvis det forhindrer ethvert dødsfall eller alvorlig skade.

Vi må huske at bilen ikke kan forutse de faktiske konsekvensene og at dette handler om beregning av risiko for at de inntreffer. Vi vet ikke hva konsekvensen blir, men kan basere oss på statistikk fra tidligere hendelser for å vurdere risikoen for konsekvensen død i gitte scenario.

Jeg tenker at mine personlige preferanser ikke egentlig har så mye og si, og at disse etiske verdiene må velges på en mer demokratisk måte. Jeg vil kanskje være helt uenig i de endelige reglene da. Dessuten blir jo dette litt å leke med scenarioen, da man på forhånd ikke kan vite konsekvens. Dessuten kan en millimeterjustering avslutte et liv. Det vi snakker nå er veivalg typ a eller b. I virkeligheten vil det naturligvis være mye mer komplekst. :-)002

Min personlige mening på dette punktet i tid... Hvis et gitt scenario fører til død for enten det ene eller andre mennesket mener jeg den som statistisk sett får skyld for ulykken som må dø. Dersom det statistisk er sannsynlig at ingen ville fått skyld mener jeg trafikklovene må være gjeldende - det vil si at bilen kjører der det er lov eller pålagt. Dersom det fortsatt er flere muligheter mener jeg må bilen følge retning av normal planlagt trafikkflyt. Dersom det fortsatt var flere muligheter måtte bilen beskyttet sjåføren.

Har en av partene statistisk sett skyld i den kommende dødsulykken?
-Ja
--Har sjåføren skyld i ulykken?
---Ja
----Unngå den andre trafikkanten
---Nei
----Unngå sjåførskader
-Nei
--Tillater trafikkreglene mer enn et veivalg?
---Ja
----Er mer en ett tillatt veivalg i tråd med normal planlagt trafikkflyt?
-----Ja
------Unngå sjåførskader
-----Nei
------Følg normal trafikkflyt
---Nei
----Kjør i tråd med trafikkreglene

Er det dette du spør om?

Dette er en vekting jeg vil skal vurderes på den måten jeg beskrev. :-)Happy
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 16:30:33

Batte skrev:Er det dette du spør om?

Nej det jag undrar är hur du skulle välja att programmera en bil i det scenario jag beskrev tidigare, eftersom ett sådant scenario måste lösas innan man kan tillåta helt autonoma bilar.

Bakgrund
Utgångspunkten är den att det är två människor, en person i bilen och en person utanför bilen. Båda personerna har samma sannolikhet till att riskera att dö. Vem skall bilen välja, den utanför bilen eller den som kör bilen? Alla andra aspekter du kan komma på, omgivning ålder mm värderas exakt likadant. Det enda som skiljer, är att en sitter i bilen och en är utanför bilen.

Fråga

Hur väljer du Batte, att programmera bilen vid just detta scenario?
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 16:46:16

nomemorytoday skrev:Fråga
Hur väljer du Batte, att programmera bilen vid just detta scenario?
Jeg tror jeg har svart på det. Unngå sjåførskader er mitt svar, forutsatt at hierarkiet jeg har beskrevet er fulgt. Er det ikke fulgt kan jeg komme til å gi et annet svar.

Men, som sagt, jeg vil gjerne at det skal besluttes på den måten og med de involverte jeg har beskrevet.

Har jeg svart nå? :-)Happy
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 18:05:22

Batte skrev:Men, som sagt, jeg vil gjerne at det skal besluttes på den måten og med de involverte jeg har beskrevet.
Har jeg svart nå? :-)Happy

Jo, fast då är det inte min fråga längre, och så som jag menat ställa den. Och eventuella trafikregler förutsätter jag att den autonoma bilen självklart följer.

Batte skrev:Hvis et gitt scenario fører til død for enten det ene eller andre mennesket mener jeg den som statistisk sett får skyld for ulykken som må dø

Det finns vidare heller inte någon statistik i min fråga, den är i sådant fall ej signifikant. Utan det enda som skiljer dem åt är att en är i bilen och en är utanför bilen, och ingen av dem har gjort något fel.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 18:27:31

Unngå sjåførskader. Er det svaret du søker? :-)Happy
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 18:41:23

La meg stille et par spørsmål.
Skal en autonom bil være (generelt) tryggere enn en vanlig bil?
Tror du mange vil foretrekke en bil som vil ofre dem, eller en bil hvor de kan redde seg selv?
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Fabela » 2019-03-17 20:16:20

Jag vill inte delta i diskussionen, utan bara sticka in en parentes apropå nåt som nämnts:

Andra arter är nånting vi kanske får vara beredda på kommer att få större plats i olika diskussioner kring etik mm.

Man börjar nu vetenskapligt kunna bevisa hur lika oss djuren är, inte bara gällande fysisk smärta mm, utan även mentalt och emotionellt.
Då hamnar det på en helt annan nivå, än enskilda individers subjektiva tyckanden om djur.

En annan tänkbar aspekt är att desto fler arter vi utrotar, desto mer värdefulla blir de som överlever. Och då menar jag inte bara för vårt välbefinnande/nöje, utan det kan också gälla vår överlevnad. Att värna djuren kan alltså bli en ödesfråga, särskilt med tanke på hur vi människor ökar i antal.

Det vore intressant om diskussionen senare berörde de bitarna, tycker jag.

Personligen har jag funderat på sånt under så lång tid, att jag har min uppfattning klar (i stora drag), och har inget behov av att diskutera det.
Men tar gärna del av andras tankar, och önskar tråden långt liv, vida vyer och många deltagare.
Fabela
 
Inlägg: 3068
Anslöt: 2013-12-08

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 20:46:26

Batte skrev:La meg stille et par spørsmål.
Skal en autonom bil være (generelt) tryggere enn en vanlig bil?
Tror du mange vil foretrekke en bil som vil ofre dem, eller en bil hvor de kan redde seg selv?

Vet ej.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 20:47:06

Batte skrev:Unngå sjåførskader. Er det svaret du søker? :-)Happy

Rolig sak i sammanhanget - autonoma bilar

Spoiler: visa
Enligt Googles översättning:

Sjåførskader = drivrutins skador
sjåfør skader = förarens skador

Singulariteten, redan här… :-)005

Nej, men det kan vara så att jag är otydlig på att formulera hur jag tänker så att mottagaren, du i detta fall, förstår vad menar och hur jag tänker.

    1. Jag tror att frågan iaf behöver ett svar, innan man kan tillåta helt autonoma bilar.

    2. Frågan är dock enligt mig omöjlig att svara på, med min hjärna (säger iofs inte så mycket). För ett sådant scenario måste programmeras in (alla tänkbara), alternativt indirekt programmeras in. Vilket egentligen blir samma sak. Man skulle eventuellt ha en randomfunktion då, eller att det blir runtime error eller likn. men det känns inte heller direkt ”fair” dvs etiskt & moraliskt riktigt.

    3. Jag är en jävla luffarunge, men jag tycker ändå det här är viktiga frågor som vi kommer behöva ställa till oss själva i framtiden, ju mer som blir digitaliserat. Och att detta bör ske med transparens, och förtydligat så pass att alla kan vara med och får komma till tals.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 21:30:31

nomemorytoday skrev:
Batte skrev:Unngå sjåførskader. Er det svaret du søker? :-)Happy

Rolig sak i sammanhanget - autonoma bilar

Spoiler: visa
Enligt Googles översättning:

Sjåførskader = drivrutins skador
sjåfør skader = förarens skador

Singulariteten, redan här… :-)005

Der har du nok svaret fra Google. Gjelder bare å tolke det. :lol:

nomemorytoday skrev:Nej, men det kan vara så att jag är otydlig på att formulera hur jag tänker så att mottagaren, du i detta fall, förstår vad menar och hur jag tänker.
Ja, men jeg er endå fullstendig inkompetent når det gjelder dette. Det kan derfor være veldig utfordrende å forenkle det såpass mye at jeg forstår selv om jeg er inkompetent. Det beklager jeg.

nomemorytoday skrev:1. Jag tror att frågan iaf behöver ett svar, innan man kan tillåta helt autonoma bilar.
Absolutt, det må besluttes hvem som skal dø. Systemet må velge et tiltak.

nomemorytoday skrev:2. Frågan är dock enligt mig omöjlig att svara på, med min hjärna (säger iofs inte så mycket). För ett sådant scenario måste programmeras in (alla tänkbara), alternativt indirekt programmeras in. Vilket egentligen blir samma sak. Man skulle eventuellt ha en randomfunktion då, eller att det blir runtime error eller likn. men det känns inte heller direkt ”fair” dvs etiskt & moraliskt riktigt.
Absolutt, noen må beslutte hvem som skal dø dersom begge alternativer har samme vekttall. Synes ikke det skal randomiseres. Jeg synes det bør besluttes av organisasjonen jeg beskrev.

nomemorytoday skrev:3. Jag är en jävla luffarunge, men jag tycker ändå det här är viktiga frågor som vi kommer behöva ställa till oss själva i framtiden, ju mer som blir digitaliserat. Och att detta bör ske med transparens, och förtydligat så pass att alla kan vara med och får komma till tals.

Jeg liker ikke at du kaller deg det. Bortsett fra det er jeg enig i alt du skriver. Du er en intelligent og ressurssterk person med mange talenter og fin etikk. Du tar opp viktige etiske og moralske spørsmål! :-)173

Det er jo ikke sånn at jeg har svarene, for det jeg skriver er bare refleksjoner. Som jeg nevnte er jeg inkompetent.

Om du fortsatt ikke har fått svar på spørsmålet om mitt personlige valg kan du stille meg ja/nei-spørsmål om du vil, så skal jeg gjøre mitt beste. :-)Happy
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-17 21:45:56

Batte skrev:Om du fortsatt ikke har fått svar på spørsmålet om mitt personlige valg kan du stille meg ja/nei-spørsmål om du vil, så skal jeg gjøre mitt beste. :-)Happy

Lovar inget :wink:
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Batte » 2019-03-17 21:55:29

nomemorytoday skrev:
Batte skrev:Om du fortsatt ikke har fått svar på spørsmålet om mitt personlige valg kan du stille meg ja/nei-spørsmål om du vil, så skal jeg gjøre mitt beste. :-)Happy

Lovar inget :wink:
Det er ok, jeg kan akseptere det. :-)Happy

Evt. kan du si noe om hvordan du ville programmert bilen i det gitte scenarioet, om du vil.
Batte
 
Inlägg: 4848
Anslöt: 2016-08-04
Ort: Smaalenenes amt

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-18 7:00:25

Fabela skrev:Jag vill inte delta i diskussionen, utan bara sticka in en parentes apropå nåt som nämnts:

Andra arter är nånting vi kanske får vara beredda på kommer att få större plats i olika diskussioner kring etik mm.

Man börjar nu vetenskapligt kunna bevisa hur lika oss djuren är, inte bara gällande fysisk smärta mm, utan även mentalt och emotionellt.
Då hamnar det på en helt annan nivå, än enskilda individers subjektiva tyckanden om djur.

En annan tänkbar aspekt är att desto fler arter vi utrotar, desto mer värdefulla blir de som överlever. Och då menar jag inte bara för vårt välbefinnande/nöje, utan det kan också gälla vår överlevnad. Att värna djuren kan alltså bli en ödesfråga, särskilt med tanke på hur vi människor ökar i antal.

Det vore intressant om diskussionen senare berörde de bitarna, tycker jag.

Personligen har jag funderat på sånt under så lång tid, att jag har min uppfattning klar (i stora drag), och har inget behov av att diskutera det.
Men tar gärna del av andras tankar, och önskar tråden långt liv, vida vyer och många deltagare.

För egen del har jag dock aningens svårt att få ihop något hållbart resonemang runt etik och moral, just i samma livochdöd kontext som med bilar, så länge människor fortfarande äter djur.

Men det kan vara viktigt för det, djuren lär ej stå vid sidan av utvecklingen. Risken att jag gnisslar i en tråd eller försöker hindra någon att vara sig själv är nog väldigt liten om inte någon är uppenbart taskig, oavsett tråd eller IRL, och man själv har en tjurig dag eller så – och då går det även att be om ursäkt sedan. Så, smoke yourself silly Fabela, om du vill.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav nomemorytoday » 2019-03-18 7:01:13

Batte skrev:
nomemorytoday skrev:
Batte skrev:Om du fortsatt ikke har fått svar på spørsmålet om mitt personlige valg kan du stille meg ja/nei-spørsmål om du vil, så skal jeg gjøre mitt beste. :-)Happy

Lovar inget :wink:
Det er ok, jeg kan akseptere det. :-)Happy

Evt. kan du si noe om hvordan du ville programmert bilen i det gitte scenarioet, om du vil.

Nej tyvärr, kan jag inte svara på den frågan, och det var nog det som gjorde att det blev en tråd.

Jag började fundera på detta för länge sedan i samband med att jag läste om e-demokrati och liknande. Och nu några år senare, och ju mer jag lär mig programmera, desto oroligare blir jag för att det potentiellt, och ganska enkelt, går att ”mörka” - kanske inte ens med flit, ”ämnen” för medborgarna i AI algoritmer och olika digitala konstruktioner, som egentligen inte är demokratiska och har indirekta fördomar, som då kan komma att drabba svaga grupper.

Att jag valde att ta upp autonoma bilar är för att det där ställer frågan på sin spets, hyfsat enkelt och samt handlar om liv och död. Och kan man inte lösa den gåtan så blir det, tror jag, svårt att kunna ha autonoma fordon, utan att försöka ”mörka” just det problemet. Men som jag skrivit tidigare, jag har ej patent på sanningen, utan kan ha fel. Vill kanske ha det också, egentligen.
nomemorytoday
 
Inlägg: 1497
Anslöt: 2018-01-13

First Class Citizen: Etik och Moral i framtidens IT-system?

Inläggav Fabela » 2019-03-18 15:18:26

nomemorytoday skrev:För egen del har jag dock aningens svårt att få ihop något hållbart resonemang runt etik och moral, just i samma livochdöd kontext som med bilar, så länge människor fortfarande äter djur.

Men det kan vara viktigt för det, djuren lär ej stå vid sidan av utvecklingen. Risken att jag gnisslar i en tråd eller försöker hindra någon att vara sig själv är nog väldigt liten om inte någon är uppenbart taskig, oavsett tråd eller IRL, och man själv har en tjurig dag eller så – och då går det även att be om ursäkt sedan. Så, smoke yourself silly Fabela, om du vill.
Vi två kan ju inte kommunicera, som bekant, så jag vet inte hur jag ska läsa det där, och särskilt den sista meningen.
Men jag gör ett aktivt val att inte se det som spydighet, utan väljer istället alternativet att mitt inlägg kanske har luckor som får det att verka oseriöst.

Jag uppfattade det som att tråden inte alls bara handlar om bilar, utan de togs bara som ett exempel.

Det var vaket av Batte att nämna andra arter, tycker jag, många hade nog inte tänkt så långt.
För som sagt: forskningen går framåt vad gäller kunskap om djuren och arter utrotas i en rasande fart. Djuren får också nya roller/uppgifter för människan.


Min tankekedja började med bevaknings- och identifieringssystemet i Kina.
Den autonoma bilen kunde fungera efter samma princip.

Elfenben och tigerskinn är två svindyra, eftertraktade statussymboler i Asien. De djurarterna är hotade, delar av dem är nära utrotning.

Skulle bilen välja att köra på säg en fertil tigerhona eller en känd förbrytare?

Jag tror inte på att alla länder skulle göra samma prioriteringar.
Och vilka grupper man än sätter på att ta fram svar och lösningar, kommer de att ifrågasättas - alltså både grupperna och lösningarna.

Annat jag nuddade vid i tankarna var bl.a. att det inte var så länge sen, som de afrikanska slavarna på de amerikanska plantagen inte sågs som riktiga människor. Idag ser vi på det som ofattbart okunnigt och inhumant.
Kommer vi att gå vidare med vår inkludering, så att den gäller inte bara människor olika oss själva utan även arter olika oss själva? Vi fick med tiden kunskap om att alla människor är samma art och lika varandra, nu ger forskning oss kunskap om att djuren är lika människan.


Apropå köttätande - hur mycket och länge till, med tanke på miljöfrågorna? Kommer det att behövas slaktdjur, eller kommer allt kött att odlas?
Kött odlas redan, det är bara en tidsfråga när metoderna utvecklats tillräckligt för att släppa produkten ut på marknaden. (Tror jag, ska jag väl lägga till för att ha ryggen fri.)


Bilen är som sagt ett tydligt exempel, och därför tacksam att använda i en diskussion.
Men det finns oräkneliga motsvarande dilemman, om än luddigare.


Jag har ingen önskan att delta mer, så jag kommer inte att svara fler gånger.
Mitt inlägg var tänkt bara som möjlig food for thought, den som vill kan pussla ihop eller använda bitar ur det helt efter eget håg.
Fabela
 
Inlägg: 3068
Anslöt: 2013-12-08

Återgå till Intressanta intressen



Logga in