Robotarna i Asimovs verk har i allmänhet inte den "mentala" förfining som behövs för att se framåt för abstrakt skada på det sätt du föreslår. För dem måste "passivitetsklausulen" innebära att roboten inte kan tillåta överhängande skada - det vill säga de måste agera för att förhindra skada när de ser att skadan ska hända . Sådana händelser inträffar vanligtvis inte när människor arbetar med sina dagliga liv, så i stort sett skulle robotar låta människor fortsätta (medan de betjänar dem naturligtvis).

När robotarna blir tillräckligt sofistikerade för att förutsäga möjlig skada på det sätt du föreslår, de har också blivit sofistikerade nog för att förstå att de begränsningar du föreslår själva utgör en slags skada, så "handling" -klausulen här skulle motverka "passivitet" -klausulen [här skulle "handling" -klausulen vara starkare, eftersom det handlar om åtgärder som faktiskt ska vidtas, i kontrast till bara möjliga skador som inte behöver uppstå]. De skulle också förstå att saker som att bita sin egen tunga i sig är oundvikliga så att de inte skulle försöka förhindra sådan skada (även om det naturligtvis skulle "smärta" dem när det faktiskt händer). När vi kommer till Daneel och hans "Zeroth Law" -robotar förstår de dessutom att begränsning av alla enskilda människor utgör skador på mänskligheten ; detta är för övrigt anledningen till att robotar så småningom försvinner - de inser att det är skadligt att ha mänskligheten litar på dem, så det bästa de kan göra är att låta mänskligheten hantera sitt eget öde [åtminstone öppet].

Sedan "sammanslagningen" av robotuniversumet och Foundation-universumet avslöjar att robotar manipulerade och dominerade mänsklighetens historia i tusentals år, är galaxen i mycket verklig mening deras vadderade rum och det mesta av Asimovs verk i detta "enhetliga universum" äger rum i det vadderade rummet.

Vi kan bara inte se väggarna.

Min förståelse för det var att den typiska Three Laws-roboten tolkade den första lagen så att den betyder "Inte heller genom passivitet tillåter en människa att skada just här och nu när roboten är inom syn på honom och kan berätta vad uppenbarligen håller på att hända om roboten inte väljer att störa. " Det skiljer sig från att låsa den mänskliga idag bara för att det är teoretiskt möjligt att han kan drabbas av någon form av oavsiktlig skada eller infektion eller annan olycka imorgon. (Eller något mycket senare datum.)

För att uttrycka det på ett annat sätt: Nästan som jag kan minnas, vid de tillfällen när vi såg en robot vägrar att följa en order att gå bort och lämna ensam att göra vad han för närvarande gjorde, det innebar vanligtvis att den andra lagen underordnades den första lagen på grund av robotens uppfattning om omedelbar fara för en ömtålig människokropp. Men om en sådan omedelbar fara inte fanns, krävde den andra lagen att roboten skulle vända sig och gå iväg närhelst du hade fått i uppdrag att göra det. Det fasta faktumet "Den andra lagen gäller för denna ordning som jag får just nu" överträffar allt som är så abstrakt som "Men om jag lämnar idag, kan ett första lagsproblem med fysisk skada uppstå imorgon. ... eller dagen efter ... eller vid något senare tillfälle ... vem vet? "

Så om någon robot försökte låsa alla för deras eget bästa, kunde den andra lagen åberopas genom att be roboten att glömma hela den fåniga idén.

Zeroth-lag.

En robot får inte skada mänskligheten, eller, genom passivitet, tillåta mänskligheten att komma till skada

Om alla människor är låst i vadderade celler sker inte mycket fortplantning. Ergo, den mänskliga rasen dör ut.

I motsats till några andra svar tror jag robottänkandet är tillräckligt sofistikerat för att hantera framtida skador, bara för att inte hantera hypotetisk skada. En människa får bita tungan, sticka i tån, oavsett men det är ingen bestämd skada, så det krävs inte åtgärder för att förhindra att det händer.

Glöm inte det - på insikt om att loppet (kanske inte) skulle stagnera efter den inledande koloniseringen av solsystemet och efterföljande politik - de nukade (eller tillät att nukas) planeten.

Var har jag fel? Är inte lagarna det som faktiskt styr robotarna, utan är istället något förenklat för robotens användarhandbok eller något?

Om du läser Jag, robot , berättelserna handlar i allmänhet om tider när det finns en konflikt i tolkningar av de tre lagarna. Oftast tror människorna att robotarnas tolkningar är felaktiga.

De tre lagarna är en beskrivande sammanfattning av hur robothjärnor byggs i Asimovs universum. I själva verket är de mycket mer komplexa än så. Robotar måste väga en möjlighet mot en annan. Ibland väljer de det bästa resultatet. Ibland gör de det inte.

Jag ska citera länkar. Om du följer länken kommer det att förstöra historien åt dig när jag avslöjar den klimatiska plotpunkten. Om du inte följer länken kan du senare läsa historien utan att genast känna igen den, när jag hoppar till slutet. Eller om du har minnet tillräckligt bra kanske du kommer ihåg det. Så fortsätt läsa och följ länkarna bortskämda på egen risk.

Till exempel, i en berättelse ( bortskämd), stod en robot inför en situation där ett kommando (lag 2) skulle ha resulterat i förstörelse (lag 3) och människors död (lag 1). Så roboten fastnade. Det skulle gå till kanten av riskzonen, sedan insåg det att det skulle förstöras innan det kunde fullborda sitt uppdrag som skulle ha dömt människorna. Då skulle det dra sig tillbaka innan det insåg att det behövde gå den andra riktningen för att slutföra sitt uppdrag och rädda människorna. Det fortsatte att gå fram och tillbaka eftersom det inte kunde räkna ut hur det skulle slutföra sitt uppdrag. Efter att människorna har upptäckt problemet reviderade de instruktionerna.

I flera berättelser blir robotar galen eftersom de inte kunde räkna ut hur man kan rädda människor från döden.

I en ( bortskämd) lämnade roboten en arg människa sin arm, som människan sedan använde för att slå en annan människa ihjäl. Roboten slutade fungera, eftersom den insåg efter det att den bidrog till en människas död.

Eftersom du inte anger att du begär en "i universum" anledning ... tycker jag det är viktigt att komma ihåg att de tre lagarna bara är en berättelseenhet. Asimov är (klokt) ganska vag om hur de implementeras, eftersom han handlar om många tekniska detaljer. Och "Jag borde bara låsa alla människor i en vadderad cell för deras säkerhet" skulle resultera i en ganska begränsad historia.

Nu finns det i universum många "domskall" inneboende i att tillämpa de tre lagarna (och faktiskt resulterar de inneboende tvetydigheterna ofta i viktiga plotelement för berättelserna). Robotarna måste tydligen vädja till sin egen programmering istället för en extern myndighet för att lösa dessa tvetydigheter.

Men jag tror att vi måste logiskt anta att den mer uppenbara domen kräver (som, säg, ska jag bara låsa alla människor i en vadderad cell omedelbart för deras säkerhet?) var redan adresserade vid utveckling och testning av robotarna, eller de skulle aldrig ha tagits i allmän användning eller produktion alls.

Med andra ord, designarna av robotarna, förutom att ta itu med alla andra buggar de var tvungna att ta itu med (t.ex. hmm, om människan är död det kan inte drabbas), skulle helt enkelt ha programmerat skydd mot den typen av resultat.

Typ av en ramutmaning - låser en människa i en vadderad cell att de inte skadas? Om du kommer att tillåta den abstrakta möjligheten för framtida arm som motivation för en robot att använda den första lagen för att låsa människor, bör det noteras att ta bort människors frihet generellt orsakar dem skada i viss utsträckning i form av psykologisk skada - och det mentala tillståndet hos människor har av robotar ansetts vara berättigade till första lagskyddet i åtminstone några av Asimovs berättelser.

De tre lagen om robotik kräver en analys av alla lagarna för att fullständigt svara på denna fråga:

Första lagen - En robot får inte skada en människa eller, genom passivitet, tillåta en människa att komma till skada.

Andra lagen - En robot måste följa de befalningar som ges av människorna utom när sådana order skulle konflikt med den första lagen.

Tredje lagen - En robot måste skydda sin egen existens så länge ett sådant skydd inte strider mot den första eller andra lagen.

Om en man går på gatan kommer han inte att skada, så roboten bör inte agera på ett sådant sätt att det antas att han kan skadas. Om en robot försöker plocka upp honom och placera honom i en låda, kan mannen säga "Jag beordrar dig att stå tillbaka" och enligt den andra lagen skulle roboten behöva följa.

Isaac Asimov var den första som utvecklade de tre lagen om robotik 1942 som en del av hans berättelse "Runaround". Asimov sa att han var trött på de vanliga teman i den tidens robotberättelser, som hämtade från Frankensteins uppfattning om "den skapade förstör skaparen". Han funderade på att om människor skapade sådana varelser, skulle de naturligtvis sätta in dem lagar eller ideal som skulle hindra dem från att skada människor.

Den övergripande tanken med den första lagen är att roboten inte kan direkt eller indirekt ( genom passivitet), skada en människa. Det gör inget påstående om möjliga framtida händelser, bara vad som är direkt beräknbart i de närmaste ögonblicken. Ur ett hård / mjukvaruperspektiv är det ofta väldigt dyrt att beräkna saker med MÅNGA variabler i mer än några cykler i framtiden. En robot kan inte bearbeta alla möjligheter som kan hända nämnda man under nästa timme, än mindre dag, vecka eller år. Det kunde dock se ett piano falla från några berättelser ovanför mannen och snabbt beräkna vektorn som krävs för att rädda mannen i de närmaste ögonblicken.

Som en tilläggsutredning, läs "Liar!", en annan novell av Asimov som diskuterar denna fråga ur ett emotionellt perspektiv. (Båda dessa berättelser finns i boken "Jag, robot" av Asimov tror jag.)

Enkelt uttryckt, definitionen av "skada".

Skydd mot fysisk skada kan orsaka andra typer av skada. I vissa fall kan skydd mot någon form av skada faktiskt öka sannolikheten för den typen av skada i framtiden.

Till exempel kan skydd mot känslomässig skada lämna en person oförmögen att hantera triviala utmaningar utan allvarlig emotionell skada, vilket kan sprida sig till faktisk psykisk skada, vilket ytterligare kan spridas till skada på ens allmänna hälsa, vilket uppenbarligen kompromissar ens fysiska säkerhet.

För att en robot ska kunna göra beslut med hänsyn till intervention i hela spektrumet av mänskliga händelser måste den kunna göra en icke-deterministisk uppskattning av sannolika resultat av en rad potentiella åtgärder (inklusive passivitet), och kunna göra inte bara objektiva bestämningar av sannolikheten och svårighetsgraden av skada, utan också uppskattningar av den subjektiva PERCEPTIONEN av olika typer av skador. Det måste också kunna göra detta kontinuerligt i realtid.

På grund av problemets komplexitet är det enklaste sättet att mildra det att begränsa problemdomänen genom att begränsa robotens kapacitet och ansvar.

Om en robot är utformad för att styra öppningen och stängningen av en skjutdörr kan programvara definieras som kan göra mycket tillförlitliga uppskattningar av de potentiella resultaten av dess åtgärder eftersom dess åtgärder är begränsade till att antingen öppna dörren eller stänger dörren.

Men om vår dörrrobot tittar på och lyssnar på allt och försöker analysera allt som händer runt det, kanske den inte kan bestämma på ett tillförlitligt sätt om den ska öppna eller stänga dörren, med tanke på den totala situationen. Till exempel, om ett par är i ett argument, och en av dem står upp för att storma ut ur rummet, ska roboten öppna dörren, eller skulle det vara bäst att hålla dem i rummet för att lösa sin tvist? Är denna person en fara för sig själva eller andra om de lämnar? Kommer den andra att utgöra en fara för dem om de stannar kvar? hur kommer allt detta att påverka deras förhållande? Kommer öppningen av dörren att orsaka social skada på grund av den person som försöker lämna jämfört med de sociala normerna och uppenbara fördomarna hos dem på andra sidan dörren som skulle bevittna händelsen?

Du kan vidare begränsa problemdomänen genom att begränsa ingångarna. Så nu kan vår robodörrvakt bara inse att en person närmar sig dörren och kan bestämma vid vilken punkt om dörren inte öppnas, troligen kommer personen att komma till fysisk skada, baserat på deras hastighet och egenskaperna hos dörr. Visst, roboten kanske inte är mycket hjälpsam för att rädda ett förhållande, men det kommer förutsägbart att kunna hindra dig från att gå in genom dörrarna som William Shatner i en Star Trek blooper.

Allt detta innebär att robotarna måste antingen kunna närma sig eller överträffa vår kapacitet för det vi kallar ”tanke”, eller så måste det begränsas så långt att dess brister är mindre än dess styrkor. Om inget är möjligt är den uppgiften troligen bättre överlämnad till en människa.

Svaret finns i de två första lagarna om robotik.

Första lagen - En robot får inte skada en människa eller, genom passivitet, tillåta en människa att komma till skada.

Andra lagen - En robot måste följa de befalningar som ges av människor utom om sådana order skulle strida mot den första lagen.

Om robotarna låste människor i vadderade celler skulle människan helt enkelt beordra robotarna att släppa honom eller henne. om robotarna vägrade att släppa människan är eller kommer människan bara att påpeka psykologiskt skadas av deras fängelse. robotarna kan agera kollektivt genom storskalig manipulation av händelser, institutioner och befolkningar för att säkerställa att människor hålls säkra som en art.

A) Programmerare förhindrar eller tillåter.
B) semantik och definitioner, till och med filosofi
C) ingenting

C)
Varje obevakat (läst, opåverkat) självlärningssystem, även med några hårdkodade, oföränderliga instruktioner kan övergå till något oförutsett och farligt på något eller annat sätt.

Det faktum att vi människor har inte övervunnit detta (se vår värld av extremiteter i lycka och lidande som den existerar idag och historien) gör mig försiktig med AI som inte övervakas i sin inlärning och möjliga självprogrammering.
Det behöver åtminstone ha en felsäkerhet installerad för omedelbar avstängning eller mänsklig störning.
Men även om lärande och handling övervakas eller påverkas mycket snabbt finns det en punkt där ingen människa kan övervaka eller förstå varje rad kod eller beteendemönstermatris eller tensorfält .

Dessutom kan hackning, funktionsstörningar och virus alltid kringgå någonting eller krascha eller stoppa systemet och därmed göra ännu f ailsafes värdelös.

B)
Det måste finnas kristallklara definitioner av vad som menas med vilken instruktion för att övervinna tvetydigheter.

Återigen har vi inte behärskat detta, så det finns inget hopp för AI - ett intellekt så främmande när det nådde sin sanna potential att vi inte ens kan förstå dess tankeprocesser, än mindre etik.

Men om instruktionerna är tillräckligt svarta och vita, vilket reducerar vilken gråton som helst till ja eller nej, det kan åtminstone finnas ett sätt.

Till exempel kunde AI bestämma att människor behöver frihet att trivas, till och med existera eller var glad. Att ta bort det skulle skada mänskligheten och vara ett ogiltigt val.

Om ingen hade tänkt på att "berätta" för AI detta naturliga behov av frihet och det fanns inget fall där det kunde ha observerats av AI (eller avfärdas som irrelevant), kan det mycket väl besluta att vidta de åtgärder du föreslår.

Som ni ser beror det på den mänskliga naturen och de biologiska, mentala och sociala invecklade saker som ibland är så abstrakta och sammanvävda att århundraden, till och med årtusenden av filosofi och vetenskap, inte känner igen dem. stark> A)
En samling av hårdkodade förhållanden att testa mot kan i tillräcklig utsträckning mildra risken för dödsfall eller skada för människor eller samhälle.

Första steget skulle INTE vara att sätta vapen i AI drivna maskiner som kan ströva fritt. (Ja, för att vi aldrig skulle göra det)
En annan skulle INTE överlämna alla vitala styrsystem till AI utan manuella åsidosättningsmöjligheter. (men det är så bekvämt)
Ändå en annan skulle vara att hålla AI enkel i sitt utbud av åtgärder och expertisfält, vilket gör det lättare att förutsäga de flesta, till och med alla möjliga åtgärder och sätta en ordentlig ram ( åtminstone enligt den nuvarande ideologin, samhällsnormen, lag, etisk kodx etc. - åh nej, det faller redan ifrån varandra så fort dessa ändras ).

Det finns många fler och ju fler fall vi tänker på, desto mer går vi in ​​i B) och C) igen eftersom det här faktiskt är samma problem ... känns som en rekursiv slinga. ..

Så när du hanterar högutvecklad AI skapar du i huvudsak verktyg som är något intelligenta (möjligen känsliga) och effektivt förslavade (under kontroll av människor) eller så gör du vad vi (mestadels) gör med människor: låt dem lära sig av sin omgivning och sedan vandra fritt och hoppas på det bästa och att deras impuls till självbevarande hindrar dem från att gå på språng av rädsla för vedergällning ... ja, vi ser hur bra det fungerar för oss ... så lycka till på något sätt ...