Men for å holde folk trygge, må robotene prøve å opprettholde eller forbedre menneskelig empowerment så vel som deres egen. Dette betyr i det vesentlige å være beskyttende og støttende. Å åpne en låst dør for noen vil øke deres empowerment. Å beherske dem vil resultere i et kortsiktig tap av empowerment. Og å skade dem betydelig kan fjerne På samme tid må roboten prøve å opprettholde sin egen empowerment, for eksempel ved å sikre at den har nok kraft til å operere og at den ikke setter seg fast eller blir skadet.

Roboter kan tilpasse seg nye situasjoner

Ved å bruke dette generelle prinsippet i stedet for forhåndsdefinerte regler for atferd, vil roboten kunne ta hensyn til kontekst og evaluere scenarier ingen tidligere har sett for seg. For eksempel, i stedet for alltid å følge regelen «ikke skyv mennesker», ville en robot generelt unngå å skyve dem, men fremdeles være i stand til å skyve dem ut av veien for en fallende gjenstand. Mennesket kan fortsatt bli skadet, men mindre enn hvis ikke roboten presset dem.

I filmen I, Robot, basert på flere Asimov-historier, skaper roboter en undertrykkende tilstand som skal minimere den samlede skaden for mennesker ved å holde dem innesperret og » beskyttet ”. Men vårt prinsipp vil unngå et slikt scenario fordi det vil bety et tap av menneskelig empowerment.

Selv om empowerment gir en ny måte å tenke på sikker robotadferd, har vi fortsatt mye arbeid å gjøre for å øke effektiviteten slik at den enkelt kan distribueres på en hvilken som helst robot og oversettes til god og sikker oppførsel i alle henseender. Dette utgjør en veldig vanskelig utfordring. Men vi er overbevist om at empowerment kan føre oss mot en praktisk løsning på det pågående og svært omdiskuterte problemet med hvordan man kan tømme robotenes oppførsel, og hvordan man kan holde roboter – i den mest naive forstand – «» etiske «.

Denne artikkelen ble opprinnelig publisert på The Conversation. Les den opprinnelige artikkelen.