Men for at holde folk i sikkerhed skal robotterne prøve at opretholde eller forbedre menneskelig empowerment såvel som deres egen. Dette betyder i det væsentlige at være beskyttende og støttende. Åbning af en låst dør for nogen ville øge deres empowerment. At holde dem tilbage ville resultere i et kortvarigt tab af empowerment. Og at skade dem væsentligt kunne fjerne deres På samme tid skal robotten forsøge at opretholde sin egen empowerment, for eksempel ved at sikre, at den har nok strøm til at fungere, og at den ikke sidder fast eller beskadiges.

Robotter kan tilpasse sig nye situationer

Brug af dette generelle princip snarere end foruddefinerede regler for adfærd gør det muligt for robotten at tage hensyn til sammenhæng og evaluere scenarier, som ingen tidligere har planlagt. For eksempel i stedet for altid at følge reglen “ikke skubbe mennesker”, ville en robot generelt undgå at skubbe dem, men stadig være i stand til at skubbe dem ud af vejen for en faldende genstand. Mennesket kan stadig blive skadet, men mindre end hvis robotten ikke skubbede dem.

I filmen I, Robot, der er baseret på flere Asimov-historier, skaber robotter en undertrykkende tilstand, der formodes at minimere den samlede skade for mennesker ved at holde dem begrænset og ” beskyttet ”. Men vores princip ville undgå et sådant scenario, fordi det ville betyde et tab af menneskelig empowerment.

Mens empowerment giver en ny måde at tænke på sikker robotadfærd, har vi stadig meget arbejde at gøre med at opskalere effektiviteten så den let kan implementeres på enhver robot og oversættes til god og sikker opførsel i alle henseender. Dette udgør en meget vanskelig udfordring. Men vi er overbevist om, at empowerment kan føre os til en praktisk løsning på det igangværende og stærkt debatterede problem med, hvordan man styrer robottes adfærd, og hvordan man holder robotter – i den mest naive forstand – “” etiske “.

Denne artikel blev oprindeligt udgivet på The Conversation. Læs den originale artikel.