Mais pour assurer la sécurité des personnes, les robots doivent essayer de maintenir ou améliorer l’autonomisation humaine ainsi que la leur. Cela signifie essentiellement être protecteur et solidaire. Ouvrir une porte verrouillée à quelqu’un augmenterait son autonomisation. Les restreindre entraînerait une perte d’autonomisation à court terme. Dans le même temps, le robot doit essayer de maintenir sa propre autonomisation, par exemple en s’assurant qu’il a assez de puissance pour fonctionner et qu’il ne reste pas coincé ou endommagé.

Les robots pourraient s’adapter à de nouvelles situations

Utiliser ce principe général plutôt que des règles de comportement prédéfinies permettrait au robot de prendre en compte les Le contexte et évaluer les scénarios que personne n’a envisagés auparavant. Par exemple, au lieu de toujours suivre la règle «ne poussez pas les humains», un robot évite généralement de les pousser mais peut tout de même les pousser hors du chemin d’un objet qui tombe. si le robot ne les a pas poussés.

Dans le film I, Robot, basé sur plusieurs histoires d’Asimov, les robots créent un état oppressif qui est censé minimiser les dommages globaux causés aux humains en les gardant confinés et  » protégé ». Mais notre principe éviterait un tel scénario car cela signifierait une perte d’autonomisation humaine.

Bien que l’autonomisation offre une nouvelle façon de penser au comportement sécuritaire des robots, nous avons encore beaucoup de travail à faire pour augmenter son efficacité il peut donc être facilement déployé sur n’importe quel robot et se traduire par un comportement correct et sûr à tous égards. Cela pose un défi très difficile. Mais nous croyons fermement que l’autonomisation peut nous conduire vers une solution pratique au problème actuel et très débattu de savoir comment maîtriser le comportement des robots et comment garder les robots – au sens le plus naïf – «éthique».

Cet article a été initialement publié sur The Conversation. Lisez l’article original.