Industria

Robot que elige infligir dolor desata un debate sobre los sistemas de inteligencia artificial

Robot que elige infligir dolor desata un debate sobre los sistemas de inteligencia artificial

Un robot construido por el especialista en robótica Alexander Reben de la Universidad de Berkeley, California, tiene la capacidad de decidir mediante IA si infligir dolor o no.

El robot tiene como objetivo provocar un debate sobre si un sistema de IA puede salirse de control, que recuerda al terminador. El diseño del robot es increíblemente simple, diseñado para cumplir un solo propósito; para decidir si infligir dolor o no. El robot fue diseñado por Alexander Reben de la Universidad de Berkeley y se publicó en una revista científica con el objetivo de iniciar un debate sobre si los robots inteligentes artificiales pueden salirse de control si se les da la oportunidad.

"La verdadera preocupación acerca de la IA es que se sale de control",

él dijo.

"[Los gigantes de la tecnología] están diciendo que está muy lejos, pero pensemos en ello ahora antes de que sea demasiado tarde. Estoy demostrando que [los robots dañinos] pueden existir ahora. Es absolutamente necesario enfrentarlo".

Reben está explorando la posibilidad muy real de que un robot programado con un algoritmo que aprende de la experiencia y la interacción humana pueda detectar los rasgos negativos impuestos por algunos humanos, presentando una caída potencial de los sistemas de IA que podrían volverse peligrosos.

En la práctica, cuando se coloca un dedo cerca del robot, tiene el potencial de pinchar un dedo y extraer sangre. Reben explica que realmente no tiene idea de cuándo atacará el robot.

"El robot toma una decisión que yo, como creador, no puedo predecir",

él dijo,

"No sé a quién le hará daño o a quién no. Es intrigante, causa dolor que no tiene un propósito útil; nos estamos moviendo hacia una cuestión de ética, robots que están específicamente diseñados para hacer cosas que son éticamente dudosas".

La máquina cuesta aproximadamente 200 dólares y no estará disponible para la venta minorista. Su objetivo principal es explorar la filosofía de tres leyes robóticas propuestas por Isaac Asimov en 1942, la primera de las cuales, ser un robot, no puede dañar a un humano. Seguir la investigación de Reben lo llevó a concluir que un "interruptor de interrupción" de IA similar al que están desarrollando actualmente los ingenieros de la división de inteligencia artificial de Google, DeepMind y la Universidad de Oxford, podría llegar a ser increíblemente importante en un futuro cercano.

El robot de Reben pinchando un dedo[Fuente de imagen: Alexander Reben]

La principal preocupación es asegurar que el algoritmo de un robot esté diseñado de tal manera que no pueda anular el interruptor de apagado para evitar que se apague, un escenario increíblemente peligroso. Aunque los robots actuales están diseñados para un propósito práctico, a medida que adquieren más inteligencia y algoritmos de aprendizaje más parecidos a los humanos, será imperativo garantizar que existan medidas de seguridad significativas para evitar que un robot se convierta en un terminador, pinchando su dedo, o peor aún.

VEA TAMBIÉN: La inteligencia artificial debe estar protegida por los derechos humanos

Escrito por Maverick Baker

Ver el vídeo: Artificial intelligence and its ethics. DW Documentary (Octubre 2020).