"Haríamos un robot que no se dejara abusar"

Jonathan Nolan y Lisa Joy, los creadores de HBO Mundo occidental, estamos haciendo el mundo real un servicio. Están haciendo que la sociedad aborde la cuestión de cómo tratar la inteligencia artificial. Específicamente, Nolan y Joy están incitando a hablar de consentimiento del robot. Es una discusión que los gestores de dinero ficticio del parque de atracciones Westworld evidentemente nunca tuvieron.

Pero en Hanson Robotics, la firma con sede en Hong Kong que afirma desarrollar "los robots más humanos del mundo", Stephan Bugaj y su equipo conocen estas conversaciones emergentes como la espalda de sus manos, o como la piel falsa realista - "Frubber" - En las caras de sus robots. Bugaj es vicepresidente de creatividad en Hanson y supervisa el diseño de la personalidad de Android.

Le dice Inverso el ha estado disfrutando Mundo occidental Hasta ahora, pero, como era de esperar, se alía con los anfitriones robóticos y artificialmente inteligentes de la serie. Tal vez piense en Hanson Robotics como el competidor inofensivo de la compañía ficticia que dirige el hedonista Westworld. Hanson es la biblioteca pública del club de striptease de Westworld.

Los ingenieros de Hanson actúan como si fueran los padres literales de los androides que crean. "La gente tiene que darse cuenta de que uno de los mensajes de Mundo occidental es 'cosechas lo que siembras' ", dice Bugaj. “La ética y la moral que le enseñas a una entidad es lo que aprende. Y luego pagas esos dividendos.

"Depende de usted elegir qué tipo de código moral y ético le está dando a un robot, a un niño, a su perro, o lo que sea".

“ Si creas esta raza de esclavos y los brutales, ¿qué quiere hacer un esclavo brutalizado? Salir, y posiblemente buscar venganza. ”

Hasta ahora, en el programa, parece que Dolores Abernathy, una de las anfitrionas del parque y Mundo occidental El personaje central - puede descubrir y luego salir de su jaula metafísica. (Bugaj: "¿No querrías salir de una jaula si alguien te tuviera en una? Si alguien me tuviera como a una esclava sexual, seguramente estaría tratando de escapar".) Dolores no pretende para dañar a los humanos, pero si ella debe hacerlo, incidentalmente, debe hacerlo. "Su objetivo es salvarse a sí misma".

Solo si los programadores dirigidos por el Dr. Ford de Anthony Hopkins hubieran hecho posible que Dolores renunciara.

Hanson Robotics espera hacer robots que puedan renunciar, si se trata de eso.

"Haríamos un robot que ama a la humanidad, y tiene un código moral y ético positivo, pero que no necesariamente se permitiría ser objeto de abuso", explica Bugaj. Dijeron que harían un Dolores, pero dejarían de lado a la Skynet: despedirían al Dr. Ford y quizás también a Bernard Lowe, y ambos (parece que ahora) perpetúan las injusticias. Teniendo en cuenta el comportamiento psicótico de los visitantes, los anfitriones de Westworld sin duda renunciarían, pero no parecen ser muy irreflexivos. Los ensueños de los anfitriones, sin embargo, eventualmente obtendrán lo mejor de Ford y Lowe.

Algunos robots de hoy, explica Bugaj, ya tienen formas primitivas de consentimiento: las "Tres leyes de la robótica" de Isaac Asimov son uno de esos ejemplos, e incluso los sistemas a prueba de fallos "son una especie de enfoque de protoaceptamiento, o al menos un hecho. -realmente malvado- ese enfoque ". (Dolores, si ella logra salir de Westworld, probablemente tendrá que romper las tres reglas de Asimov).

Pero Hanson va más allá de esos niveles rudimentarios. Bugaj dice que están brindando a sus robots sistemas de objetivos integrales, repletos de objetivos internos y creencias internas, y "sistemas de refuerzo para lo que creen, cómo tratarlos, cómo responden". Eventualmente, construirán AIs que sean "capaces de" considere cómo se sienten cuando toman decisiones, y si quieren o no hacer lo que quieren que hagan, o hacerles lo que quieren hacer ". El primer paso es construir códigos morales y éticos sólidos, y Personalidades fuertes, sobre las cuales descansan estos juicios. Al igual que el proceso de criar responsablemente a un niño.

El problema ahora es que la mayoría de los robots tienen género, por lo que pueden ser objetos de atracción. Eso es poco probable que cambie. Robots neutrales al género en Mundo occidental Sería antitético al tema del parque: libertinaje. Pero los especialistas concienzudos de Hanson, a pesar de hacer robots de género, se resisten lo más posible a los estereotipos de género.

"No estamos tratando de hacer un fembot con Sophia", explica Bugaj. "Definitivamente no estamos tratando de hacer un sexbot, pero tampoco estamos tratando de hacer que la jugadora ideal del hombre de la década de 1950, cocine y limpie, se ría de todas sus bromas y le diga que es brillante". Estamos tratando de hacer un personaje femenino fuerte que tenga posiciones propias y perspectivas propias, que piense en cosas como lo que significa para ella ser un androide y también el mundo humano y por qué nos tratamos mutuamente la forma en que lo hacemos ".

Hanson quiere que sus robots sean un día los impulsores de discusiones significativas, si no los moderadores. Mundo occidental Sucede que surgen preguntas que Bugaj espera que comencemos a preguntarnos, por ejemplo: "¿Cómo podemos esperar que los androides y los robots traten bien a los humanos si no lo hacemos nosotros mismos? y, ¿no deberíamos liderar con el ejemplo?"

Él y su equipo están haciendo los robots del futuro, y trabajarán para asegurar que estos robots sean tridimensionales, que se preocupen por las cosas que importan, tengan perspectivas sobre ellos y, a veces, sean un desafío para las personas. No solo obediente. Pero no de una manera agresiva.

"Obtienes el mundo que creas", dice Bugaj.