Cómo el nuevo centro de UC Berkeley podría prevenir una A.I. Apocalipsis

La Universidad de California Berkeley acaba de agregar su nombre a una creciente lista de instituciones acreditadas que trabajan para evitar que la inteligencia artificial malévola destruya a la humanidad. Su nuevo Centro de Inteligencia Artificial Compatible con Humanos, anunciado el lunes, está destinado a garantizar que A.I. sigue siendo beneficioso, y también para excluir un A.I. apocalipsis.

El propio A.I. de Berkeley. experto, el profesor Stuart Russell, está liderando la empresa. El proyecto Open Philanthropy Project otorgó una subvención de $ 5.5 millones al Centro, y otros también contribuyeron. Varios otros expertos de Berkeley, la Universidad de Cornell y la Universidad de Michigan servirán como investigadores co-principales.

Cornell, el profesor Bart Selman dijo Inverso sobre el Centro, A.I.s que nosotros debería miedo, y por qué el mundo probablemente no se vaya al infierno en una bolsa de mano, todavía.

¿Qué esperas lograr con el Centro para A.I.?

Estos centros son un desarrollo relativamente nuevo. La gente hace inversiones: el Instituto de Futuro de la Vida, por ejemplo, tiene una inversión de Elon Musk, de Tesla, para tratar las cuestiones relacionadas con el futuro de la vida y las posibles amenazas para el futuro de la vida y la sociedad. El nuevo centro en Berkeley es otro ejemplo de tal instituto.

Está inspirado por el rol cambiante de la inteligencia artificial y la computación en nuestra sociedad. Estas tecnologías se están moviendo en nuestra sociedad y tendrán un efecto en nosotros. Estos institutos están ahí para reunir a los investigadores para estudiar los posibles impactos negativos, o cómo asegurarse de que no haya impactos negativos.

El propio título del Centro sugiere que A.I. Y la humanidad es inherentemente incompatible. ¿Es esa tu opinión?

Esa es la primera reacción que tiene la gente, que estas cosas podrían ser incompatibles. Realmente creemos que, con las precauciones adecuadas y las pautas e investigaciones adecuadas, podemos realmente alinear los intereses y asegurarnos de que estas tecnologías sean beneficiosas. AI. La tecnología tiene tremendos aspectos positivos, y el objetivo de la sociedad es garantizar que permanezcamos en los aspectos positivos. Los investigadores involucrados en el instituto creen que es factible.

Si pudiera adoptar una perspectiva de juicio final, ¿cuál sería el escenario del juicio final más probable inducido por el A.I.

Un riesgo claro sería un desarrollo militar de la inteligencia artificial, que podría conducir a una carrera de armas entre países: armas autónomas, drones autónomos que siguen sus propios comandos, desarrollados por diferentes países que son hostiles entre sí. Ese es el riesgo más concreto que veo. Creo que A.I. Desarrollado para autos de auto manejo, por ejemplo, para roles regulares en la sociedad, será muy beneficioso. Pero el aspecto militar es un componente preocupante.

¿Ya es una batalla cuesta arriba?

Los países en realidad están considerando este tema. En cierto sentido, es una batalla cuesta arriba: el ejército está avanzando para desarrollar A.I. tecnología. Pero, ha habido acuerdos, por ejemplo, las armas biológicas es probablemente el caso más conocido, donde los países en algún momento decidieron que beneficiaría a todos los países. no Para desarrollar armas biológicas a gran escala. Esperamos que los países se den cuenta de que la desventaja, para todos, es demasiado grande como para ser una gran sorpresa. carrera de armamentos.

Si ambas partes desarrollan esta tecnología, nadie está por delante.

¿Hay algo más que deba saber sobre el Centro o sobre el maléfico A.I. ¿en general?

Es importante dar el lado positivo. Es fácil enfatizar los riesgos y, por supuesto, eso es en parte la razón por la que se establecieron estos centros, pero también es importante señalar que muchos investigadores creen que este riesgo es manejable y que los beneficios serán tremendos.

Ya le diste la perspectiva del día del juicio final. ¿Cuáles son algunos usos positivos potenciales de A.I. de que estas realmente emocionado?

Los aspectos positivos serán una sociedad en la que nos ayude esta tecnología. Traducciones simultáneas de habla, por ejemplo, entre chino e inglés, donde las personas solo pueden conversar, como si estuvieran hablando un idioma nativo, en todo el mundo. Atención a personas mayores: las personas pueden quedarse todo el tiempo que deseen en su hogar, ya que cuentan con un robot auxiliar que les ayuda a vivir de forma independiente.

Esto probablemente tendrá un impacto bastante dramático en la vida en general, en lo que respecta al empleo y lo que priorizamos.

Sí. Ahí está el debate sobre el empleo, que es una especie de debate separado. Habrá recursos suficientes para apoyar a todos, por lo que está el problema de cómo nos aseguramos de que todos se beneficien de estos desarrollos. Habrá una re-realización de lo que significa trabajar, qué tipo de trabajo hará la gente. Pero en principio, las personas tendrán más libertad y más tiempo para hacer las actividades que disfrutan, porque las máquinas ayudarán con muchas otras más mundanas. trabajo -tipo de cosas. Tomará algún tiempo, pero creemos que la sociedad se adaptará e incorporará lentamente estos cambios.

Esta entrevista ha sido editada para mayor claridad y brevedad.