OpenAI de Elon Musk puede ser un músculo para la investigación segura de inteligencia artificial

Durante el fin de semana, Elon Musk, Sam Altman y otras grandes empresas de Silicon Valley anunciaron inesperadamente el lanzamiento de OpenAI, una compañía sin fines de lucro que describe su objetivo como: "avanzar en la inteligencia digital de la manera más probable de beneficiar a la humanidad en general". sin restricciones por la necesidad de generar rentabilidad financiera ".

“Dado que nuestra investigación está libre de obligaciones financieras, podemos enfocarnos mejor en un impacto humano positivo. Creemos en A.I. "debería ser una extensión de las voluntades humanas individuales y, en el espíritu de libertad, lo más amplia y uniformemente distribuida posible".

Hay dos puntos principales de este anuncio. La primera es que Musk y compañía ven a A.I. en este momento, la investigación se enfoca demasiado en el logro de un valor práctico a corto plazo, y quieren ayudar a impulsar los esfuerzos que están adoptando un enfoque más amplio e integral para el desarrollo de la IA. sistemas El segundo punto, más velado, es que Musk todavía está preocupado por el potencial de A.I. de hacer daño si desarrollamos e introducimos sistemas a medio hornear. Musk ha llamado previamente A.I. “Nuestra mayor amenaza existencial” y sugirió que la supervisión regulatoria podría ser necesaria para prevenir peligros potenciales. OpenAI podría ser una forma de proporcionar esa supervisión sin la necesidad de un perro guardián federal.

¿Qué están haciendo Musk y sus colegas que es diferente de lo que otros han hecho? Después de todo, el código abierto A.I. no es nada nuevo Google hizo su propia A.I. Software de código abierto el mes pasado y este se ha convertido en un procedimiento bastante estándar. Pero con una dotación de $ 1 mil millones, OpenAI ya es una de las organizaciones más grandes que trabajan en A.I. Investigación, y con bastante facilidad la mayor sin fines de lucro. Su objetivo es hacer que sus resultados estén disponibles públicamente y que todas sus patentes estén libres de regalías. Tienen una zanahoria y un palo y pretenden usarla para dirigir una industria.

La idea es usar OpenAI como un tipo de contrapeso para corporaciones más grandes, laboratorios de investigación privados e incluso gobiernos mundiales que tienen cantidades increíbles de dinero y recursos para verter en su propia A.I. Investigaciones que pueden no estar dedicadas a propósitos amistosos y, en cambio, podrían conducir a tecnologías con aplicaciones infames. Los investigadores que trabajan con OpenAI básicamente perseguirán una "I" amigable, sin la presión de mostrar resultados inmediatos. Puede haber una mayor consideración de las características de seguridad y diseño que las empresas privadas podrían estar inclinadas a ignorar. No habrá una torre blanca donde solo unos pocos selectos controlen el camino de A.I. desarrollo. Será un mundo bienvenido para todos.

En una entrevista con Backchannel, Musk también enfatiza el deseo de hacer una gran variedad de A.I. sistemas "Queremos A.I. para ser generalizado ", dice. "Creemos que probablemente muchos son buenos".

Eso es importante, ya que tal vez sea la razón principal por la que Musk y Altman quieren democratizar a A.I. Ellos creen que el mejor tipo de A.I. - el tipo que beneficiará a la humanidad de manera positiva sin crear amos de robots - es el tipo que actúa como "una extensión de la voluntad humana individual", como lo dice Musk. Él continúa diciendo:

"Como en un A.I. extensión de uno mismo, de modo que cada persona es esencialmente simbiótica con la IA en lugar de que la IA sea una gran inteligencia central que es una especie de otra. Si piensa en cómo usa, digamos, las aplicaciones en Internet, tiene su correo electrónico y tiene las redes sociales y las aplicaciones en sus teléfonos: efectivamente lo hacen sobrehumano y no los considera como siendo otro, piensas que son una extensión de ti mismo. Entonces, en la medida en que podamos guiar a la IA en esa dirección, queremos hacerlo. Y hemos encontrado una serie de ingenieros e investigadores de ideas afines en el campo de la IA que se sienten de manera similar ".

Básicamente, la visión de OpenAI para A.I. la investigación es una comunidad descentralizada que ayuda a conectar a los seres humanos entre sí y con el mundo mismo.

Musk aún no ha descrito cómo evitarían que la investigación dentro de la propia OpenAI, o reutilizada por grupos externos, vaya en una dirección peligrosa. Y hay algo más que vale la pena mencionar aquí: los sistemas de código abierto solo tienen sentido si los datos utilizados para construir algoritmos de aprendizaje automático se comparten libremente. Un sistema inteligente tiene que aprender cómo ser inteligente, y para ello, necesita aprender de los datos y la experiencia. Es como construir una presa: necesitas tanto los planos (el algoritmo) como los materiales de construcción (los datos) para hacer algo que detenga el agua.

Es por eso que las personas todavía están limitadas en lo que pueden hacer con el TensorFlow de Google, aún no tienen los datos que tiene Google. Y a menos que las colaboraciones creadas con OpenAI permitan el acceso gratuito a los mismos datos con los que trabajan los investigadores internos, la visión de Musk no se realizará necesariamente, o al menos no de la forma en que lo está promoviendo.

Musk, Altman y los otros fundadores de OpenAI han comenzado algo que tendrá una influencia tremenda en el crecimiento de A.I. de aqui en adelante. Al mismo tiempo, tendrán que ser francos en su compromiso de fomentar una comunidad de investigación de código abierto, lo que significa ser públicos acerca de sus planes para la empresa sin fines de lucro y estar dispuestos a compartir datos. De lo contrario, OpenAI no será muy diferente de las compañías de rebaños para las que fue diseñado.