Noticias

Aug 22, 2023

Hinton contra Murdoch: una historia de dos IA

En Collision 2023, celebrada en Toronto a finales de junio, se habló mucho sobre la inteligencia artificial (IA) y más concretamente sobre el chatbot ChatGPT, pero nada ilustraba la situación actual.

En Collision 2023, celebrada en Toronto a finales de junio, hubo mucho debate sobre la inteligencia artificial (IA) y, más específicamente, el chatbot ChatGPT, pero nada ilustra mejor la situación actual que los discursos de apertura separados pronunciados por Colin Murdoch y el Dr. Geoffrey Hinton.

Murdoch, director comercial de Google DeepMind, una organización que Google lanzó en abril cuando DeepMind y el equipo Brain de la organización combinaron fuerzas, dijo que en los últimos seis meses el mundo ha tenido un "momento eureka" en lo que respecta a la IA.

"Para aquellos de ustedes que no lo saben, nuestra misión es hacer avanzar la ciencia y beneficiar a la humanidad", dijo. “Y cuando pensamos en algunos de los mayores desafíos del mundo, el cambio climático está a la altura. Es un enorme desafío global. Y tenemos que aprovechar toda la fuerza de la creatividad y la experiencia de la humanidad para ayudar a resolverlo, y creo que la IA puede desempeñar un papel realmente importante”.

Murdoch añadió que los investigadores de Google DeepMind están utilizando la IA para “ayudar a pronosticar el tiempo con mayor precisión y de manera más oportuna, para ayudar a las empresas y comunidades de todo el mundo a responder mejor a las condiciones climáticas más extremas y al impacto devastador que pueden tener”.

Según un blog de la empresa titulado Uso de la IA para luchar contra el cambio climático, “la infraestructura informática actual, incluida la propia IA, consume mucha energía. Para ayudar a resolver algunos de estos problemas, hemos estado desarrollando IA que puede mejorar los sistemas existentes, incluida la optimización de la refrigeración industrial y sistemas informáticos más eficientes.

“Dado que nuestras redes energéticas aún no funcionan con energía limpia, es importante que utilicemos nuestros recursos de la manera más eficiente posible mientras trabajamos en la transición a las energías renovables. Acelerar la transición global hacia fuentes de energía renovables también puede reducir en gran medida las emisiones de carbono”.

En su discurso de apertura, Murdoch dijo: “Sé que hay mayores avances en el horizonte y que su impacto será enorme. Pero es realmente importante que lo hagamos de una manera segura, ética e inclusiva y que construyamos un futuro positivo para todos”.

Mientras tanto, Hinton, que habló con Nick Thompson, director ejecutivo de Atlantic, frente a una audiencia abarrotada durante una sesión de preguntas y respuestas en el Center Stage del Enercare Centre, fue mucho menos positivo.

"Para enfatizar, estamos entrando en un período de enorme incertidumbre, nadie sabe realmente qué va a pasar", dijo. “Y las personas cuya opinión respeto tienen creencias muy diferentes a las mías.

“Yann LeCun cree que todo irá bien. Ellos (los chatbots de IA) simplemente nos ayudarán, todo será maravilloso. Pero creo que tenemos que tomar en serio la posibilidad de que, si llegan a ser más inteligentes que nosotros, lo que parece bastante probable, y tienen sus propios objetivos, lo que parece bastante probable, bien puedan desarrollar el objetivo de tomar el control. Y si hacen eso, estaremos en problemas”.

A Hinton, quien junto con Yoshua Bengio y LeCun, con sede en Montreal, son conocidos como los "padrinos de la IA" después de ganar el codiciado Premio Turing en 2018, y que renunció a su puesto en Google por preocupaciones sobre la IA, Thompson le preguntó lo siguiente: " Si un chatbot de IA ha sido construido por buenos humanos con buenos propósitos, ha sido entrenado con buenos libros y buenos textos, entonces tendrá una tendencia hacia el bien en el futuro. ¿Crees eso o no?

Hinton respondió que “la IA entrenada por gente buena tendrá un sesgo hacia el bien, la IA entrenada por gente mala como Putin o alguien así tendrá un sesgo hacia el mal. Sabemos que van a fabricar robots de batalla. Están ocupados haciéndolo en muchos departamentos de defensa diferentes. No serán necesariamente buenos, ya que su propósito principal será matar gente.

“Incluso si la IA no es súper inteligente, si los departamentos de defensa la usan para fabricar robots de batalla, será algo muy desagradable y aterrador. Y lo será, incluso si no es súper inteligente, e incluso si no tiene sus propias intenciones, simplemente hace lo que Putin le dice. Hará mucho más fácil, por ejemplo, que los países ricos invadan a los países pobres.

“En la actualidad existe una barrera para invadir países pobres, lo quiera o no, porque los ciudadanos muertos regresan a casa. En cambio, si son simplemente robots de batalla muertos, eso es genial, al complejo industrial militar le encantaría”.

Hinton añadió al final de la sesión que no tiene un plan sobre cómo hacer que la IA sea más buena que mala, pero sí dijo: "Creo que es fantástico que se esté desarrollando, porque no pudimos mencionar las enormes cifras". de buenos usos, como en medicina y cambio climático, etc. Creo que el progreso en la IA es inevitable y probablemente sea bueno, pero deberíamos preocuparnos seriamente por mitigar todos sus efectos secundarios negativos y preocuparnos por las amenazas existenciales”.

Nuestro experimentado equipo de periodistas y blogueros le ofrece interesantes entrevistas en profundidad, vídeos y contenido dirigido a profesionales de TI y ejecutivos de líneas de negocio.