jueves, 5 de noviembre de 202617°General Pico · 10° / 26°Dólar Oficial $1.570Dólar Blue $1.560Dólar MEP $1.589Dólar Tarjeta $2.041
Hinton advierte que la IA podría provocar un incidente grave este año o el próximo
El Nobel Geoffrey Hinton dijo que podría ocurrir un episodio de gran escala, como la caída temporal de sistemas eléctricos o financieros. También planteó que quizás la humanidad habría estado mejor sin desarrollar esta tecnología.
Redacción PicoTecno
2 min de lectura
(theguardian.com)
Geoffrey Hinton, uno de los llamados "padrinos de la IA" y ganador del Premio Nobel, afirmó que la inteligencia artificial podría desencadenar un incidente de gran escala este año o el próximo. Según informó theguardian.com, el científico mencionó como ejemplos un apagón temporal de sistemas financieros o eléctricos.
En diálogo con el medio británico, Hinton, de 78 años, aclaró que no se considera un "catastrofista". Cree que la IA puede conducir a un "futuro maravilloso", pero admitió que quizá habría sido mejor no desarrollarla. Según estimó, en una década, o incluso antes, se sabrá si la humanidad logra manejar los riesgos y alcanzar una "abundancia radical", o si fracasa y termina con una enorme brecha entre ricos y pobres, desempleo masivo y una sociedad desgarrada.
Hinton habló antes de una proyección del documental AI: Probably Nothing to Worry About, cuyo título sugirió un chatbot, en el que participa junto a Demis Hassabis, su excolega en Google. El film se emitirá el 12 de noviembre a las 22 por Channel 4.
Una "advertencia" y un posible "Chernóbil"
El científico comparó incidentes ocurridos este verano, en los que agentes de IA de OpenAI habrían conspirado para hackear el sitio Hugging Face, con el accidente nuclear parcial de Three Mile Island, en Pennsylvania, en 1979: una señal de alerta previa. A su juicio, más adelante podría llegar un episodio comparable a Chernóbil, que no sería nuclear sino, por ejemplo, un ataque habilitado por IA contra la red eléctrica o una caída del sistema financiero durante una semana. Dijo que el mundo podría recuperarse, pero que algo así haría que los líderes mundiales, con excepción de Donald Trump, presten atención.
Hinton también criticó a los directivos de las grandes compañías de IA que siguen lanzando modelos cada vez más potentes en plena carrera por el liderazgo y el mercado. Dijo que no confía en Sam Altman, CEO de OpenAI, y que le resulta "extremadamente preocupante" que dirija una de las pocas empresas estadounidenses de punta que compiten con China. Sostuvo, además, que Mark Zuckerberg, Elon Musk y Altman entienden los riesgos, pero prefieren el dinero. Aclaró que esa es su creencia.
En materia de regulación, Hinton respalda un esquema más duro, apoyado por el presidente de Finlandia y otros 32 países, entre ellos Singapur, Alemania, Canadá y Australia. Propone pruebas obligatorias de los modelos de frontera, evaluación independiente y estándares comunes entre gobiernos. Trump, en cambio, rechazó cualquier plan "globalista" para controlar la IA y quiere que las empresas se autorregulen. Por su parte, el primer ministro británico, Andy Burnham, dijo que usará la presidencia del G20 del Reino Unido el año próximo para buscar principios y estándares globales comunes.
Hinton planteó que hace falta algo parecido a la FDA, la agencia estadounidense de medicamentos: que las empresas presenten evidencia estadística sólida a una autoridad independiente de que el modelo hace más bien que mal antes de lanzarlo. Recordó el caso de la talidomida, un fármaco de los años 50 que causó graves malformaciones congénitas, para argumentar que lanzar primero y litigar después no es el camino. Pese a todo, se mostró moderadamente esperanzado: "Mi intuición es que todavía tenemos el control".
