Geoffrey Hinton, uno de los dos galardonados con el Nobel de Física 2024 por sus descubrimientos en aprendizaje automático, ha lanzado un dardo contra Sam Altman, CEO de OpenAI, en su primera comparecencia tras recibir el premio.
"Estoy particularmente orgulloso de que uno de mis estudiantes despidiera a Sam Altman. Y creo que es mejor dejarlo ahí", dijo Hinton en referencia a Ilya Sutskever, quien completó su doctorado bajo su supervisión en la Universidad de Toronto.
Hinton y Sutskever colaboraron en 2012 para crear AlexNet, una red entonces revolucionaria en el reconocimiento de imágenes.
Por qué es importante. Estas declaraciones vuelven a poner sobre la mesa la gran división en la comunidad de IA sobre el enfoque de los desarrollos y las prioridades éticas.
- Hinton critica el giro de OpenAI, abandonando el altruismo en favor de la rentabilidad, bajo el liderazgo de Altman.
- Ese giro también implica una pérdida de relevancia para la seguridad, que es lo que el Nobel quiere priorizar sobre el desarrollo acelerado.
Qué ha ocurrido. El Nobel de Física que ha ganado Hinton llega poco antes del primer aniversario de la crisis de OpenAI y del segundo aniversario de la llegada de ChatGPT.
Sutskever, como miembro de la junta directiva de OpenAI, participó en la destitución de Altman, aunque luego se arrepintió y pidió su reincorporación. Acabó saliendo de la empresa en mayo para crear la suya propia, SSI (Safe SuperIntelligence).
Entre líneas. Esta crítica es una condensación de una preocupación creciente entre la comunidad tras el desarrollo de la IA: la de estar desarrollando sistemas cada vez más avanzados que implican riesgos potenciales mayores.
Sin embargo, cada vez es más difícil de predecir y controlar los resultados de esos modelos de IA cada vez más avanzados.
En Xataka | OpenAI perderá 44.000 millones de dólares hasta 2028 según The Information. Luego llegará la rentabilidad
Imagen destacada | Collision Conf en Flickr
Ver 12 comentarios