Un reconocimiento para el desarrollo científico básico que permite la existencia de Inteligencia Artificial a la vez que un llamado a estar atentos a las posibles consecuencias sociales de su uso: el Premio Nobel de Física de 2024 resulta ambas cosas simultáneamente. Los galardonados, John Hopfield (de la Universidad de Princeton, Estados Unidos) y Geoffrey Hinton (de la Universidad de Toronto, Canadá) fueron partícipes hace décadas de la revolución de las redes que permiten que las máquinas aprendan, pero a la vez se han mostrado entre preocupados y consternados por las consecuencias que podría tener su uso fuera de ciertos carriles.
Comité del Premio Nobel de Física
“El trabajo de los galardonados ya ha sido de gran utilidad. En física, utilizamos redes neuronales artificiales en una amplia gama de áreas, como por ejemplo en el desarrollo de nuevos materiales con propiedades específicas”, dijo Ellen Moons, presidenta del Comité Nobel de Física, al justificar el premio dado este mediodía de Estocolmo, que repartirá 11 millones de coronas suecas en partes iguales (alrededor de un millón de dólares).
La Academia sueca decidió que 2024 recayera en esos investigadores “que usaron herramientas de la física para desarrollar métodos que son la base de las hoy poderosas herramientas de machine learning”. Y agrega que John Hopfield -nacido en Chicago, en 1933- creó una memoria asociativa que puede contener y reconstruir imágenes y otros tipos de patrones en los datos, mientras que Geoffrey Hinton -Londres, 1947- inventó un método que puede hallar de manera autónoma propiedades en los datos y así realizar tareas tales como identificar elementos en una pintura o fotografía.
Pero son resultados que pueden irse de las manos. El propio Hinton, pocos minutos después de enterarse del premio, dijo vía telefónica en la conferencia de prensa del anuncio que se arrepiente un poco de su trabajo porque le “preocupan las consecuencias del desarrollo y que las cosas se vayan fuera de control”, aunque señaló que igualmente volvería a dedicarse a aquel trabajo pionero.
John Hopfield y Geoffrey Hinton aparecen en la pantalla en la conferencia de prensa en la que se anuncia que han ganado el Nobel de Física
Christine Olsson – TT News Agency
Acto seguido remarcó las utilidades de la IA, aun con sus peligros, en un vaivén algo paradójico: “Hay grandes mejoras productivas y puede ser algo maravilloso para la medicina, por ejemplo”, dijo.
“Así como la revolución industrial supuso un aumento de la fuerza humana, la revolución de la IA es un aumento de las capacidades cerebrales”, describió Hinton, usuario del Chat GPT, según admitió. Hinton, en su dilema, incluso renunció a Google por el uso poco ético que hacía la compañía de su herramienta de IA, según dijo, y para poder hablar con libertad de sus posibles efectos.
En tanto que Hopfield es uno de los firmantes (junto con celebridades como Elon Musk, Yuval Harari y Steve Wozniak de Apple) de una carta abierta con más de 1.000 expertos que piden tener cuidado en el uso de estas herramientas y generar una pausa en su desarrollo. “Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad. La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo”, decía esa misiva de marzo de 2023, tras la explosión del uso del Chat GPT.
Básico
Los trabajos premiados por el Comité Nobel mezclan elementos diversos de la física, la biología y la computación, por lo que desde el mismo momento en que se dio a conocer generó un módico revuelo respecto de si era apropiado que entrara en la categoría de física. Lo cierto es que el comité sueco suele permitirse el cruce de fronteras disciplinarias sin sonrojarse. En este caso explicó que “cuando se habla de inteligencia artificial a menudo en realidad se refiere a machine learning a través de redes neuronales artificiales”, tecnología inspirada en la estructura del cerebro.
“En una red neuronal artificial, las neuronas son representadas por nodos que tienen diferentes valores y que se influyen mutuamente a través de conexiones similares a la sinapsis”, agrega el documento de los académicos suecos. Las redes son entrenadas a través de conexiones que se hacen más fuertes en determinados nodos y el desarrollo de ese trabajo desde 1980 recibió el Premio Nobel de Física.
Los Nobel de Física 2024
Redes sociales
“Si uno mira en general los Nobel son para avances específicos en problemas tradicionales, por eso un poco me sorprende la decisión de este año, aunque es perfecta desde la calidad de los investigadores”, dijo Enzo Tagliazucchi, investigador del Instituto de Física Interdisciplinaria y aplicada del Conicet y profesor de la UBA.
“Hopfield desarrolló lo que se conocerían como redes de Hopfield, uno de los primeros ejemplos de redes neuronales; es realmente muy pionero. Son redes de memorias asociativas que con un estímulo apropiado se pueden recuperar. Él mostró que hay estados del sistema que atraen esos resultados”, dijo, y agregó que lo de Hopfield fue algo más teórico que tecnológico.
“Al contrario que Hinton, quien participó en la construcción de redes de muchas capas, conocidas como deep learning, y de distintos trabajos para entrenar algoritmos, hoy muy usados”, agregó Tagliazucchi.
Respecto de la polémica por los usos de la IA en la actualidad, el investigador dijo que hay dos niveles de rechazo: “Por un lado las personas que hablan de apocalipsis, eso es exagerado y poco fundamentado. Pero lo que sí puede ocurrir es que la implementación masiva tenga consecuencias nocivas y nuestras vidas estén sujetas a decisiones de la IA que no tengan explicación y se aumenten los sesgos raciales o de clase; problemas bien concretos que ya ocurren”, concluyó.
“Son dos referentes absolutos, el premio es muy justo”, dijo por su parte a LA NACION Diego Fernández Szlezak, investigador del Conicet en el Departamento de Computación de la UBA.
“Hinton en particular fue quien sostuvo la investigación en redes neuronales cuando habían un poco caído en el olvido por la falta de resultados en los años de 1980. Siempre buscó ver cómo funciona el cerebro para trasladar eso a una máquina”, agregó.
Tanto Hopfield como Hinton buscaron la inspiración en la biología y la física para crear los modelos matemáticos de las redes neuronales en computadoras, con la intención de ver cómo procesan la información para copiarlo. Respecto de los miedos al mal uso de la IA, Fernández Szlezak lo comparó con la carrera por la bomba atómica o cualquier otra tecnología superpotente que los países quieren dominar, solo que ahora mucho más rápido.