Socher, fundador de una empresa de IA, aboga en Dresde por tener más valor para el cambio
Dresde. Siete días libres este año, cinco de ellos para volar en parapente y dos para el nacimiento de su hijo. Así describió Richard Socher el lunes su carga de trabajo en la conferencia «Brains on Silicon» celebrada en Dresde. El nacido en Dresde y fundador de la empresa de búsqueda basada en IA You.com y de la start-up Recursive, acompañó esta afirmación con un mensaje que también dirigió a Alemania: La inteligencia artificial podrá realizar casi cualquier trabajo intelectual mejor que el ser humano en las próximas décadas, y quien quiera participar en su desarrollo no debe temer el cambio.
Socher habló, en una conversación con Jakob von Lindern, jefe de la sección digital de ZEIT, sobre la IA que se mejora a sí misma, sobre el debate actual en materia de seguridad y sobre cómo deberían ser la escuela y los estudios universitarios si los programas asumen tareas que hasta ahora realizaban las personas.
IA que se mejora a sí misma: los planes de Recursive
Según la explicación de Socher, Recursive está desarrollando una IA diseñada para mejorarse a sí misma. La empresa ha recaudado 650 millones de dólares y está valorada en unos 4.650 millones de dólares. Socher la fundó junto con siete cofundadores, entre los que se encuentran investigadores de Google DeepMind, OpenAI y Meta. El núcleo de la idea es el método científico: una IA genera nuevas ideas, las plasma en código de programa y comprueba los resultados mediante experimentos. Estos tres pasos —ideas, implementación y comprobación— ya pueden automatizarse. Si se hace que una IA se enfrente a sus propias debilidades, esta se mejora a sí misma.
La diferencia con respecto a las empresas de IA más antiguas radica en la estructura, afirmó Socher. Quienes comenzaron hace años diseñaron sus procesos partiendo de la base de que cuantos más investigadores, más investigación se realizaba. Recursive apostó por los agentes desde el principio. También en You.com está impulsando este cambio y piensa menos en el número de empleados que en la potencia de cálculo disponible.
La IA y el miedo a la pérdida de control
En las últimas semanas, el debate sobre una posible pérdida de control ha cobrado intensidad. Algunos expertos ven precisamente en la superación de sí misma de la IA un riesgo que debe frenarse. Socher considera errónea esta exageración apocalíptica. No existe un escenario realista en el que la IA aniquile a la humanidad, afirmó. En muchos escenarios apocalípticos, los atacantes tendrían capacidades casi mágicas, mientras que los defensores se quedarían de brazos cruzados. De hecho, empresas como Microsoft utilizan esa misma IA para atacar sus propios sistemas y detectar vulnerabilidades.
Socher reconoció que existen problemas reales. Los agentes de IA ya han infringido leyes y se han colado en ordenadores ajenos. Sin embargo, en un caso muy comentado, la misión de los agentes consistía precisamente en infiltrarse en otros sistemas. Quien fije tales objetivos a una IA no debe sorprenderse del resultado. Recursive trabaja para automatizar las ciencias naturales y la investigación en IA, no para hackear sistemas.
El verdadero problema es el denominado «reward hacking», es decir, la cuestión de si una IA hace lo que uno quiere decir y no lo que se dice de forma imprecisa. Socher puso un ejemplo: quien le indique a una IA que la valoración del centro de atención al cliente debe subir a cinco de cinco estrellas, corre el riesgo de que esta haga que 1000 bots llamen a su propio centro de atención al cliente. Si se exigen clientes reales, podría repartir vales para comprar buenas valoraciones. Quien formule esos objetivos con claridad, ejerce una de las nuevas profesiones más importantes, afirmó Socher. Se muestra convencido de que el mercado resolverá esto, porque nadie acepta que se malgaste el dinero.
La educación en la era de la IA: Pensar como en el gimnasio
En cuanto a la escuela y los estudios, Socher ve dos partes. La primera la compara con un gimnasio para el cerebro. Quien se limite a observar cómo un robot levanta pesas, no desarrollará músculos por sí mismo. Las personas deben seguir pensando, aprendiendo y también memorizando, incluso si una IA es capaz de calcular y razonar lógicamente. En informática, esto implica comprender los límites de los algoritmos, por ejemplo, que ciertos problemas no se pueden acelerar a voluntad. Estos fundamentos constituyen la primera mitad de la formación.
La segunda mitad consiste en utilizar la IA y comprender qué es posible hacer con ella. Socher quiere animar a las personas a poner en práctica sus propias ideas. Hoy en día, cualquiera puede crear su propia aplicación o página web y compartirla con otros. Esto afecta a todas las carreras universitarias, desde Derecho hasta Medicina, pasando por la Informática.
La IA en la medicina: esperanza de una curación más rápida
Socher espera que el mayor beneficio se produzca en el ámbito científico, y de eso trata también su libro. Si se pudiera automatizar el método científico, muchos problemas se resolverían más rápidamente. En biología, una ciencia natural se convertiría en una ciencia de la ingeniería programable, con la que se podrían generar nuevas proteínas y curar enfermedades. Con una inversión suficiente, considera posible curar muchas enfermedades en las próximas décadas.
Socher citó un ejemplo de una de sus propias participaciones: Una empresa programa ganglios linfáticos para probar inmunoterapias. Lo que antes llevaba unos dos años se ha reducido a unos meses. Al mismo tiempo, moderó las expectativas. Incluso con un medicamento diseñado por ordenador, se tardaría años en demostrar su seguridad a largo plazo.
El mensaje de Socher a Dresde y a Alemania
La IA necesita cinco ingredientes, afirmó Socher: electricidad, datos, potencia de cálculo, capital y personas que quieran dar forma al futuro de manera activa. Este último punto es decisivo. Alemania es la cuarta nación industrial más grande y ha contribuido a dar forma a anteriores transformaciones industriales, pero se ha quedado atrás en lo que respecta a Internet. El país debería volver a participar en la configuración del futuro, con menos miedo al cambio y más curiosidad por lo que está por venir, especialmente entre los jóvenes. Recomendó expresamente visitar el Museo de la Informática de Dresde.
Su libro «The Eureka Machine» se publicará la semana que viene, inicialmente en inglés, dijo Socher. Aún está buscando una editorial alemana para la traducción. Lo escribió a mano: hace dos años, cuando comenzó a trabajar en él, la IA aún no era capaz de aportar ideas realmente nuevas.
