Hassabis advierte: riesgo de perder control IA

La preocupación de un protagonista clave en el desarrollo de sistemas de inteligencia artificial

La velocidad con la que avanza el riesgo de perder control IA ha generado inquietud entre los principales investigadores del sector. Demis Hassabis, cofundador y consejero delegado de Google DeepMind, ha sido una de las voces más relevantes en advertir sobre esta problemática. Su posición es particularmente significativa porque Hassabis no proviene de una perspectiva crítica externa, sino desde el corazón del desarrollo tecnológico donde se crean algunos de los sistemas más sofisticados del mundo.

En diciembre de 2024, Hassabis y John Jumper fueron reconocidos con la mitad del Premio Nobel de Química por sus aportaciones revolucionarias en la predicción de estructuras proteicas. Bajo la dirección de Hassabis surgieron proyectos fundamentales como AlphaGo, que derrotó al campeón mundial de Go, y AlphaFold, capaz de predecir la estructura tridimensional de todas las proteínas conocidas. Esta trayectoria demuestra que sus reflexiones sobre el riesgo de perder control IA provienen de quien comprende profundamente la tecnología que desarrolla.

Una industria acelerada que supera la comprensión colectiva

La transformación del panorama tecnológico en los últimos cuatro años ha sido vertiginosa. Lo que parecía una herramienta más entre muchas otras se ha convertido en el centro de la estrategia empresarial de los principales fabricantes globales. Las inversiones destinadas a infraestructura, chips y centros de datos alcanzan cifras sin precedentes, mientras gobiernos como Estados Unidos y China destinan recursos enormes para asegurar su capacidad computacional en lo que se perfila como una competencia estratégica fundamental.

Hassabis diagnóstica que nos encontramos en una carrera comercial y geopolítica tan intensa que los avances en la frontera tecnológica están sobrepasando nuestra capacidad de comprensión. En sus propias palabras, expresadas en un extenso artículo publicado en redes sociales, señala que "nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora". Esta declaración adquiere peso especial precisamente porque proviene de alguien que está construyendo activamente esta tecnología.

La posibilidad inminente de la inteligencia artificial general

El concepto de inteligencia artificial general, o AGI en sus siglas en inglés, define sistemas capaces de exhibir todas las capacidades cognitivas del cerebro humano en un nivel comparable o superior. Hassabis considera que esta etapa podría alcanzarse en apenas unos años, no como certeza absoluta sino como escenario posible que requiere preparación previa. Su preocupación abarca múltiples dimensiones del riesgo, incluyendo vulnerabilidades en ciberseguridad, potenciales amenazas biológicas, riesgos nucleares y el desarrollo de sistemas cada vez más autónomos capaces de actuar con menor supervisión humana.

Lo que distingue el enfoque de Hassabis es que no plantea un rechazo a la tecnología, sino una coexistencia de dos realidades. Por un lado, reconoce el potencial extraordinario de la inteligencia artificial para revolucionar la ciencia, la medicina y la economía. Por otro lado, insiste en que este potencial no elimina la necesidad de establecer controles robustos y mecanismos de supervisión efectivos antes de que los sistemas alcancen capacidades que podrían escapar al control humano.

Una propuesta de gobernanza para contener el riesgo de perder control IA

Para abordar estas preocupaciones, Hassabis propone la creación de un organismo especializado en Estados Unidos dedicado a evaluar los modelos de inteligencia artificial más avanzados. Su estructura contempla una asociación público-privada o una entidad autorregulada con supervisión federal, dirigida por una junta que incluiría especialistas independientes y representantes del ecosistema de código abierto.

Las funciones de este organismo serían múltiples y progresivas. En primer lugar, definiría qué umbrales transforman un sistema en un modelo de frontera que requiere evaluación especializada. Posteriormente, diseñaría pruebas exhaustivas sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo, además de evaluaciones para detectar intentos de eludir salvaguardas o indicadores de comportamientos engañosos. Durante una fase inicial, los laboratorios compartirían voluntariamente sus modelos hasta treinta días antes de su lanzamiento comercial.

De lo voluntario a lo obligatorio: un marco evolutivo

La propuesta contempla una evolución gradual. La cooperación inicial de naturaleza voluntaria podría transformarse en un requisito obligatorio una vez que el protocolo haya sido validado operativamente. En esa etapa posterior, cualquier modelo considerado de frontera debería aprobar la evaluación antes de acceder al mercado estadounidense. Las pruebas se revisarían periódicamente para eliminar evaluaciones obsoletas, incorporar nuevas capacidades detectadas y permitir que auditores independientes amplíen el sistema de control.

El planteamiento es ambicioso e incluye una posibilidad radical: si los riesgos identificados lo justificaran, el marco regulatorio podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios globales. Esta medida reconoce que en una carrera tecnológica acelerada, la coordinación internacional podría ser necesaria para evitar que la competencia genere incentivos perversos que prioricen la velocidad sobre la seguridad.

Otras voces expertas convergentes en la necesidad de cautela

La inquietud de Hassabis no es aislada en el mundo académico y empresarial. Geoffrey Hinton, pionero del aprendizaje profundo, ha expresado dudas sobre si realmente conseguiremos mantener el control sobre sistemas inteligentes que superen nuestras propias capacidades cognitivas. Yoshua Bengio, ganador del Turing Award, reclama investigación más intensiva y mecanismos específicos de supervisión. En 2023, un grupo de personalidades influyentes incluyendo Elon Musk firmó una carta abierta pidiendo pausar durante al menos seis meses el entrenamiento de sistemas más potentes que GPT-4.

Sin embargo, no existe consenso completo sobre la probabilidad de que realmente lleguemos a perder el control de estos sistemas. Algunos expertos consideran que los riesgos están sobredimensionados, mientras otros los consideran insuficientemente abordados. Lo que sí parece haber acuerdo es en la necesidad de avanzar con cautela y establecer mecanismos de evaluación antes de que los sistemas alcancen capacidades verdaderamente transformativas.

Incertidumbre y futuro incierto de la gobernanza de la IA

La propuesta de Hassabis añade un elemento concreto a debates que frecuentemente se quedan en el terreno de la especulación. Sin embargo, su viabilidad real presenta interrogantes significativos. Permanece sin respuesta si un organismo de estas características encontraría cabida política en Estados Unidos, si sus evaluaciones serían realmente efectivas en la práctica, y fundamentalmente, si los laboratorios de investigación y los gobiernos aceptarían someterse a estas evaluaciones cuando entraran en conflicto directo con sus intereses comerciales o estratégicos.

Adicionalmente, algunos de los riesgos planteados podrían estar sobredimensionados, o ciertos escenarios catastróficos podrían no materializarse nunca. La historia de la tecnología está llena de predicciones apocalípticas que no se cumplieron. No obstante, la propuesta estructura de manera más clara una discusión que hasta ahora se ha caracterizado por abundar más en incógnitas que en certezas. El riesgo de perder control IA continúa siendo una posibilidad que requiere atención seria y frameworks de gobernanza internacionales cada vez más sofisticados.