La inteligencia artificial continúa avanzando a un ritmo sin precedentes y, con ella, también crecen las preocupaciones sobre sus posibles riesgos. La última advertencia llega desde uno de los nombres más influyentes del sector. Demis Hassabis, cofundador y consejero delegado de Google DeepMind, considera que los sistemas más avanzados de IA podrían desarrollar capacidades especialmente delicadas en un plazo relativamente corto.
El directivo no habla de una inteligencia artificial que actúe por sí sola o que provoque una catástrofe de manera inevitable. Su preocupación se centra en que estos modelos puedan proporcionar conocimientos, herramientas o instrucciones extremadamente sofisticadas a personas que pretendan utilizarlos con fines maliciosos.
Por ello, Hassabis reclama la creación de un organismo internacional independiente que supervise los modelos de inteligencia artificial antes de que lleguen al mercado. Su propuesta se produce en un momento en el que las principales compañías tecnológicas aceleran el desarrollo de sistemas cada vez más potentes, mientras el debate sobre la regulación continúa abierto.
La advertencia de Demis Hassabis sobre la inteligencia artificial
Durante una entrevista concedida a Axios, el máximo responsable de Google DeepMind explicó que los riesgos actuales ya empiezan a hacerse visibles en ámbitos como la ciberseguridad, donde los modelos pueden colaborar en la búsqueda de vulnerabilidades, automatizar determinadas tareas o facilitar la preparación de ataques informáticos. Sin embargo, el investigador considera que el escenario puede evolucionar rápidamente.
Según su previsión, en aproximadamente 18 meses podrían aparecer riesgos mucho mayores relacionados con la biología o incluso con el conocimiento necesario para desarrollar amenazas nucleares. El problema, según plantea, no reside en que la inteligencia artificial decida crear este tipo de armas, sino en que reduzca las barreras técnicas que actualmente dificultan su desarrollo.
De esa forma, personas sin formación altamente especializada podrían acceder a explicaciones mucho más detalladas sobre procesos que hoy solo dominan científicos, ingenieros o expertos con años de experiencia. Precisamente por ello, explica que la industria ya trabaja en sistemas destinados a evaluar cuándo un modelo comienza a ofrecer información que podría causar daños reales.
Biología, ciberseguridad y amenazas nucleares
La preocupación de Hassabis no se limita al ámbito digital. El responsable de Google DeepMind considera que la evolución de los modelos puede afectar especialmente a sectores relacionados con la biología, donde una inteligencia artificial cada vez más avanzada podría facilitar información extremadamente compleja.
Al mismo tiempo, insiste en que la propia tecnología también puede convertirse en una herramienta para reducir esos riesgos. En este contexto, Google DeepMind ha presentado un programa de bioresiliencia desarrollado junto a Isomorphic Labs. La iniciativa busca utilizar la inteligencia artificial para reforzar la vigilancia de patógenos, acelerar el diseño de vacunas y tratamientos y mejorar la capacidad de respuesta frente a futuros brotes. La tecnología, por tanto, aparece en ambos lados del debate: como posible fuente de nuevos riesgos y también como parte de la solución.
La propuesta de crear un supervisor internacional
Ante este escenario, Demis Hassabis considera imprescindible crear un organismo internacional encargado de supervisar los llamados modelos de frontera, es decir, los sistemas de inteligencia artificial más avanzados disponibles en cada momento. Su propuesta contempla una entidad integrada por expertos técnicos y financiada mediante aportaciones de las propias empresas del sector.
El funcionamiento sería similar al de organismos que actualmente supervisan actividades consideradas especialmente sensibles, como la aviación, los mercados financieros o la energía atómica. Antes de lanzar un nuevo modelo al mercado, las compañías deberían someterlo a evaluaciones independientes para analizar sus capacidades y detectar posibles riesgos.
Según Hassabis, ese organismo también tendría autoridad suficiente para recomendar retrasos, exigir nuevas medidas de seguridad o incluso impedir temporalmente la publicación de determinados sistemas. El directivo considera insuficiente que cada empresa analice sus propios desarrollos utilizando criterios diferentes. A su juicio, un error cometido por una sola compañía podría tener consecuencias internacionales debido al alcance global de estas tecnologías.
Una regulación que vaya más allá de las fronteras
Otro de los argumentos defendidos por Hassabis es que la inteligencia artificial ya no puede regularse únicamente desde un punto de vista nacional. Un modelo desarrollado en un país puede utilizarse prácticamente desde cualquier lugar del mundo.
Por ello, propone que Estados Unidos impulse inicialmente esta iniciativa, aunque con el objetivo de construir posteriormente una estructura verdaderamente internacional. El investigador entiende que la regulación debe avanzar al mismo ritmo que la innovación tecnológica para evitar que los controles lleguen demasiado tarde.
La inteligencia artificial general, cada vez más cerca
La preocupación del responsable de Google DeepMind no termina en los próximos 18 meses. Según explica, la llamada inteligencia artificial general (AGI) podría llegar dentro de apenas unos años. La AGI describe un sistema capaz de desenvolverse en prácticamente cualquier tarea intelectual con un nivel comparable o incluso superior al de una persona.
En otra de sus recientes intervenciones públicas, Hassabis fue aún más concreto sobre el calendario previsto: «El mundo solo tiene 3 o 4 años hasta que llegue la AGI y debemos tomar medidas urgentes». Su principal preocupación es que los futuros sistemas adquieran niveles de autonomía cada vez mayores y puedan incluso perfeccionarse con una intervención humana mínima.
A ello se suma otro desafío importante: los propios investigadores todavía reconocen que no comprenden completamente el funcionamiento interno de los modelos más potentes, lo que dificulta prever su comportamiento y diseñar barreras de seguridad totalmente fiables.
Una «ventana preciosa» para actuar
Pese a sus advertencias, Hassabis mantiene una visión optimista sobre el potencial de la inteligencia artificial. Considera que todavía existe una «ventana preciosa» para establecer mecanismos de seguridad, acordar límites comunes y preparar a las instituciones antes de que la tecnología alcance un nuevo nivel de desarrollo. No obstante, advierte de que esa oportunidad podría desaparecer si los avances técnicos continúan produciéndose más deprisa que las decisiones regulatorias.
Su posición coincide parcialmente con la expresada por otros referentes del sector. Sam Altman, máximo responsable de OpenAI, y Dario Amodei, director ejecutivo de Anthropic, también han defendido la necesidad de establecer controles específicos para los modelos más avanzados, aunque mantienen diferencias sobre quién debería aplicarlos y cuál debería ser el alcance de esa supervisión.
