Los grandes de la IA piden la regulación de la Inteligencia Artificial General

ArtÍculo

La Inteligencia Artificial General, afirma Demis Hassabis, «no puede compararse con los avances tecnológicos habituales, ni siquiera con otros tan trascendentales como internet o la telefonía móvil; se parece mucho más al descubrimiento de la electricidad o del fuego. Si uno se detiene a pensarlo, en esencia hemos encontrado una manera de hacer que la arena piense. Es milagroso», añade.

Según Hassabis, «la magnitud del impacto de esta tecnología no tendrá precedentes». Será mucho más potente que la Revolución Industrial. Nos ayudará, augura, «a resolver algunos de los mayores problemas a los que se enfrenta la sociedad, desde acelerar el descubrimiento de fármacos hasta desarrollar nuevas fuentes de energía limpia y crear nuevos materiales avanzados». Con gran optimismo, anuncia: «Incluso podríamos alcanzar el punto en el que los recursos dejen de ser el factor limitante del progreso humano, dando paso a una asombrosa nueva era de abundancia».

También hay riesgos. «Ya hemos visto los retos que plantean los modelos de frontera para la ciberseguridad, y pronto podrían surgir otras amenazas, incluidos riesgos nucleares y biológicos, a medida que las capacidades sigan avanzando». Por eso, necesitaremos salvaguardas sólidas para mantener el control de sistemas cada vez más agénticos [con mayor capacidad de actuar de forma autónoma] y con capacidad de automejora recursiva, y para abordar problemas desconocidos que solo se irán aclarando con el tiempo».

Hassabis piensa que «mitigar los riesgos técnicos relacionados con la IA es un reto que podemos abordar de forma colectiva, pero solo si nos damos el tiempo y el espacio necesarios para acertar en este próximo paso crucial. Actualmente, ni la sociedad ni los actores de la IA están «haciendo eso».

En este momento, en lo que estamos inmersos, señala, es en «una carrera comercial y geopolítica extremadamente intensa y con múltiples capas». Aunque la competencia impulsa un progreso rápido y acelera las ventajas, «los avances en la frontera están superando en velocidad a nuestra comprensión de la tecnología». Los avances en la frontera (advances on the frontier) es un término técnico que significa el tope de capacidad de lo que la IA es capaz de hacer en un momento dado. Es un límite móvil.

Cuando existe un grado tan alto de incertidumbre y lo que está en juego es tan importante, «avanzar con un optimismo cauteloso es la estrategia sensata y correcta. Eso exige una política pública que promueva la innovación al tiempo que incentive la responsabilidad y la seguridad, que fomente la colaboración internacional en cuestiones clave de seguridad, y que favorezca una consideración cuidadosa de cómo se despliega la IA en beneficio de la sociedad».

Un marco para la IA de frontera

Según Hassabis, Estados Unidos está bien posicionado, dado su poderío económico y técnico, para dar el primer paso en el desarrollo de un marco normativo para la IA, modelado como una colaboración público-privada supervisada a nivel federal, o como una organización autorreguladora, con una junta que incluya a expertos técnicos independientes de primer nivel y representantes del código abierto. Un ejemplo que cita del mundo financiero es la Financial Industry Regulatory Authority (FINRA).

El Organismo de Estándares que propone Hassabis «sería responsable de desarrollar protocolos de evaluación y de trabajar con las agencias federales pertinentes». Un modelo se calificaría como «de clase frontera» si cumple ciertos umbrales «en un conjunto de puntos de referencia determinados por el Organismo de Estándares y actualizados de forma periódica para mantener el ritmo de la evolución de las capacidades de la IA».

La fortaleza de este enfoque, subraya, «radica en que estaría centrado en lo técnico, al tiempo que respalda la innovación e incentiva un comportamiento responsable». El esfuerzo iniciado por EE. UU. «proporcionaría un punto de partida sólido para crear estándares internacionales compartidos sobre la IA de frontera».

Incluso si se resuelven estos difíciles retos técnicos, quedarán por abordar otras cuestiones económicas y filosóficas complejas: «¿Qué tipo de nuevos modelos económicos harán falta para ayudar a que todos prosperen en un mundo post-escasez? ¿Con arreglo a qué valores queremos vivir, qué serán el sentido y el propósito, y cómo podría cambiar incluso la propia condición humana?».

En torno a la IA, concluye, existe tanto un enorme entusiasmo como una gran incertidumbre, y ambos están justificados». Hassabis concluye: «Debemos aprovechar esta preciosa ventana de tiempo antes de que llegue la IAG para dar forma a esta tecnología en beneficio de toda la humanidad. Lo que hagamos colectivamente ahora determinará cómo se desarrollará la siguiente fase de la civilización».

Los grandes gurús, unidos

En una newsletter de hoy publicada por Axios, se afirma que los tres hombres que compiten con más fuerza por construir una IA de frontera, es decir Demis Hassabis, Sam Altman y Dario Amodei, coinciden en que la IA necesita ser regulada cuanto antes. Esos tres hombres están al frente de Google DeepMind, OpenAI y Anthropic.

La propuesta de Hassabis, arriba mencionada, ha recibido «elogios poco habituales en toda la industria de la IA, ferozmente competitiva, incluidos los de Sam Altman, Satya Nadella, director ejecutivo de Microsoft, e incluso el rival de larga data Elon Musk», afirma Axios.

Axios señala que la Administración Trump, sin embargo, está dividida: «Públicamente ha defendido la desregulación y se ha resistido a cualquier cosa que se parezca a una Administración de Alimentos y Medicamentos para la IA». Está decidida a no asfixiar la innovación estadounidense en la carrera contra China. Pero en privado, los funcionarios admiten que «un enfoque de no intervención total es insostenible: los temores cibernéticos ya los han forzado a una regulación improvisada dos veces este verano. Primero, por los modelos Fable y Mythos de Anthropic, después por el GPT-5.6 de OpenAI».

Los padrinos de la IA discrepan en cuanto a si el Gobierno de los EE. UU. debería ser el único árbitro final. Amodei quiere una agencia federal con el poder de bloquear el lanzamiento de un modelo de inmediato, desde el primer día. Hassabis [como hemos visto arriba antes en su propio escrito], un organismo de estándares financiado por la industria de la IA y supervisado a escala federal, que comience con revisiones voluntarias previas al lanzamiento de una IA y que podría endurecerse hasta convertirse en normas obligatorias de acceso al mercado.

Sam Altman, en un artículo en el Financial Times, del pasado 1 de julio, se muestra partidario de un foro internacional liderado por EE. UU. que certifique países, empresas y estándares de seguridad. Utilizaría el acceso a los modelos de frontera y a los mercados como palanca para el cumplimiento de sus normas.

Los críticos, anota Axios, temen que las leyes redactadas para hacer la IA más segura puedan terminar afianzando a las mayores empresas de IA.

La conclusión de Axios: la era del Salvaje Oeste del desarrollo de la IA ha terminado oficialmente. Las personas con más dinero, más capacidad en el sector y más que perder por una desaceleración de la IA son las que presionan con más fuerza por la regulación.

Más información

Hassabis, D. (2026, 14 de julio). A framework for frontier AI and the dawning of a new age. demishassabis.substack.com.

VandeHei, J., & Allen, M. (2026, 16 de julio). Behind the Curtain: AI godfathers converge on regulations. www.axios.com.

Amodei, D. (2026, 10 de junio). Policy on the AI Exponential. darioamodei.com.

OpenAI. (2026, abril). Industrial Policy for the Intelligence Age: Ideas to Keep People First (‘Política industrial para la era de la inteligencia artificial’). openai.com

Crédito de la imagen: Demis Hassabis en 2024. Foto de John Sears. Licencia CC BY-SA 4.0. Vía Wikimedia Commons.