La ciencia aún puede desactivar el coctel explosivo de IA y armas biológicas

Avance

Un grupo de científicos logró conjurar la amenaza nuclear en el pasado; ahora sería necesaria una iniciativa similar ante el peligroso coctel de inteligencia artificial y armas biológicas. Las investigadoras Sophie Berman y Yelena Biberman cuentan en un artículo publicado en Foreign Policy  la historia de aquella iniciativa y cómo se podría adaptar al presente.

En 1957, en plena Guerra Fría, veintidós científicos de diez países se reunieron en Pugwash, (Canadá), alarmados por el poder de la bomba atómica que habían ayudado a crear. Respondían al llamamiento de Bertrand Russell y Albert Einstein para evitar una catástrofe. El encuentro dio origen a las Conferencias Pugwash, que recibieron el Nobel de la Paz en 1995.

Su logro consistió en construir una base técnica y una red de confianza que allanaron el camino para acuerdos de control de armas. No negociaron tratados, pero desarrollaron soluciones que los gobiernos pudieron adoptar después. El líder soviético Nikita Krushev llegó a citar una propuesta de científicos de Pugwash en su correspondencia con John F. Kennedy, que condujo al Tratado de Prohibición Parcial de los Ensayos Nucleares de 1963.

Hoy, el mundo se asoma a otro precipicio, como ha advertido, entre otros, Dario Amodei, CEO de Anthropic. Temen, en concreto, que una IA incontrolada active el uso de armas biológicas. La seguridad en este terreno exige una cooperación internacional que brilla por su ausencia en el contexto de rivalidad entre China y Estados Unidos. No es fácil que lleguen a una entente Xi Jinping y Donald Trump, aprovechando su próxima cita, el 24 de septiembre, a pesar de que un columnista de The Economist piensa que lograr el acuerdo podría valerles el Nobel de la Paz, como ha sugerido Sam Altman, CEO de OpenAI. Confiar exclusivamente en pactos entre gobiernos resulta insuficiente.

Las autoras del artículo proponen una nueva Pugwash, adaptada a la era de la IA y la biotecnología. Debería reunir a científicos, ingenieros y especialistas en ética para evaluar los riesgos, intercambiar información y elaborar propuestas que puedan ser aplicadas por los gobiernos. La idea fundamental es que la diplomacia científica puede mantenerse abierta incluso cuando la diplomacia oficial está bloqueada.

Tres lecciones para el presente

¿Qué podemos aprender del éxito de Pugwash? Tres lecciones. Primera, se puede construir una identidad colectiva que trascienda las divisiones políticas. Los participantes, llegados de ambos lados del Telón de Acero, dejaron de verse como adversarios para considerarse colegas, pugwashitas, buscando «una base común de entendimiento». Segunda, se puede abrir un canal técnico y discreto. Los delegados servían como asesores de sus gobiernos, filtrando las ideas consensuadas hacia las negociaciones oficiales. Tercera, es posible establecer un espacio de diálogo incluso entre adversarios estratégicos.

Pero así como en la era nuclear los gobiernos financiaban y controlaban la mayor parte de la investigación, la innovación en IA y biotecnología está impulsada en gran medida por empresas privadas, cuyos incentivos comerciales pueden entrar en conflicto con la gestión de riesgos globales. Aunque líderes como Sam Altman o Dario Amodei han alertado sobre los riesgos de la IA, «todavía no han respaldado restricciones concretas acordes con la gravedad de esas advertencias». Su interés directo en las tecnologías condiciona su papel como fiduciarios neutrales. Las autoras sugieren que figuras ajenas a la industria, como el exdirectivo de Apple Tim Cook y el filántropo Pierre Omidyar podrían estar mejor situadas para impulsar y financiar tales foros.

Además, un «Pugwash contemporáneo» necesitaría un diseño más ambicioso, ya que el original estuvo, a veces, mediatizado por los gobiernos. En los años 60, el presidente americano Johnson llegó a cortar los vínculos con el grupo, después de que un senador calificara las reuniones como «cónclaves comunistas». El que ahora proponen las autoras debe combinar las fortalezas del modelo original con una conexión más formal y duradera con los procesos de toma de decisiones gubernamentales. Existen ejemplos incipientes, como el diálogo sobre aplicaciones militares de la IA convocado por la Brookings Institution y la Universidad de Tsinghua (China). Sin embargo, estos esfuerzos «siguen siendo en gran medida regionales o bilaterales»; la naturaleza global de las amenazas actuales exige una participación geográfica mucho más amplia.

La conclusión es clara: no hay que esperar a que se produzca una catástrofe para diseñar los mecanismos destinados a evitarla. La comunidad científica puede actuar como un último dique de contención, asentando los pilares técnicos y la confianza necesarios para lograr la disuasión.