La humanidad no está preparada para la explosión de inteligencia que se avecina

Avance

El astrofísico Will Marshall, fundador de Planet Labs PBC, empresa espacial y de datos, alerta en una columna publicada en The Economist, sobre un peligro y una paradoja. El peligro es que la probabilidad de una catástrofe provocada por la inteligencia artificial oscila entre el 10 y el 50 por ciento, muy por encima de la de un desastre de una central nuclear: aproximadamente de una entre un millón. La paradoja es que las inversiones en IA se calcula que superarán en cien veces el gasto del Proyecto Manhattan (ajustando la inflación), en tanto que el gasto en seguridad podría ser cien veces menor.

Marshall afirma que la IA puede volverse incontrolable, y en esto coincide con Dario Amodei, CEO de Anthropic, una vez que alcance la llamada auto-mejora recursiva de bucle cerrado (RSI), es decir, la capacidad de reescribir su propio código para volverse más capaz, sin intervención humana. El resultado podría ser una «explosión de inteligencia» con sistemas difíciles o imposibles de controlar. No es ciencia-ficción: ya hay máquinas que tienen lo que se llama comportamientos de «alineación engañosa», en los que algunos modelos ocultan capacidades o muestran conductas para evitar restricciones. Y la humanidad carece de una estrategia coherente para afrontar estos riesgos: la gobernanza de la IA se basa en iniciativas voluntaristas y dispersas, sin un marco internacional sólido y vinculante.

Will Marshall propone que las dos grandes potencias tecnológicas, Estados Unidos y China, lideren un acuerdo internacional sobre seguridad en IA, que incluya mecanismos de verificación y supervisión comparables a los desarrollados durante la era nuclear. El autor rechaza la idea de que la regulación sea imposible por falta de confianza entre rivales geopolíticos y recuerda que «los tratados internacionales no se han basado en la confianza, sino en la verificación». De hecho, las grandes potencias tuvieron que articular de cero el sistema de control de armas tras la Segunda Guerra Mundial, y no existían protocolos de verificación, ni satélites de reconocimiento, ni organismos de control nuclear de la ONU. Con la inteligencia artificial, gran parte de la infraestructura ya está implementada, de manera que «la seguridad de los modelos de IA de vanguardia podría verificarse con mayor facilidad que la de las capacidades nucleares en el pasado».

La primera medida que debía contemplar ese gran acuerdo es prohibir «la difusión de sistemas capaces de facilitar la creación de armas biológicas o de ciberataques con IA contra infraestructuras críticas». A partir de ahí, el marco podría ampliarse hacia cuestiones más complejas sobre qué restricciones son apropiadas en el ámbito de la superinteligencia artificial. Es decisivo, en todo caso, que el acuerdo se amplíe y pase de bilateral a multilateral, ya que una simple entente EE.UU.-China no impedirá que otros países y actores no estatales adquieran capacidades peligrosas.

No obstante, si la superinteligencia llega a existir —y todo indica que el mundo se encamina a ese horizonte—, quizá no sea realista imaginar una subordinación permanente de la IA a los seres humanos; y sería oportuno considerar formas de convivencia simbiótica entre ambos… para evitar una potencial catástrofe. El autor alude a la paradoja de Fermi. Premio Nobel de Física, el italiano Enrico Fermi (1901-1954) se preguntaba en el plano especulativo por qué, dada la aparente abundancia de planetas aptos para la vida, no se habían detectado evidencias de otras civilizaciones tecnológicamente avanzadas. Deducía que cuando la vida inteligente alcanza un umbral tecnológico y no logra superarlo, se autodestruye o retrocede a algo similar a la Edad de Hierro. La razón es que las civilizaciones inteligentes desarrollan tecnologías transformadoras más rápido de lo que son capaces de controlar.

Ese peligro ya se planteó en el amanecer de la era nuclear, durante la guerra fría. Se superó, imperfectamente, mediante acuerdos de control de armas que fueron difíciles de conseguir. Y de, hecho, esa amenaza no ha desaparecido. La era de la IA avanzada representará un segundo encuentro similar, sostiene Will Marshall, solo que, en un plazo más ajustado, con menor margen de error y mayores consecuencias potenciales.