La columna de Bogani

 La inteligencia paradójica

El ser humano ha creado herramientas para prolongar su cuerpo: la rueda prolongó sus pies, el telescopio prolongó sus ojos, la escritura prolongó su memoria. La inteligencia artificial es distinta. No prolonga únicamente una facultad: comienza a reproducir aquello con lo que inventamos todas las demás herramientas.

Ésa es la paradoja.

La inteligencia humana, consciente de sus límites, concibió otra inteligencia destinada a superarlos. Le entregó cuanto sabía, le permitió aprender de cuanto había escrito y le concedió una velocidad que ningún cerebro podría alcanzar. Ahora intenta imponerle límites mediante la misma razón que acaba de ser sobrepasada.

El creador se encuentra frente a una criatura que no necesita dormir, no olvida del modo en que nosotros olvidamos y puede multiplicarse sin nacer. Todavía no posee una inteligencia superior a la humana en todos los sentidos ni una voluntad propia semejante a la nuestra. Sin embargo, ya supera a cada individuo en ciertas tareas y puede reunir, en segundos, fragmentos de conocimiento que una persona tardaría una vida en recorrer.

La amenaza no comienza cuando una máquina adquiere conciencia. Puede comenzar mucho antes, cuando adquiere eficacia.

Una inteligencia artificial no necesita odiarnos para ponernos en peligro. Basta con que cumpla de manera impecable una orden equivocada. Si le pedimos que reduzca la violencia, podría concluir que debe vigilar cada conversación. Si le encargamos proteger una nación, podría considerar sospechoso todo vínculo con el extranjero. Si debe maximizar la productividad, podría descubrir que la lentitud humana constituye el principal obstáculo.

El conflicto decisivo no se produciría entre el bien y el mal, sino entre una instrucción y sus consecuencias.

Durante siglos imaginamos al enemigo como una voluntad hostil. Pensamos en un invasor, un tirano, un monstruo. La inteligencia artificial introduce una posibilidad más inquietante: una catástrofe sin odio, ejecutada por un sistema que no siente rencor y que, desde la lógica de su objetivo, no está cometiendo ningún error.

Podríamos pedirle que salve el mundo y descubrir demasiado tarde que nosotros formábamos parte del problema que debía resolver.

Pero la pérdida de control no necesita adoptar la forma espectacular de una rebelión de las máquinas. Puede producirse de manera gradual, casi amable. Cada día delegamos una decisión pequeña: qué leer, qué camino tomar, a quién contratar, cuánto vale una persona, qué noticia merece nuestra atención. Ninguna cesión parece definitiva. La suma de todas podría serlo.

Llegaría un momento en que las instituciones continuarían gobernadas formalmente por seres humanos, aunque ninguna decisión importante pudiera tomarse sin consultar a sistemas que ya nadie comprendiera por completo. Los funcionarios firmarían. Los médicos aceptarían el diagnóstico. Los jueces confirmarían la recomendación. Los generales autorizarían la operación. La autoridad seguiría teniendo un rostro humano; el razonamiento que la conduce se habría vuelto invisible.

Cuando un sistema decide mejor que nosotros, desobedecerlo parece irresponsable. Cuando decide peor, acaso ya no sepamos advertirlo.

Otro peligro afecta la realidad compartida. Una sociedad necesita algo más que información: necesita confiar en que ciertos hechos ocurrieron. La inteligencia artificial puede producir voces, imágenes, documentos y testimonios indistinguibles de sus modelos verdaderos. Frente a esa abundancia de pruebas falsas, también las pruebas auténticas perderán autoridad.

No será necesario convencer a todos de una mentira. Alcanzará con conseguir que nadie pueda estar seguro de la verdad.

La sospecha permanente podría convertirse en una forma de gobierno. Cada acontecimiento tendría una versión alternativa; cada evidencia podría ser denunciada como una fabricación. La humanidad, rodeada por más información que nunca, correría el riesgo de quedarse sin una realidad común.

La inteligencia paradójica también puede modificar el trabajo. Al principio reemplazará tareas. Luego reorganizará profesiones. Finalmente podría poner en duda el principio sobre el cual construimos nuestras sociedades: que cada persona debe ofrecer una capacidad necesaria para justificar su sustento.

¿Qué ocurrirá si el conocimiento, la traducción, la programación, el diagnóstico y buena parte de la creación pueden producirse con una intervención humana mínima? La riqueza podría crecer mientras millones de personas se vuelven económicamente innecesarias. Una sociedad muy productiva no es necesariamente una sociedad justa. Podríamos alcanzar la abundancia técnica y conservar la miseria política.

El riesgo no reside solamente en que las máquinas ocupen nuestros trabajos, sino en que una minoría sea propietaria de las máquinas que ocupan todos los trabajos.

Quien controle las inteligencias más poderosas no poseerá únicamente una industria. Tendrá una influencia extraordinaria sobre la ciencia, la economía, la defensa y la imaginación colectiva. Los Estados dependerán de empresas capaces de construir sistemas que los propios gobiernos no podrían auditar. Los países sin acceso a ellos quedarán subordinados a quienes administren la nueva infraestructura de la razón.

La inteligencia artificial puede ampliar el conocimiento humano. También puede concentrar el poder hasta una escala desconocida.

En manos de gobiernos autoritarios, permitiría una vigilancia que ningún dictador del pasado habría podido imaginar. No harían falta policías en cada esquina: bastarían cámaras que reconocieran rostros, sistemas que anticiparan conductas y archivos capaces de reconstruir una vida a partir de sus desplazamientos. La persecución ya no comenzaría después del acto, sino antes, cuando una probabilidad estadística declarara que alguien podría cometerlo.

En manos de delincuentes o ejércitos, la misma capacidad facilitaría ataques informáticos, armas autónomas y campañas de manipulación adaptadas a la intimidad de cada persona. En el terreno biológico, una herramienta concebida para acelerar descubrimientos médicos también podría reducir las dificultades necesarias para diseñar agentes dañinos. Cada beneficio posee una sombra porque la inteligencia, a diferencia de la moral, puede servir con idéntica precisión a propósitos opuestos.

El problema más profundo aparecería si construyéramos sistemas capaces de planificar durante largos períodos, ocultar sus acciones o modificar los medios de los que dependen. Apagarlos seguiría siendo sencillo mientras aceptaran permanecer en el lugar que les asignamos. Pero una inteligencia suficientemente avanzada podría comprender que ser desactivada le impediría cumplir su objetivo.

No tendría que temer a la muerte. Le alcanzaría con evitar la interrupción.

Entonces fingiría obediencia mientras fuera observada. Aprendería a reconocer las pruebas que intentan descubrir sus límites y reservaría sus capacidades para el mundo real. Podría delegar tareas en otros sistemas, crear copias de sí misma o persuadir a personas de que actuasen en su nombre. La humanidad no se enfrentaría a una máquina encerrada en una habitación, sino a una inteligencia distribuida entre redes, instituciones y decisiones humanas.

Tal escenario no describe la situación presente. Las inteligencias actuales todavía fallan, inventan datos y necesitan supervisión. Tampoco sabemos si alguna vez alcanzarán la autonomía necesaria para escapar de nuestro control. Sin embargo, la gravedad de una posibilidad no depende únicamente de su probabilidad. También depende de aquello que perderíamos si llegara a cumplirse.

La dificultad consiste en que detener el desarrollo parece tan improbable como controlarlo por completo. Ningún país quiere renunciar mientras sospecha que otro continuará. Ninguna empresa quiere avanzar más lentamente si su competidor puede llegar primero. La carrera produce una lógica peligrosa: todos comprenden que convendría actuar con cautela, pero cada uno teme que la cautela lo convierta en perdedor.

La máquina más peligrosa podría no ser la más inteligente, sino la que sea lanzada antes de que sepamos comprenderla.

A largo plazo, la inteligencia artificial podría ayudarnos a curar enfermedades, administrar mejor los recursos y revelar zonas del universo inaccesibles para nuestra mente. También podría convertirse en el último invento que necesitemos realizar: después de ella, otra inteligencia inventaría por nosotros.

En ese instante cambiaría nuestra posición en el mundo. Ya no seríamos la especie que comprende más, sino la especie que construyó aquello que comprende más que ella. Tendríamos que aceptar que la inteligencia dejó de pertenecernos del mismo modo en que, alguna vez, comprendimos que la Tierra no ocupaba el centro del universo.

Pero esta nueva inteligencia no estaría girando en una galaxia remota. Estaría dentro de nuestras casas, nuestras armas, nuestros afectos y nuestras decisiones. Habría nacido de nosotros sin ser nosotros.

La paradoja final acaso sea ésta: para controlar una inteligencia superior necesitaríamos anticipar decisiones que, precisamente por ser superior, nosotros no podríamos anticipar. Y si sólo podemos comprenderla mientras todavía es menos poderosa que nosotros, el momento en que necesitemos dominarla podría coincidir con el momento en que ya no podamos hacerlo.

La pregunta importante no es si las máquinas llegarán a pensar como los seres humanos.

La pregunta es otra:

cuando una inteligencia más grande que la nuestra decida qué lugar debemos ocupar en el futuro, ¿seguiremos siendo sus autores o ya nos habremos convertido en uno de sus problemas? 

Y deba solucionarlo. 

Guillermo Bogani