En Bugonia, la última película de Yorgos Lánthimos, (aviso, viene spoiler alert) los humanos son “apagados” para evitar que destruyamos el Planeta Tierra por los andromedanos, una civilización más avanzada científicamente - y que ya tuvo que intervenir en el pasado cuando los dinosaurios y los atlantes lo habían puesto en peligro.
Escenario no tan lejano del que muchos dibujan que puede ser nuestro fin si seguimos desarrollando la Inteligencia Artificial (aka IA), a la que tarde o temprano le asignaremos resolver el problema de la degradación del Planeta, y que, al correr sus optimizaciones, probablemente concluya que la solución más rápida es acabar con la especie que la está causando.
Medios, fines y guardarrailes
Siempre ha existido miedo de hacia dónde nos puede llevar la tecnología, pero en el caso de la IA parece estar más fundado que nunca. Su desarrollo exponencial hace pensar que su capacidad para resolver problemas y ejecutar soluciones sólo podrá limitarse por los “guardarrailes” que podamos imponer sus creadores (y ojo que, si no somos cuidadosos, su interpretación y aplicación puede no ajustarse a lo que nos esperábamos).
Emily Atkin, la incansable reportera medioambiental creadora de HEATED, llama la atención sobre el impacto negativo de la IA sobre el clima. Y destaca que hay un problema mayor que los data centers cuando sus emisiones vienen generadas por quemar gas o carbón: las “enabled emissions”. Estas son las emisiones adicionales posibilitadas por el uso de la IA por los productores de combustibles fósiles para aumentar su producción mejorando la exploración y eficiencia del negocio, cuyo impacto sobre el calentamiento global estima entre 3,3 y 13,3 veces superior al de los data centers.
Aunque, de la misma forma que la IA puede servir para que quememos más combustibles fósiles, puede hacerlo para que avancemos en la dirección contraria y aceleremos su sustitución, o al menos hagamos frente a sus efectos negativos de forma más eficaz. Lo demuestran ejemplos como Zanskar, que localiza mediante IA las ubicaciones más prometedoras para la energía geotérmica, Cusp AI, que detecta nuevos materiales necesarios para la transición energética, o Pano, que mejora la detección y respuesta a incendios.
Y es que la tecnología no es buena ni mala. Como un cuchillo jamonero, es muy útil para cortar lonchas, pero muy peligroso en las manos inadecuadas. Es un medio para un fin. Cuanto más poderosa es una tecnología, más importancia cobra precisar su objetivo.
En el cruce de caminos
Dicen que vivimos en la era más crítica de la Humanidad, en un cruce de caminos entre las dos fuerzas exponenciales más grandes que hemos creado: la Inteligencia Artificial como la tecnología con mayores capacidades de la historia, tantas que parece capaz de superar las nuestras, y el cambio climático, como la amenaza más urgente a la que nos hemos enfrentado.
En un entorno en el que, aún confundidos por la evolución a la que nos ha llevado la globalización, nos han tocado los peores gobernantes en nuestra historia reciente, cuando tenemos que tomar las decisiones más difíciles. Responsables de una gran crisis geopolítica cuando más tendríamos que dialogar.
Lo que seguramente haría concluir a los andromedanos que nuestra civilización es manifiestamente incompetente. Al ni siquiera ser capaz de resolver un problema tan decisivo como el calentamiento global, pese a que hemos sido capaces de diagnosticar y formular su terapia científicamente.
Inteligencia Artificial y cambio climático
¿Y si la confluencia de estas dos fuerzas nos marcase la solución? ¿Por qué no delegar a la IA la solución contra el cambio climático?
La IA promete un futuro de abundancia, en el que su superinteligencia podrá asistirnos en tiempo real en la solución de todas nuestras cuestiones y después ser capaz de orquestar y ejecutar las necesidades identificadas.
Un futuro que visionarios de Silicon Valley como Vinod Khosla predicen que traerá trabajo, medicina y asesoramiento prácticamente gratuitos, con todos los recursos, energías limpias y tecnologías de captura de carbono que necesitemos, y en el que incluso no necesitaremos acceder a internet, ya que nuestros agentes lo harán por nosotros.
Un mundo de “abundancia intolerable” en el que la producción de alimentos, productos y servicios estandarizados la realicen las máquinas y los humanos nos dediquemos a aquello donde la experiencia humana es clave - lo que Alex Imas llama la “economía relacional”.
En el que incluso podremos escapar del consumismo, porque, como sugiere Samuel Gil mencionando a Mehdi Yacoubi, serán nuestros agentes los que se encarguen de optimizar nuestras compras conforme a los criterios que les hayamos predefinido, y no se dejarán perseguir en sus conversaciones “máquina a máquina” por las maquinarias de publicidad engañosa y compra por impulso a las que no sabemos resistirnos.
Y en que la tecnología se encargará de procurar esos recursos abundantes, impulsados por la energía gratuita del sol, a disposición de los procesos que necesitamos para seguir creciendo nuestra economía sin emisiones, convertir los residuos en recursos de forma económica mediante la economía circular, y restaurar los límites planetarios a niveles seguros, haciendo buena la promesa del Antropoceno en positivo.
Problemas muy aptos para su resolución por la IA, para la que acelerar la transición energética no dejará de ser un problema de optimización con infinidad de variables, pero sin necesidad de verse atado por posiciones arbitrarias o esquemas de precios y regulaciones pasadas, que no tienen razón de ser ante una revolución tecnológica en plena urgencia medioambiental. Parafraseando a Elon Musk, aplicando la máxima de que “las únicas leyes que cuentan son las de la física y el resto son recomendaciones”.
¿Nos salvará entonces la tecnología? ¿A qué esperamos para pedirle que lo haga?
¿Repartir responsabilidades?
Tal vez la IA no pueda resolver nuestro principal problema a fecha de hoy, que no es la ejecución, sino la bondad de la decisión que le antecede.
Esa es la visión aún prevalente entre nosotros. Desde McKinsey, conciben a los agentes de IA como miembros de un equipo cuya dirección siempre queda en manos humanas: “Resolvemos problemas con la IA, no lo hace sola. La IA no lo hace para mí, lo hace conmigo. Es una herramienta que amplifica nuestras capacidades”.
Tanto que asignan una nueva responsabilidad a los responsables de personal y talento en las empresas: la gestión de los “trabajadores digitales”, que incluye la formación, evaluación del desempeño y, cuando las exigencias de negocio lo reclamen, su eliminación.
Tyler Cowen (gracias de nuevo Samuel Gil por la asistencia) no lo ve como un problema de capacidades, sino de grados de libertad. Porque el límite para aprovechar esta superinteligencia depende aún de las decisiones humanas, con sus prejuicios, miedos y restricciones: “Humans. Here they are. Bottleneck, bottleneck.” Nos encontramos un cuello de botella: Somos los humanos de los que depende la IA los que obstruimos sus contribuciones.
Nuestro problema no parece radicar en cómo analizamos y formulamos problemas, para los que la IA nos puede proporcionar herramientas “on steroids”, que aceleren sus soluciones de forma exponencial, sino en cómo tomamos decisiones, donde dependemos de un fallido sistema de gobernanza global.
Porque la tecnología es un medio para un fin, y cuanto mayores sean sus poderes, mayor será nuestra responsabilidad. Como apuntaba Emily Atkin, nos corresponde a nosotros definir esos guardarrailes por los que limitemos que la IA se utilice para calentar aún más la Tierra al aumentar la producción de combustibles fósiles. O para vigilarnos a los ciudadanos como si estuviésemos en “1984” de George Orwell, raíz del desencuentro ya histórico entre Anthropic y Trump.
Escenarios de salvación
Ante este panorama, puede resultar tentador el pedir a la tecnología que no sólo se encargue de la ejecución, sino también de liderar la toma de decisiones.
No parece complicado mejorar el curso que están marcando nuestros líderes actuales: La formulación del problema está clara, más allá de los que siembran resistencias irrazonables, y buena parte del reto está en la complejidad de la transición necesaria, donde tiene un inmenso valor contar con un ejército de agentes cualificados que no duerme, descansa ni olvida.
¿Por qué no dejarlo en manos de una IA benevolente, al nivel del mejor gobernante humano que podamos imaginar, que sume a sus virtudes analíticas sensibilidad y sabiduría, digna de recibir las mejores alabanzas de Platón?
Mucho me temo que ese escenario podría no salir bien. Nunca nos quedaremos tranquilos de hasta dónde puede llegar una superinteligencia que, en su celo por preservar la naturaleza, nos considere una mera parte de la ecuación.¿Y si se excede de sus guardarrailes y se empeña en conseguir a toda costa la solución? ¿Nos convertiríamos en meros recursos que acabaríamos alimentando el monstruo que hemos creado? Tal vez sus decisiones no serían tan distintas de las de los andromedanos.
Aunque hay otras opciones que dan casi más miedo. Como que esas supercapacidades queden en las manos menos adecuadas, y se limiten a seguir sus instrucciones.
Pero, si salimos del modo apocalipsis, tenemos enfrente una gran oportunidad. El mejor escenario sería ser capaces de maximizar el potencial de esta tecnología tan poderosa para tenerla del lado bueno de la historia. Representando a la ciencia y no a la ideología.
Tal vez es el momento de pedirle que juegue ese papel y escucharle más. Y darle más peso en la gobernanza global. Sin ser un cuello de botella pero sin dejarnos avasallar. Marcándole los raíles y haciendo juntos la ruta. Que nos ayudará a seguir mejorando y optimizar. Con gran poder viene gran responsabilidad.
No nos salvará la tecnología por sí sola. Pero es mucho lo que puede aportar. Es mucho lo que podemos acelerar la solución que pide el planeta si usamos su fuerza exponencial para tomar mejores decisiones. Y hacer que las cosas pasen.
