El riesgo de confiar en una inteligencia

Imagen generada con IA

Por Lucas Pratesi
Tiempo de lectura: 34 minutos.

Mensaje del autor

Este ensayo es resultado de mucho tiempo de trabajo; de encontrar una limitación estructural en los abordajes actuales; de confiar en la intuición y buscar cómo y por donde seguir; de leer y escuchar a amigos, colegas y referentes de distintos campos de la ciencia.

Es el resultado de escribir sin resultados; de estar perdido y reconocerlo, y de confiar en el proceso y persistir; de escribir de vuelta y sentir que finalmente había algo ahí; de tener un equipo que te diga “publiquemos algo”; de que te den manija, te animen; y de que se tomen el tiempo de leerlo, comentarlo, sugerir ediciones y comunicarlo.

El texto busca hacer un diagnóstico detallado y lógicamente conectado de algunas causas que hacen que funcione mal nuestra sociedad. Cava profundo para intentar echar luz sobre la raíz. Hace mucha lupa sobre lo negativo, pero solo para entender a qué nos enfrentamos. Sobre el final, propone algunas ideas que orienten propuestas superadoras. 

Gracias a toda la gente que, directa o indirectamente, aportó en el proceso. Y a vos por tomarte el tiempo de leerlo.

Ojalá lo disfrutes.

Un foco peligroso

La crisis climática y ecológica es parte de una crisis mayor, una metacrisis, cuyas causas raíces se retrotraen a algo profundamente enraizado en nuestras sociedades: un desequilibrio en el tipo de inteligencia y en los objetivos que guían nuestro comportamiento. Este desequilibrio se puede sintetizar en la victoria de lo individual por sobre lo colectivo, lo inmediato por sobre lo sostenible, lo simple por sobre lo complejo. Es un factor que ha marcado el curso de la historia, y ha propiciado la conformación de un sistema económico que lo reproduce, formando así un ciclo vicioso.

El sistema económico vigente es la representación económica de este desequilibrio. Por diseño, promueve la búsqueda del beneficio individual sin perjuicio de los efectos colaterales negativos (externalidades negativas). Además, producto de la lógica de crecimiento indefinido del propio sistema, funciona como caja de resonancia, llevando esos efectos a escala planetaria.

La inteligencia artificial (IA) se presenta ahora como una herramienta poderosa que podría acelerar esta dinámica o, potencialmente, reorientarla hacia un enfoque más sostenible. Este ensayo explora cómo el tipo de inteligencia y objetivos que utilizamos y perseguimos son las fuerzas subyacentes que impulsan la metacrisis, y examina el papel crucial que la IA podría desempeñar en la redefinición de nuestro futuro colectivo.

Desinteligencia climática

La crisis climática no es novedad. Es sabido que el aumento de la temperatura media global genera mayor frecuencia e intensidad de eventos climáticos extremos como olas de calor, huracanes, inundaciones, sequías, aumento del nivel del mar, entre otros (IPCC, 2021). Estos fenómenos representan amenazas críticas para la civilización y la humanidad, tanto por su impacto directo en la vida y la seguridad como por su capacidad de desestabilizar ecosistemas enteros. Actúan como catalizadores de crisis humanitarias y tensiones geopolíticas, forzando desplazamientos masivos y desencadenando conflictos por recursos críticos (McLeman, 2019). 

Pero más aún, la crisis climática y ecológica actual amenaza la estabilidad de nuestro sistema civilizatorio y la supervivencia de nuestra especie al alterar las condiciones de habitabilidad. El cambio climático está causando y causará cambios irreversibles en los ecosistemas terrestres, y desestabilizará las estructuras sociales a nivel global (IPCC, 2021). 

Algunos enfoques entienden al cambio climático como parte de una crisis más profunda que abarca dimensiones económicas, sociales, políticas y culturales, entre otras. En este sentido, el reconocido autor y orador Daniel Schmachtenberger utiliza el término metacrisis

El concepto de metacrisis refleja la interconexión de estas diferentes crisis, originadas por causas raíces que operan en el núcleo de las complejas estructuras que sostienen nuestro sistema civilizatorio actual.

Estas causas raíces están relacionadas con el tipo de inteligencia con la que nos comportamos y tomamos decisiones como civilización global. En este contexto, autores como Daniel Schmachtenberger y John Vervaeke han desarrollado una distinción clave entre inteligencia «estrecha» (narrow) e inteligencia “amplia» (wide) (Schmachtenberger, 2022; Vervaeke, 2019). Se puede hacer también un paralelismo con las teorías de dos grandes sociólogos: Max Weber y Émile Durkheim. La inteligencia o perspectiva estrecha, alineada con el enfoque de Weber y su individualismo metodológico, se centra en la optimización de una única variable o un conjunto limitado de variables, orientada generalmente hacia el beneficio propio o del grupo de referencia, como un individuo, una familia, una empresa o un país.  Este enfoque busca maximizar la eficiencia, manteniendo un enfoque específico y dirigido.

En contraste, la inteligencia amplia, que se refleja en el pensamiento de Durkheim, considera múltiples variables y sus interconexiones, buscando no solo el beneficio propio, sino también el bienestar colectivo. Durkheim enfatiza la cohesión social y la solidaridad como elementos esenciales para la estabilidad y el equilibrio social (Durkheim, 1893).

En la misma línea, el concepto de perspectiva o inteligencia amplia considera de forma simultánea aspectos como la justicia, la empatía, la ética y la sostenibilidad. Esta perspectiva es la que se adopta al intentar comprender lo que se suele llamar “big picture” – la imagen completa – a largo plazo, lo que resulta crucial para abordar problemas sistémicos en un mundo interconectado. 

Las razones que llevan a adoptar una perspectiva amplia o estrecha pueden depender de factores relacionados con la forma en que se abordan los problemas. La inteligencia estrecha tiende a resolver problemas de forma rápida, ejecutiva y aislada, mientras que la inteligencia amplia requiere un análisis más lento y que integre diferentes variables en escenarios de alta complejidad.

Según Schmachtenberger, la clave para entender y abordar la metacrisis radica en re-evaluar y rediseñar las dinámicas de incentivos que orientan nuestro comportamiento para favorecer una inteligencia y valores ‘amplios’. Esto implica una transformación cultural y estructural que replantee profundamente cómo valoramos y qué objetivos perseguimos a nivel individual, colectivo y global (Schmachtenberger, 2022; Schmachtenberger, 2023).

A lo largo de la historia, sin embargo, la perspectiva estrecha ha proporcionado ventajas competitivas inmediatas, porque permite desarrollar comportamientos y adoptar tecnologías que quienes tienen una perspectiva amplia no están dispuestos a adoptar, lo que a su vez ha incentivado su adopción y perpetuación a pesar de sus consecuencias negativas (Schmachtenberger, 2022; Schmachtenberger, 2023). 

Aunque el desarrollo de una nueva tecnología presente potenciales impactos negativos, si la misma genera ventajas para el individuo o grupo social, entonces se vuelve casi obligatoria. Quienes la usan trascienden, mientras quienes deciden no hacerlo, no.

Un ejemplo de esto es el desarrollo de tecnologías agrícolas: “Con el paso del tiempo, algunas sociedades desarrollaron tecnologías que permitieron labrar la tierra con mayor intensidad y potencia. El arado fue evolucionando y comenzó a ser empujado por ganado. La productividad en la producción de alimentos se disparó, así como también la distancia en el vínculo entre los humanos y sus animales azotados.” (Arroyo, 2024).

Este es un caso claro de “trampa multipolar”. Esto refiere a una situación en la que actores (individuos, empresas, naciones), debido a la competencia con otros actores, se ven inducidos a adoptar comportamientos beneficiosos para sí mismos en el corto plazo, pero que pueden ser perjudiciales para otros o para el conjunto en el largo plazo. 

Aun cuando cada actor sea consciente de las consecuencias negativas de sus acciones, siente que no puede cambiar su comportamiento sin arriesgarse a perder en la competencia. Y quienes intentan adoptar un enfoque diferente, más responsable o prudente, se encuentran en desventaja frente a quienes continúan operando bajo un comportamiento de optimización estrecha.

Optimización de bolsillo

La dinámica de optimización estrecha se manifiesta claramente en el sistema económico actual, particularmente en la forma en que se gestionan las externalidades negativas. Las externalidades negativas son aquellos costos que no se reflejan en el precio de los productos y servicios, pero que afectan de manera significativa a terceros y a la sociedad en su conjunto (Pigou, 1920). 

Por ejemplo, cuando una fábrica contamina un río sin asumir el costo de esa contaminación en el precio de sus productos, la comunidad que depende de ese río sufre las consecuencias. El enfoque estrecho del sistema económico consiste en optimizar el beneficio individual o empresarial a corto plazo, ignorando los impactos más amplios y a largo plazo sobre el entorno y la sociedad.

Adam Smith, en 1776, planteó que la competencia basada en el interés personal conduciría, a través de la «mano invisible», a beneficios para la sociedad en su conjunto. Sin embargo, este principio no contempla las externalidades negativas, es decir, los costos ocultos que no son asumidos por los agentes económicos que los generan (Smith, 1776). En un mercado donde predominan las dinámicas de inteligencia estrecha, estos costos no son transmitidos de manera efectiva a través de los precios, lo que conduce a distorsiones que impactan negativamente en el bienestar de las personas y el ambiente.

El sistema capitalista ha sido un motor formidable de innovación y progreso tecnológico, impulsando desarrollos que han transformado radicalmente nuestra manera de vivir. Sin embargo, en un sistema donde el objetivo principal es el crecimiento económico indefinido, lo que además termina ocurriendo es un aumento de la contaminación total (y el agotamiento de recursos), incluso ante mejoras en la eficiencia tecnológica que reducen la contaminación individual (Wiedmann et al. 2020). Ya desde 1865, el economista inglés William S. Jevons había observado este fenómeno al postular que las mejoras en la eficiencia de una tecnología suelen llevar a un mayor consumo total, lo que terminó conociéndose como “Paradoja de Jevons” (Jevon, 1865; Alcott, 2005). 

Para entender mejor esta paradoja, pensemos en la contaminación total como la cantidad producida multiplicada por cuánto contamina cada unidad. Si logramos que cada unidad contamine menos, pero producimos más, la contaminación total posiblemente aumentará. 

Un ejemplo claro es el de las lamparitas LED. Son mucho más eficientes que las bombillas tradicionales y consumen menos energía. Sin embargo, debido a su eficiencia y bajo costo, la gente y las instituciones tienden a usar más luces en más lugares, lo que suele resultar en un mayor consumo total de energía. Lo mismo ha pasado con los electrodomésticos, los celulares y los aviones, entre muchos otros desarrollos tecnológicos. El incremento en la eficiencia de un bien o servicio posibilita una expansión en su acceso que, si bien es algo positivo, ignora los efectos negativos del salto exponencial en el consumo energético y material que ello implica.

De este modo, las externalidades negativas crecen tanto por optimización estrecha como por crecimiento general de la economía, el cual, como ya fue mencionado, está impulsado por una lógica capitalista. Lo que motiva a la mayoría de las empresas es la generación de beneficio económico (plata, dinero). Esto las lleva a desarrollar estrategias para incentivar y dinamizar el consumo (por ejemplo, con campañas de marketing agresivas) (Baudrillard, 1998). Del mismo modo, los países suelen enfocarse en el crecimiento económico como su principal objetivo, midiendo el éxito mediante indicadores como el Producto Bruto Interno (PBI). Esta práctica se basa en la creencia de que un mayor PBI (todo lo producido por una economía) se traduce en una mayor capacidad de compra individual y, por ende, en una mejor calidad de vida. 

Sin embargo, esta es una perspectiva simplista que oculta otras verdades importantes. El crecimiento económico se asume como sinónimo de desarrollo, cuando en realidad son conceptos distintos. El aumento en la capacidad de compra mejora la calidad de vida hasta cierto punto, a partir del cual el bienestar y la felicidad individual dependen de otros factores no relacionados con el poder adquisitivo (el dinero), como la calidad y cantidad de los vínculos personales (Easterlin, 1974; Jackson, 2009; Diener & Seligman, 2002; Helliwell & Putnam, 2004).

Esta miopía entre crecimiento económico y felicidad lleva al sistema económico a promover una cultura que asocia el bienestar con la adquisición continua de bienes, escalando aún más las consecuencias negativas. A medida que la economía crece, las externalidades negativas no solo se vuelven más frecuentes, sino también más complejas e interconectadas. 

Por lo tanto, dentro del sistema económico vigente se identifican dos problemas fundamentales: uno de formato, que incentiva la externalización de costos, y otro de escala, donde la búsqueda constante de crecimiento económico y el fomento del consumismo agravan los impactos negativos.

Relaciones estrechas

Este enfoque estrecho permea también nuestras interacciones sociales. La sociedad contemporánea ha superado ampliamente el límite cognitivo de personas con las que podemos mantener vínculos significativos. Este límite, conocido como el «número de Dunbar», sugiere que los seres humanos podemos sostener relaciones estables con aproximadamente 150 personas, distribuidas en distintos niveles de cercanía emocional (Dunbar, 1992). Más allá de este número aproximado, nuestras capacidades cognitivas y emocionales se ven sobrecargadas, lo que lleva a que las relaciones sean más superficiales y transaccionales. Superar este límite tiende a hacer que las interacciones se vuelvan más impersonales.

La racionalidad instrumental domina estas relaciones, donde la eficiencia y el rendimiento son los principales valores, dejando de lado la conexión emocional y la vulnerabilidad que fomentan una inteligencia amplia y equilibrada, lo que retroalimenta el enfoque de optimización estrecha. El cambio hacia relaciones más racionales y menos emocionales, provocado por la superación del número de Dunbar, se entrelaza con la dinámica de incentivos descrita por Schmachtenberger. En un escenario de incentivos que ya nos predispone a lo estrecho, la racionalidad instrumental que guía nuestras interacciones en un entorno sobrepoblado fomenta aún más un enfoque de optimización estrecha. 

El crecimiento y la especialización de la economía acentúan esta dinámica. A medida que las economías crecen, se especializan y se vuelven más complejas, se produce una atomización en el mercado de trabajo y en las cadenas de suministro. Esto significa que cada persona realiza una tarea cada vez más específica en un entorno cada vez más diversificado. Esta complejización crea una dependencia mutua entre individuos y sectores, pero que dificulta la formación de conexiones integrales y significativas con quienes nos relacionamos diariamente. 

Cada individuo se convierte en una pieza de una enorme y complicada máquina, donde la mayoría de las interacciones se limitan a transacciones específicas y funcionales, dejando poco espacio para la conexión emocional y la colaboración colectiva.

Incluso si lográramos establecer esas conexiones significativas y adoptáramos comportamientos guiados por la búsqueda del bienestar general, la amplitud y complejidad de la economía y de la sociedad hacen que percibamos como insignificante nuestra capacidad de influencia. La enorme red de interdependencias y la escala global de la economía generan una sensación de impotencia, donde los esfuerzos individuales parecen diluirse en la inmensidad del sistema. 

Esta percepción de incapacidad para efectuar cambios significativos desalienta la adopción de una perspectiva amplia, reforzando en cambio la optimización estrecha centrada en beneficios inmediatos y tangibles. De esta manera, además de deteriorar nuestras relaciones interpersonales, la estructura económica también perpetúa una dinámica en la que el cambio sistémico se ve como una tarea desalentadora e inalcanzable.

Estos factores, junto con otros elementos como el ritmo acelerado de la vida moderna, la presión constante por la productividad o la urbanización descontrolada exacerban esta dinámica de fragmentación social. El ritmo acelerado de la vida moderna a menudo insta a las personas a priorizar tareas y responsabilidades inmediatas sobre la construcción y mantenimiento de relaciones significativas. La presión constante por la productividad, impuesta tanto en el ámbito laboral como en el personal, refuerza una cultura donde la eficiencia y el logro de metas se valoran por encima de las relaciones humanas, contribuyendo a un entorno social cada vez más atomizado. La urbanización descontrolada, por otro lado, puede llevar a la creación de entornos altamente densos pero socialmente aislados, donde las interacciones se reducen a encuentros breves y transacciones impersonales (Putnam, 2000).

Los factores recién mencionados no parecen ser propios del sistema capitalista, dado que pueden encontrarse en otros sistemas de organización económica. Entonces, el capitalismo, en su lógica y estructura, es más bien una herramienta aceleradora de una dinámica de incentivos pre-existente y perversa que ha moldeado las civilizaciones a lo largo de la historia. Es un sistema que funciona como caja de resonancia para la optimización estrecha, llevando sus consecuencias indeseadas (externalidades negativas) a escala planetaria.

Inteligencia Artificial de doble filo: ¿aceleración o solución?

¿Qué tiene que ver la inteligencia artificial con todo lo mencionado hasta el momento? La inteligencia artificial (IA) es un campo de la informática que se centra en la creación de sistemas capaces de realizar tareas que normalmente requieren inteligencia humana, como el reconocimiento de patrones, la toma de decisiones y el aprendizaje a partir de datos. Utilizando algoritmos avanzados y modelos de aprendizaje automático, la IA puede analizar grandes volúmenes de información, identificar tendencias y optimizar procesos en una amplia variedad de aplicaciones (Russell & Norvig, 2021).

La IA aparece entonces como un potente acelerador de las lógicas y tendencias que gobiernan nuestro mundo. Ofrece innumerables beneficios y avances tecnológicos, pero también posee la capacidad de intensificar y exacerbar los problemas subyacentes de nuestro sistema civilizatorio, especialmente aquellos relacionados con el consumo y la eficiencia productiva.

Un ejemplo de esto son las redes sociales. Facebook, Instagram o Tik Tok nos permiten realizar cosas que jamás nos hubiéramos imaginado hace 50 años, son fascinantes. Sin embargo, están diseñadas para explotar los mecanismos dóciles de nuestra biología, los puntos débiles de nuestro cerebro. Quienes desarrollan estas aplicaciones diseñan sus algoritmos para captar y retener nuestra atención con el fin de maximizar el rendimiento económico a través de la venta de publicidad (Zuboff, 2019).

De esta manera, nos convierten en meros consumidores de contenido gratis para vender nuestro tiempo de atención a las empresas que pagan por la publicidad, empujándonos hacia un ciclo constante de consumo de contenido y productos. Esta manipulación algorítmica se aprovecha de nuestras inclinaciones psicológicas hacia la gratificación inmediata, desviando tiempo y energía de actividades que podrían promover un desarrollo personal y colectivo más equilibrado (Schønning et. al, 2020). En otras palabras, las redes sociales son un ejemplo más del desarrollo tecnológico al servicio del crecimiento económico, ignorando el bienestar real del individuo. 

Si bien estas plataformas permiten interactuar con un gran número de individuos, la calidad de estas interacciones suele ser superficial y rara vez satisface nuestras necesidades emocionales. Fomentan la ilusión de relaciones amplias, pero estas conexiones suelen carecer de la intimidad y la profundidad necesarias para un apoyo emocional genuino.

A pesar de la aparente promoción de conectividad, amplifican la sensación de desconexión y alienación. Como resultado, hemos visto un aumento significativo en el consumismo digital con efectos adversos en nuestra salud mental y bienestar general (Twenge et al., 2018). Más conexiones, pero más superficiales y estrechas.

Los algoritmos detrás de las redes sociales generan también un fenómeno conocido como burbujas de información, en las que los algoritmos priorizan el contenido que refuerza nuestras creencias existentes en lugar de exponerlas a desafíos. Al personalizar y filtrar la información que recibimos, estos algoritmos dificultan nuestro acceso a perspectivas y narrativas diferentes.

Además, estas burbujas pueden convertirse en cámaras de eco digitales, que refuerzan y amplifican nuestras opiniones y creencias al limitar nuestras interacciones únicamente con quienes comparten puntos de vista semilares (Pariser, 2011). Esta polarización de la información promueve la polarización y radicalización, erosionando así el consenso social necesario para la vida en democracia.

Yendo un paso más, los algoritmos detrás de algunas redes sociales promueven un intercambio tóxico, donde los comentarios y discursos de odio obtienen mayor viralización al apelar a nuestras emociones y reacciones más extremas. Las redes sociales se han vuelto un entorno que premia (viraliza) reacciones estrechas y negativas como las opiniones simplistas, las formas violentas y el contenido engañoso. Se genera así un ciclo pernicioso, donde las plataformas que deberían facilitar la información veraz y equilibrada se han convertido en vectores de desinformación y violencia digital, fragmentando aún más el discurso público.

La combinación de estos fenómenos (la captura de atención, la radicalización y la toxicidad) crea una versión extrema de la posverdad, en la que los hechos objetivos se subordinan a las narrativas emocionales que captan más atención (Vosoughi, Roy, & Aral, 2018). Este entorno distorsionado permite que las teorías de conspiración y la desinformación (como el terraplanismo, el movimiento anti-vacunas o el negacionismo climático) se propaguen rápidamente, socavando la confianza en las instituciones y en el proceso democrático mismo.

Todos estos son ejemplos de cómo el desarrollo tecnológico, bajo un esquema de incentivos estrecho, genera un aumento de externalidades negativas.

Esta dinámica se exacerba por el hecho de que las mismas empresas que desarrollan estos algoritmos y plataformas son las que más se benefician de esta arquitectura de incentivos. Al priorizar el rendimiento económico propio por sobre el bienestar social, estas corporaciones no tienen incentivos para autorregularse o mitigar los daños colaterales de sus modelos de negocio (Zuboff, 2019). Por lo tanto, la tarea de regular estas prácticas recae en un sistema democrático que ya está debilitado por la misma desinformación y polarización que debe combatir. Nuevamente, la paradoja es evidente: las herramientas diseñadas para conectarnos y democratizar el acceso a la información están erosionando los pilares fundamentales de la democracia (Persily & Tucker, 2020), mientras que la capacidad de los Estados de regular eficazmente estas empresas se ve socavada por la influencia que ejercen en la opinión pública y en los procesos políticos.

El caso de las redes sociales es solo una muestra de cómo la inteligencia artificial, bajo el diseño sistémico actual, probablemente replicará, potenciará y acelerará la generación de externalidades negativas complejas e interconectadas. Es un ejemplo de cómo opera la lógica detrás de la paradoja de Jevons: una herramienta nueva, que mejora la capacidad productiva en un entorno con incentivos estrechos, genera un incremento en las externalidades negativas. 

El resultado probable, bajo la configuración actual de incentivos, es que la IA continúe y acelere la dinámica de impactos negativos a escala global y gravedad planetaria. Aunque la IA puede mejorar la eficiencia de algunos procesos, esa eficiencia generará mayor crecimiento económico estrecho, y por lo tanto también mayores y más complejas externalidades negativas.

Daniel Schmachtenberger aborda estos puntos con Nate Hagens en el podcast ‘The Great Simplification’, enfatizando que la IA tiene el potencial de amplificar las dinámicas competitivas y de optimización estrecha que ya existen en el capitalismo moderno, exacerbando las externalidades negativas y llevando a una mayor fragmentación social y ecológica (Schmachtenberger, 2022; Schmachtenberger, 2023).

Sin embargo, pese a sus potenciales riesgos, la IA puede también ofrecer herramientas para reorientar nuestra civilización hacia una dirección más sostenible y equitativa si se desarrolla, utiliza y gobierna bajo un conjunto de valores y objetivos amplios. En una era donde las decisiones correctas no están claras y las externalidades negativas son, muchas veces, consecuencias inevitables de un mundo profundamente interconectado, la capacidad que tiene la IA de procesar grandes cantidades de información, de trabajar sobre problemas complejos y de optimizar múltiples variables, es precisamente lo que necesitamos (Vinuesa et al., 2020).

Además, su capacidad para identificar patrones y soluciones que pueden no ser evidentes para los humanos puede ser utilizada para prever y mitigar las externalidades negativas de nuestras acciones y encontrar nuevas soluciones a problemas hasta ahora irresueltos. Donde cada acción tiene consecuencias negativas indeseadas, la IA puede servir como una herramienta para navegar este terreno complejo, evaluando las repercusiones de nuestras decisiones y guiándonos hacia soluciones que maximicen tanto el bienestar individual como global. 

Por ejemplo, la IA puede ayudar a diseñar ciudades inteligentes que minimicen el impacto ambiental, optimicen el uso de la energía y mejoren la calidad de vida de sus habitantes. Puede también contribuir a la creación de sistemas agrícolas sostenibles, que equilibren la productividad con la conservación del ecosistema. Puede también facilitar la toma de decisiones en políticas públicas, integrando una amplia gama de variables y perspectivas que aseguren que las soluciones sean justas y sostenibles (Floridi et al., 2018). Esta visión requiere un marco regulatorio que incentive el uso de la IA para objetivos amplios, estableciendo estándares éticos y de transparencia que aseguren su alineación con el bien común.

Para lograr orientar el desarrollo de la IA en este sentido, es esencial que los desarrolladores, reguladores y usuarios de la IA adopten una mentalidad que valore la cooperación y el bienestar colectivo. Las empresas tecnológicas deben asumir la responsabilidad de diseñar sistemas que busquen contribuir positivamente a la sociedad más allá del beneficio económico (Schmachtenberger, 2022). También deben tener en cuenta el impacto de su consumo energético y material para minimizar su huella ambiental. Los gobiernos deben establecer políticas que promuevan el uso ético de la IA y eviten su explotación para fines exclusivamente lucrativos. Y la sociedad en general debe estar dispuesta a participar en un diálogo continuo sobre cómo queremos que estas tecnologías influyan en nuestras vidas.

Palabras finales

La combinación de valores estrechos, un capitalismo desenfrenado y el uso irresponsable de la tecnología nos coloca en un punto crítico de supervivencia civilizatoria. Los sistemas que operan bajo valores y metas estrechos son propensos a generar externalidades negativas. Cuando la complejidad de estos sistemas aumenta, las externalidades negativas tienden a volverse inmanejables y generan crisis sistémicas. 

Actualmente, las externalidades no gestionadas y la creciente complejidad de los desafíos globales alcanzan escalas que proyectan distopías o catástrofes generalizadas. Tenemos el desafío de adoptar un enfoque amplio y sostenible que priorice el bienestar a largo plazo y la salud ecológica del planeta, integrando estos principios en la base de cómo diseñamos, utilizamos y regulamos la tecnología.

Somos seres duales. Por un lado, somos capaces de un individualismo extremo, donde priorizamos nuestros intereses y nos relacionamos con los demás con una visión estrecha. Desde esta perspectiva, se suele ver al otro como alguien ajeno, alguien con quien se comparte este mundo pero que no tiene nada que ver con uno mismo. Más allá de la gente con la que nos relacionamos, queremos o identificamos, son pocos quienes suelen sentir algún tipo de lazo para con el prójimo. Por otro lado, podemos sentirnos parte de una hermandad común, querer y buscar lo mejor para el conjunto, conectar con el otro por sentirnos parte de un mismo superorganismo.

A lo largo de la historia, el individualismo parece haber sido un comportamiento evolutivo. A grandes rasgos, en nuestras sociedades (y sobre todo en occidente) suele predominar un criterio de comportamiento más estrecho que amplio, más individualista que colectivo, más para el corto que para el largo plazo. Operan aquí varios factores, entre ellos: el instinto de supervivencia, la gama de tecnologías y metodologías a utilizar, el foco, la velocidad de progreso y el dominio:

  • Instinto de supervivencia: en situaciones de supervivencia, la prioridad inmediata se reduce al propio bienestar, dejando poco margen para consideraciones amplias o colectivas. El enfoque individualista se adapta mejor y más rápidamente a estas circunstancias, mientras que un enfoque holístico puede llevar al individuo a enfrentar dilemas que podrían interferir con decisiones rápidas y decisivas necesarias en momentos críticos. Este instinto básico puede, por lo tanto, reforzar comportamientos individualistas en situaciones extremas, escenario común a lo largo de la historia.
  • Gama de tecnologías y metodologías: como fue ya descrito, un comportamiento individualista permite utilizar un espectro más amplio de herramientas y metodologías, incluyendo aquellas que pueden ser éticamente cuestionables, debido a su menor preocupación por las consecuencias sobre los demás. En contraste, aquellos con un enfoque amplio se restringen a métodos que respetan la dignidad y el bienestar de todos, limitando su gama de opciones pero adhiriendo a principios éticos más estrictos.
  • Foco: los individuos con valores y objetivos amplios tienden a considerar múltiples variables simultáneamente, lo que hace que su proceso de toma de decisiones sea más complejo y difícil de optimizar. Por el contrario, los individualistas a menudo obtienen ventajas comparativas al enfocarse en un número limitado de metas o variables, facilitando una optimización más directa y efectiva de sus esfuerzos.
  • Velocidad del progreso: la simplificación de objetivos del enfoque individualista permite un avance más rápido, ya que concentra la atención en menos aspectos de forma simultánea. En cambio, quienes adoptan un enfoque amplio suelen progresar más lentamente, ya que buscan soluciones más equilibradas y sostenibles.
  • Dominio: los individuos con una orientación amplia pueden mostrar una menor tendencia al dominio en situaciones cotidianas, dado su interés por el bienestar colectivo, una mayor empatía y un mayor peso en no perjudicar a otros. Esto contrasta con quienes adoptan un enfoque individualista, quienes, al priorizar el beneficio propio sobre el general, en los casos más extremos pueden estar dispuestos a dominar o violentar a otros para alcanzar sus objetivos personales.

Aunque antes el individualismo podría haberse justificado bajo el argumento de que era un comportamiento que favorecía la supervivencia y expansión frente a amenazas externas, esto de seguro ya no es cierto. Ha dejado de ser beneficioso, porque pone en riesgo a la propia especie, y por ende también a los individuos. Esta justificación ha sido una perspectiva dominante durante mucho tiempo y sigue siendo relevante para quienes abogan por enfoques más estrechos.

Sin embargo, investigaciones recientes en biología evolutiva como la teoría de la endosimbiosis de Lynn Margulis, sugieren que la cooperación ha sido un motor igualmente importante (si no más) en la evolución de la vida. La cooperación, más que la competencia, ha permitido la formación de organismos complejos y ecosistemas sostenibles (Margulis, 1970; Nowak & Coakley, 2013).

Además, gracias al dominio tecnológico que ejercemos sobre nuestro entorno, los desafíos de la naturaleza ya no dictan una necesidad de supervivencia individualista marcada por la competencia con otras especies o por una mayor dominación del entorno. La mayoría de nuestros problemas son auto-generados, ya sea por conflictos internos, externalidades negativas o por una distribución regresiva de los frutos de la innovación tecnológica.

Hemos creado una civilización compleja, cuyo progreso, motorizado en buena medida por el individualismo, permitió resolver muchos problemas, pero creó otros. Estos problemas no son fáciles de resolver ni triviales. Los tiempos que corren nos exigen adaptar un enfoque más equilibrado, que balancee mejor lo estrecho con lo amplio, que pondere la cooperación. De lo contrario, terminaremos socavando las bases de nuestro propio sustento, y sucumbiremos como civilización por no haber madurado de la inteligencia a la sabiduría.

El predominio del enfoque estrecho ha permitido avances significativos. El enfoque estrecho nos permitió desarrollar tecnología y capacidades materiales para superar grandes adversidades e inclemencias de la vida. Pudimos derrotar enfermedades e infecciones, evitar la dependencia del clima para sobrevivir, neutralizar amenazas de otras especies y mejorar nuestra calidad y esperanza de vida. Sin embargo, como ya fue mencionado, lo estrecho en exceso es perjudicial.

Por otro lado, un enfoque excesivamente amplio puede llevar a la parálisis. Intentar optimizar todo al mismo tiempo impide el progreso. Es fundamental, por tanto, encontrar un equilibrio entre ambos enfoques: una inteligencia integradora. El pensamiento amplio nos ayuda a analizar el panorama general y establecer una dirección estratégica, mientras que el enfoque estrecho nos permite ejecutar acciones concretas con eficacia. Juntos, deben trabajar en armonía para lograr un progreso equilibrado y sostenible.

La historia de la ciencia podría analizarse como una carrera por el entendimiento y dominio de nuestro entorno, en la que el desarrollo de nuestras capacidades técnicas y materiales ha superado ampliamente la evolución de nuestras estructuras sociales y políticas. Hemos logrado avances impresionantes en campos como la informática, la química, la física, la medicina, la ingeniería y la biotecnología. Pero nuestras formas de organización social, que incluyen la gobernanza, la regulación, la educación y las normas éticas, no han mantenido el mismo ritmo de desarrollo. Esta brecha podría considerarse una de las causas fundamentales de los problemas y desafíos que enfrentamos en la actualidad.

Tenemos la responsabilidad de evitar un colapso civilizatorio. Pero además tenemos la oportunidad de mejorar en ámbitos como la organización social y el conocimiento psicológico, emocional, sociológico y filosófico (entre otros campos), y así crear una sociedad menos pobre y desigual, donde haya una real fraternidad. Podríamos coexistir armoniosamente con la naturaleza, sin ejercer violencia ni escindirnos de ella, empleando nuestra inteligencia para prevenir efectivamente los riesgos asociados con la fauna y el entorno. Esta coexistencia nos permitiría vivir integrados en ecosistemas naturales, donde nuestro conocimiento avanzado serviría para proteger y preservar estos entornos, evitando aislarnos en ciudades grises de puro asfalto.

En vez de comportarnos como abusivos o matones de la vida que nos rodea, podríamos convertirnos en guardianes responsables, asumiendo un rol de liderazgo en la conservación del ambiente. Principalmente por nosotros mismos, por nuestra calidad de vida y por la propia supervivencia. Pero también por el resto de las especies, adoptando un rol similar al de un hermano mayor que cuida de sus hermanos menores cuando son niños. Si bien su inteligencia es superior, no lo es así su derecho a la vida.

Estamos redefiniendo la propia esencia de nuestra civilización en el siglo XXI, y necesitamos reconfigurar la tecnología social de nuestras estructuras organizativas. Esto implica rediseñar nuestras instituciones, sistemas de gobernanza y modelos de interacción social para que sean capaces de abordar de manera efectiva los desafíos globales. Este cambio de paradigma es esencial para asegurar un futuro viable para las generaciones actuales y futuras, y requiere una revisión profunda de nuestros sistemas de valores, de conciencia, de comunicación, de políticas y de educación.

Los últimos 250 años de debate político estuvieron marcados por el lema de la Revolución Francesa, «liberté, égalité, fraternité». Las discusiones giraron en torno a un eje bidimensional que oscila entre libertad e igualdad, donde posiciones ideológicas abogan por una combinación que, a grandes rasgos, pondera una en detrimento de la otra. Esto derivó en un falso dilema, presentado erróneamente como una elección excluyente, una simplificación que no refleja la complejidad de la vida humana. Debemos superar esta falsa dicotomía, y reconocer que también hay otros valores importantes (como “fraternité”) para integrar en nuestra visión del mundo. Enfocarnos exclusivamente en maximizar un valor a expensas de otros nos lleva a ignorar aspectos esenciales del bienestar humano.

Mientras que la inteligencia estrecha es necesaria para resolver problemas específicos y obtener resultados inmediatos, es la inteligencia amplia la que debe guiar nuestra sociedad. Para lograr este equilibrio, debemos integrar los valores y perspectivas estrechos y amplios de modo que se complementen.

La sabiduría, en su esencia más profunda, es la capacidad de armonizar múltiples variables y opciones disponibles. Es el arte de equilibrar lo complejo, de encontrar el punto medio entre fuerzas opuestas para crear una sociedad cohesiva y sostenible. 

Bibliografía

  • Alcott, B. (2005). «Jevons’ paradox.» Ecological Economics, 54(1), 9-21.
  • Arroyo, J. I. (2024). El gran búfalo. El Gato y La Caja. https://elgatoylacaja.com/el-gran-bufalo
  • Baudrillard, J. (1998). The Consumer Society: Myths and Structures. Sage Publications.
  • Diener, E., & Seligman, M. E. P. (2002). «Very Happy People.» Psychological Science, 13(1), 81-84.
  • Durkheim, É. (1893). The Division of Labor in Society. Free Press.
  • Easterlin, R. A. (1974). «Does Economic Growth Improve the Human Lot? Some Empirical Evidence.» In Nations and Households in Economic Growth. Academic Press.
  • Floridi, L., et al. (2018). «AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations.» Minds and Machines, 28, 689-707.
  • Foster, J. B., Clark, B., & York, R. (2010). The Ecological Rift: Capitalism’s War on the Earth. Monthly Review Press.
  • Helliwell, J. F., & Putnam, R. D. (2004). «The Social Context of Well-Being.» Philosophical Transactions of the Royal Society B: Biological Sciences, 359(1449), 1435-1446.
  • IPCC (2021). Sixth Assessment Report. Intergovernmental Panel on Climate Change.
  • Jackson, T. (2009). Prosperity Without Growth: Economics for a Finite Planet. Earthscan.
  • Jevons, W. S. (1865). The Coal Question: An Inquiry Concerning the Progress of the Nation, and the Probable Exhaustion of Our Coal Mines. Macmillan and Co.
  • Margulis, L. (1970). Origin of Eukaryotic Cells. Yale University Press.
  • McLeman, R. A. (2019). «International migration and climate adaptation in an era of hardening borders”. Nature Climate Change 9 (12), 911-918.
  • Nowak, M. A., & Coakley, S. (2013). Evolution, Games, and God: The Principle of Cooperation. Harvard University Press.
  • Pariser, E. (2011). The Filter Bubble: What the Internet Is Hiding from You. Penguin Press.
  • Persily, N., & Tucker, J. A. (2020). «Social media and democracy: The state of the field, prospects for reform.» Social Media and Democracy, 1-23.
  • Pigou, A. C. (1920). The Economics of Welfare. Macmillan and Co.
  • Russell, S., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
  • Schmachtenberger, D. (2022, October 26). Modeling the Drivers of the Metacrisis (Episode 42) [Podcast]. In The Great Simplification. Podcast by Nate Hagans. 
  • Schmachtenberger, D. (2023, May 23). Artificial Intelligence and The Superorganism [Podcast]. In The Great Simplification. Podcast by Nate Hagans. 
  • Schønning, V., Hjetland, G. J., Aarø, L. E., & Skogen, J. C. (2020). Social Media Use and Mental Health and Well-Being Among Adolescents – A Scoping Review. Frontiers in psychology, 11, 1949.
  • Smith, A. (1776). An Inquiry into the Nature and Causes of the Wealth of Nations. W. Strahan and T. Cadell.
  • Twenge, J. M., Joiner, T. E., Rogers, M. L., & Martin, G. N. (2018). «Increases in depressive symptoms, suicide-related outcomes, and suicide rates among U.S. adolescents after 2010 and links to increased new media screen time.» Clinical Psychological Science, 6(1), 3-17.
  • Vervaeke, J. (2019). Awakening from the Meaning Crisis [YouTube series]. https://www.youtube.com/playlist?list=PLND1JCRq8Vuh3fWm9sAl9bfodeHPhg1Fj
  • Vinuesa, R., et al. (2020). «The role of artificial intelligence in achieving the Sustainable Development Goals.» Nature Communications, 11(1), 1-10.
  • Vosoughi, S., Roy, D., & Aral, S. (2018). «The spread of true and false news online.» Science, 359(6380), 1146-1151.
  • Weber, M. (1922). Economy and Society: An Outline of Interpretive Sociology. University of California Press.
  • Wiedmann, T., Lenzen, M., Keyßer, L. T., & Steinberger, J. K. (2020). Scientists’ warning on affluence. Nature Communications, 11(1), 3107.
  • York, R. (2012). «Do alternative energy sources displace fossil fuels?» Nature Climate Change, 2(6), 441-443.
  • Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio