Inteligencia artificial y entornos digitales
Inteligencia artificial y entornos digitales

Inteligencia artificial y entornos digitales

A medida que los entornos digitales se integran cada vez más en las diferentes esferas de la vida cotidiana, y que la innovación tecnológica supera la capacidad de los Estados para regular sus impactos, emergen nuevos riesgos para los derechos humanos que apenas estamos empezando a ver.

La riqueza y diversidad de los entornos digitales comprende un universo de herramientas tecnológicas como lo son las redes sociales, la inteligencia artificial, las plataformas de servicios de transporte, domicilios, comercio electrónico y banca digital, sistemas de almacenamiento digital e infraestructuras de nube, plataformas de comunicación y contenido multimedia, y la denominada gamificación donde usuarios interactúan a través de avatares en el “metaverso”. Con esta amplia variedad de entornos digitales, y los que faltan por ser inventados, es necesario contar con marcos de actuación claros que promuevan el diseño, implementación y uso responsable de las nuevas tecnologías.

La existencia de “entornos digitales e IA responsables” evita (i) la profundización de brechas digitales y socioeconómicas; (ii) sesgos que conduzcan a prácticas discriminatorias; (iii) riesgos para la privacidad y los derechos del consumidor; (iv) obstaculización de la rendición de cuentas y un adecuado canal de quejas y reclamos; (v) afectaciones a la salud mental; (vi) la desinformación; (vii) posible censura a opiniones legítimas; (viii) la creación y/o propagación de discursos de odio (hate speech) y polarización; (ix) afectaciones a los derechos de los trabajadores por la precarización del empleo debido al “gig work” propio de la economía digital; (x) dejar a personas sin trabajo ni reconversión laboral por cuenta de la automatización; (xi) un costo ambiental oculto, con una huella de carbono y consumo de agua significativos para mantener centros de datos construidos con minerales críticos; entre otros.

Para crear marcos éticos y abordar estos desafíos, es necesario entender cómo se diseñan, desarrollan y utilizan los entornos digitales, y cómo moldean nuestras dinámicas sociales, laborales y ambientales. Por ello, resulta prioritario para CREER habilitar, facilitar y liderar discusiones basadas en la evidencia a partir de investigación, acción e incidencia frente al desarrollo y uso responsable de estas tecnologías.

Así mismo, se hace necesario identificar oportunidades para que las plataformas digitales y la IA generen impactos positivos cuando se desarrollan de forma transparente, ética y centrada en el bienestar colectivo. Tecnologías como la IA pueden ayudar a identificar patrones sociales invisibles, facilitar procesos de transición justa, fortalecer la participación ciudadana, y contribuir a medir y comprender problemáticas sociales y ambientales más allá de los indicadores tradicionales. A partir de enfoques innovadores y metodologías no convencionales, es posible imaginar un futuro donde las plataformas digitales y la IA apoyen las transformaciones sociales responsables y enfocadas en los derechos humanos.

Desde CREER apostamos por una gobernanza tecnológica democrática, responsable y sostenible que conecte las voces de América Latina con el diseño de estas plataformas y la toma de decisiones sobre la materia. Nuestro enfoque busca transformar la IA y otros entornos digitales en herramientas con la capacidad de generar impactos colectivos positivos. El futuro de la agenda de empresas y derechos humanos depende de visibilizar lo invisible, especialmente en lo digital, y de convertir los posibles riesgos en oportunidades para todas y todos.

❝

Se estima
que más del

0 %

Se estima que más del

0 %

de las empresas en América Latina usan inteligencia artificial en al menos uno de sus procesos, mientras que en Colombia la brecha digital alcanza el 34.4% En un mismo ecosistema, un sector de la población automatiza tareas con IA y otro sigue excluido de lo más básico: la conectividad.

Objetivos

Proyectos relacionados

Sector trabajador

Memoria encuentro con trabajadores y sindicatos

Testimonio trabajadores y sindicatos

Cierres y diálogo multiactor

Documento completo

Resumen ejecutivo

Minerales de transición

El despliegue acelerado de minerales críticos para la transición energética y otras industrias estratégicas (agricultura, defensa, tecnología) nos sitúa ante una paradoja: la descarbonización del planeta depende de una intensificación de la actividad minera. Para CREER, esta rápida expansión conlleva riesgos críticos en materia de derechos humanos, dinámicas económicas locales y equilibrio ecosistémico. Nuestro trabajo se enfoca en analizar estos dilemas bajo un prisma de transición justa, fomentando marcos de gobernanza que mitiguen los impactos negativos y garanticen que la minería de ‘minerales para el futuro’ se desarrolle bajo estándares rigurosos de sostenibilidad, equidad y respeto por los derechos fundamentales, en diálogo entre diferentes actores.

Comunidades energéticas

Analizamos los desafíos de gobernanza y sostenibilidad que surgen en la implementación de modelos de generación descentralizada. Nuestra labor se centra en investigar cómo las estructuras de asociatividad local interactúan con los marcos regulatorios y los estándares de derechos humanos. A través de la investigación aplicada, evaluamos los riesgos de captura de rentas, los conflictos internos de toma de decisiones y las condiciones necesarias para que estos esquemas de autogestión garanticen una participación equitativa y transparente en el territorio.

Solar

Con un enfoque basado en la gestión responsable del suelo y el respeto por los medios de vida locales, en CREER aplicamos nuestra experiencia técnica en el sector fotovoltaico para promover una transición solar con integridad social. A través del análisis de entornos rurales, el fortalecimiento de la gobernanza local y el diseño de mecanismos de participación, buscamos que el despliegue de gran escala en América Latina no sólo aporte a la matriz energética, sino que fortalezca el tejido social. Nuestro propósito es liderar modelos de debida diligencia que aseguren que la infraestructura solar coexista con la seguridad alimentaria, los ecosistemas estratégicos y las vocaciones productivas de cada comunidad.

Recursos para la planeación territorial

Construcción de paz, participación ciudadana y DDHH

Perspectivas de transformación para la transición energética justa