Sabemos del gran poder de la tecnología. Rige nuestro día a día, al punto de que ya rara vez nos detenemos a pensarlo. La hemos incorporado casi como una parte inherente de nuestras vidas gracias a las soluciones que nos facilita. Pero los efectos de las tecnologías que creamos también pueden tornarse imprevistos, peligrosos, no deseados… Y con avances vertiginosos y aún más transformadores en el horizonte, la necesidad de desarrollar nuestra capacidad para reconocer y abordar estos problemas de forma proactiva es urgente.
¿Cómo incentivar u obligar a las empresas tecnológicas a poner la ética en el centro de sus procesos de diseño cuando no les resulta rentable hacerlo? ¿Qué debe cambiar en la forma en que aprendemos para que los desarrolladores mensuren las implicancias políticas y sociales de los proyectos en los que están involucrados? Como persona interesada en crear tecnología de manera responsable, ¿qué puedo hacer hoy dentro de mi organización? ¿Cómo podemos garantizar que la tecnología funcione para todas las personas?
Para responder a estas preguntas, desde Ashoka hemos intensificado nuestra búsqueda global de emprendedores sociales en el campo tecnológico, ya sea trabajando en los fundamentos de la tecnología y/o utilizando tecnología como una herramienta estratégica para resolver un problema social. El caso de Gemma Galdón, emprendedora social de Ashoka España, al frente de Éticas Foundation, es un ejemplo. Las instituciones a menudo desconocen que los datos y los modelos que usan están sesgados desde el principio, y que la inteligencia artificial puede ampliar los sesgos. Gemma está convencida de que el dominio de ingenieros, hombres, blancos en la industria tecnológica es parte de la causa raíz del problema, y que la formación de equipos interdisciplinarios es clave. Trabaja con corporaciones, gobiernos y organizaciones sociales en Europa y en el extranjero para aprovechar las auditorías algorítmicas.
Como persona interesada en crear tecnología de manera responsable, ¿qué puedo hacer hoy dentro de mi organización?
“Claramente es un problema que la ingeniería, hasta ahora, ha sido increíblemente encapsulada solo en cuestiones técnicas, careciendo de la experiencia de diferentes expertos del sector social. Hay un sentimiento de que ‘los problemas sociales no son asunto mío…solo soy el chico de IT’. Eso está muy, muy mal. Las decisiones que toman esos ingenieros tienen profundo impacto social en el mundo. Pero entonces, ¿podemos pedir a los ingenieros que creen código para un mundo en el que no son expertos?”, se pregunta.
Otro ejemplo es el del emprendedor de Ashoka, Tasso Azevedo quien creó MapBiomas, una plataforma abierta y colaborativa en múltiples sectores en Brasil, proporcionando la base de datos espacial más completa, actualizada y detallada del uso de la tierra y deforestación en el mundo. Gracias al análisis de MapBiomas, ahora se sabe que más del 99% de la deforestación en el Amazonas tiene evidencia de ilegalidad. El proyecto consiguió que 20 organizaciones trabajaran juntas y vieran la totalidad del panorama. Este enfoque de red les ayuda a centrarse más eficazmente en las comunidades y en la generación colectiva de datos. Por ejemplo, MapBiomas ha demostrado que el 70% por ciento de la deforestación en el Amazonas ocurre en terreno privado. Dado que la tierra privada está registrada a nombre de un individuo u organización, cuando una alerta muestra deforestación en tierras privadas, los usuarios de la plataforma pueden identificar a la parte responsable y proporcionar documentación de respaldo para que las autoridades puedan dictar sanciones o enjuiciamiento.
Gracias al análisis de MapBiomas, ahora se sabe que más del 99% de la deforestación en el Amazonas tiene evidencia de ilegalidad
Nos sumergimos en las “tendencias” que descubren el trabajo de más de 360 emprendedores sociales de todo el mundo para revelar la manera en las que resuelven problemas sociales y abordan las brechas del mercado, pudiendo anticipar cómo los mercados se desarrollan, ayudando así a la humanidad en su conjunto.
Estos innovadores nos dan pistas sobre lo que viene a continuación: ideas concretas para tomar decisiones sobre cómo construir una tecnología que fomente la democracia, la empatía y la prosperidad a largo plazo.
Esto es lo que vemos. Para construir una tecnología que fortalezca la democracia y trabaje por el bien de todos debemos:
Convertir a los “clientes” en “agentes de cambio”. La buena tecnología activa el protagonismo, hace que las personas estén implicadas en los procesos de diseño y se apropien de los efectos y mensajes.
Complementar la tecnología con juicio humano. Debemos ir más allá del tecnosolucionismo e incorporar inteligencia humana y las redes de confianza. La tecnología por sí sola no resuelve nada, habilidades humanas deben intermediar y acompañar los desarrollos para que sean relevantes, efectivos.
Necesitamos la sabiduría de equipos diversos e interdisciplinarios para diseñar y supervisar la tecnología
Crear equipos de equipos. Necesitamos la sabiduría de equipos diversos e interdisciplinarios para diseñar y supervisar la tecnología. En etapas claves de diseño, necesitamos incorporar diversidad de voces que contribuyan a evitar los sesgos.
Dar forma a la ley. Los cambios tecnológicos se dan demasiado rápido por lo que es vital generar nuevos marcos legales y normativos para que la tecnología esté bajo supervisiones y reglas democráticas.
Compartir los datos, los beneficios y las ganancias de nuevas maneras. Poner a las personas y a las comunidades a cargo de sus datos y redistribuir las ganancias que se generan.
Centrarnos en la humanidad y en el planeta. Mientras la tecnología impulsa cada vez más un nuevo sistema operativo y socioeconómico, necesitamos asegurarnos de que funcione para todas las personas, ahora y en el futuro.
Poner a las personas y a las comunidades a cargo de sus datos y redistribuir las ganancias que se generan
Nuestra tecnología replica nuestros valores. Refleja el mundo tal como es, con sus desigualdades y sesgos. Depende de nosotros, de todos nosotros, garantizar que la tecnología sirva a la humanidad. Y no vamos a estar siempre a tiempo.
Hoy, existe una ventana de oportunidad única para las colaboraciones entre desarrolladores, ingenieros, científicos de datos, empresarios, emprendedores sociales y académicos.
Dado que los emprendedores sociales son expertos en comprender a la sociedad y están a la vanguardia cuando se trata de detectar y descubrir las consecuencias no deseadas de la tecnología de manera temprana, queremos amplificar sus mensajes, hacer escuchar sus opiniones y promover la co-creación del futuro, juntos.
Este conocimiento está disponible en nuestra red y contribuirá a dar respuesta a los desafíos más urgentes. ¿Cómo podemos hacer que estos principios sean las nuevas normas? ¿Cómo lo están haciendo realidad estas personas?
Crear un ecosistema de tecnología ética, empática y responsable. Todavía estamos a tiempo.
Seguir leyendo: