Cerrar

Industria 4.0 llamando a la ética

Artículo de Esther Paniagua en el suplemento 'Innovadores' de 'El Mundo' (03.11.2017)

Publicado por AdminCs
miércoles, 08 de noviembre de 2017 a las 12:13

Está en boca de todos. La portada de la edición de octubre de la revista New Yorker dibuja una ciudad habitada por robots con forma humana que hasta tienen la decencia de dar limosna a un sintecho. El texto que acompaña a la ilustración en el interior de la revista cuenta la historia de Steelcase, una fábrica de mobiliario de metal para oficina ubicada en Michigan (Estados Unidos). Allí el trabajo se ha automatizado hasta tal punto que algunos trabajadores se llaman de broma "robots de carne y hueso". Su tarea no es la primordial: no es que las máquinas les ayuden a realizar su trabajo sino que son ellos quienes sirven de soporte a los robots. Les quedan las migajas de lo que antes era su trabajo, una limosna.

Un presente que se proyecta en forma de futuro deshumanizado en esa portada que, aunque adolece de una ya manida distorsión distópica, invita a la reflexión. ¿Dónde queda la ética en el desarrollo tecnológico? ¿Y en el arte de la innovación, especialmente cuando hablamos de disrupción? "Estamos repitiendo los errores de siglos pasados: primero creamos la tecnología y luego vemos las consecuencias, como pasó con la bomba atómica", comenta a INNOVADORES Gemma Galdón, fundadora y directora de Eticas Research & Consulting.

"Hay cosas que se pueden desarrollar pero no son deseables. Sin embargo, no hay espacios donde se valoren estos temas", añade Galdón. Por eso creó Eticas en 2012: para estudiar, primero, el impacto social, ético y legal de las políticas de seguridad, la innovación y el desarrollo tecnológico. Y para analizar -después- los factores contextuales "que pueden y deben guiar el desarrollo tecnológico y su implementación", teniendo en cuenta la interacción entre los valores sociales, las posibilidades de la ingeniería y los derechos fundamentales.

Galdón asegura que el desarrollo tecnológico puede tener impactos "brutales", tanto a nivel individual y psicológico como a nivel colectivo, sociológicos y de derechos humanos. "Cuando sabemos que todo lo que hacemos puede estar constantemente monitorizado y dejar huella, nos retrotraernos en el ejercicio de nuestras libertades fundamentales", señala. Por ejemplo, no participar en una manifestación si sospechamos que nuestro nombre va a aparecer en una lista. "Esto -añade- lleva a un desarrollo de la propia autonomía muy deficitario".

Movimientos pro ética

La experta critica que "hay industria muy excitada sobre las posibilidades de la tecnología, "los hombres blancos de Silicon Valley que creen que pueden solucionar todos los problemas de la humanidad con tecnologías simples, y eso no es así". Parece, no obstante, que también estos se están empezando a percatar de la necesidad de que los espacios de desarrollo de tecnología tienen que evaluar su impacto. Es el caso de Tristan Harris, bautizado por The Atlantic como "lo más cercano que Silicon Valley tiene a una conciencia".

Harris trabajó hasta 2016 en Google como especialista en ética del diseño y filósofo de producto. Entonces decidió crear Time Well Spent: un movimiento que busca "evitar que las plataformas tecnológicas se apropien de nuestras mentes" mediante un diálogo abierto sobre qué futuro queremos que nos traiga la tecnología. Asegura que las compañías de tecnología impulsadas por la publicidad -como YouTube, Instagram, Facebook o Snapchat- están atrapadas en una carrera por llamar nuestra atención. Y que, por mucho que intentemos utilizar nuestros dispositivos de forma más responsable, "es nuestra fuerza de voluntad contra cientos de ingenieros a quienes se les paga para mantenernos pegados a la pantalla". Eso, a su vez "está cambiando el tejido de la sociedad, el discurso político y a nuestros hijos", sostiene. "Pero la solución no es dejar de usar la tecnología, sino hacer que la industria cambie y ponga nuestros intereses en primer lugar", afirma.

En esta línea, más de 3.000 diseñadores de todo el mundo han firmado la 'Carta de Copenhague'. "Vivimos en un mundo donde la tecnología está consumiendo la sociedad, la ética y nuestra existencia básica", asegura la declaración. Los firmantes abogan por "asumir la responsabilidad por el mundo que estamos creando y poner a las personas por delante de los negocios". Y también por "reemplazar la retórica vacía de 'construir un mundo mejor' por un compromiso de organizarse y de responsabilizarse mutuamente que conlleve acción real".

En el terreno de la inteligencia artificial es creciente el debate en torno a la necesidad de dotar a esta tecnología de un sistema ético que evite o corrija los sesgos humanos de género, raza, condición sexual, etc. que a menudo replica. Ya hemos hablado en estas líneas de la Declaración de Barcelona para el desarrollo y uso adecuado de la inteligencia artificial: un manifiesto que busca concienciar sobre las limitaciones de la inteligencia artificial para asegurar que se usa para el bien común y de manera segura y responsable. Investigadores como Sandra Wachter, desde los institutos Oxford Internet y Alan Turing (Reino Unido), trabajan en fórmulas para ello.

Se suman a los reclamos referentes como, Vint Cerf, vicepresidente de Google conocido por ser uno de los padres de internet. En un artículo publicado en la revista Communications of the ACM junto con Francine Berman -profesora de Ciencias de la Computación del Instituto Politécnico Rensselaer, en EE.UU)- reivindica un comportamiento social y ético en el ámbito del internet de las cosas (IoT). Los autores proponen un marco de trabajo para pensar sobre los principios y políticas relacionadas con este entorno de desarrollo tecnológico. "El momento de sentar las bases es ahora. El IoT debería suponer un avance para una sociedad más ilustrada y civilizada y no solo para la tecnología. Si esperamos demasiado, será bajo nuestro propio riesgo", sostienen.

En el ámbito de los medios de comunicación también se dan ejemplos. The Atlantic tiene una sección dedicada a cuestiones éticas en colaboración con elCentro Markkula de Ética Aplicada de la Universidad de Santa Clara (en EE.UU.). Su directora, Irina Raicu, aborda en ella cuestiones peliagudas como la manipulación de los algoritmos. En un artículo publicado el pasado mes de mayo, Raicu plantea el imperativo de formar en ética a las hordas de tecnólogos y empresarios en Silicon Valley y, en general, en las compañías de tecnología.

A este llamamiento se suma Carlos Barrabés, fundador y presidente del Grupo Barrabés. "La tecnología sin propósito es una huida. El propósito con tecnología es el camino", señaló durante su ponencia en el Congreso MásHumano en Madrid en septiembre. Barrabés sostiene que "los significados se construyen volviendo a lo humano, no mirando a la tecnología". Por eso defiende que debemos pasar del interés propio al interés compartido. "La trascendencia es clave. Formamos parte de algo mucho más grande", afirma.

Frente a una percepción fragmentaria de la realidad, defiende una visión de futuro compartida. Futuros comunes es también lo que defiende el arquitecto Norman Foster, además del título de la exposición de una selección de su obra que alberga Fundación Telefónica en Madrid. Una muestra que refleja la preocupación del arquitecto por la sostenibilidad, el bienestar, la salud, la calidad de vida o la sensibilidad social. Su empeño: combinarlas con una mirada innovadora para tratar de anticiparse al futuro.

Hablamos en este caso de la aplicación de la ética al desarrollo de las ciudades. Desde su fundación en Madrid, Foster busca "conectar la arquitectura, el diseño, la tecnología y las artes para prestar un mejor servicio a la sociedad". El objetivo: propiciar el desarrollo de "proyectos y prototipos innovadores y experimentales dedicados activamente al pensamiento interdisciplinar en el entorno construido".

Fuente de innovación

¿Y si la ética no fuera solo un deber, algo relegado a los departamentos de Responsabilidad Social Empresarial (RSE) de las organizaciones, sino que sirviese como base para innovar? Es lo que plantea Domingo García, catedrático de Ética de la Universidad Jaume I de Castellón, donde dirige el Departamento de Filosofía y Sociología. A su paso por el evento Focus Pyme Emprendimiento de la Comunidad Valenciana en septiembre, habló de la necesidad de convertir la ética en un activo, de usarla como argumento comercial.

En conversación con INNOVADORES, García pone como ejemplo el código ético para el conjunto de agentes turísticos que está poniendo en marcha la Agencia Valenciana de Turismo, con 10 conductas que todo el que firme debe seguir. ¿Y si no cumple? Cualquiera tendrá acceso a un sistema de alertas y denuncias para notificarlo y que se tomen las medidas oportunas. "Queremos que nuestra hospitalidad sea un factor de reputación y un activo para nuestro turismo, convertir la ética en factor de diferenciación", señala. "Es una muestra de que la innovación no solo es de carácter tecnológico", añade.

Innovación en sí misma es Eticas, la empresa de Galdón, que nació como spin-off universitaria y que es un ejemplo de cómo convertir la ética en un activo. Galdón, de hecho, ha sido elegida por la Comisión Europea como una de las 12 mujeres más innovadoras de Europa en 2017. Sostiene que, si una innovación no respeta los derechos fundamentales, no es suficientemente buena. Y que incorporar la ética al desarrollo de la tecnología es una ventaja competitiva que se empieza a valorar cada vez más. "Son los pioneros que entienden el mundo necesita, cada vez más, tecnologías responsables", afirma.

Tanto Galdón como García defienden que la ética no debe ser un área de la empresa relegada a la RSE sino parte de su ADN. Que sus decisiones, acciones, campañas, productos, etc. sean rentables económica, social y ecológicamente. Algo que, por cierto, lleva desde 2006 promoviendo Sustainable Brands, una comunidad para organizaciones y perfiles de todo tipo que busca cocrear y ejecutar nuevas oportunidades para innovar de forma rentable, con la sostenibilidad como base. La iniciativa tiene presencia en España desde 2015 de la mano de la agencia Quiero salvar el mundo haciendo marketing.

También evangeliza con el mensaje de la rentabilidad sostenible Richard Brandson, fundador de Virgin Group. "Si cada empresa se ocupara de un problema que afecta al mundo, acabaríamos con todos los problemas", aseguró durante el World Business Forum 2017 en Madrid. "Muchas empresas están construidas alrededor del concepto de negocio y así no irán muy lejos. El dinero es solo una herramienta de transacción", aseguró por su parte Rachel Botsman, pionera y referente en el movimiento del consumo colaborativo. En conversación con INNOVADORES, Bostman señaló que la ética es un factor clave para confiar en las organizaciones: solo así podrán ser transparentes y demostrar que no tienen nada que ocultar. "Está debeser parte de su cultura, no limitarse a una lista de pautas a seguir".

Sí hay una lista -la de Objetivos de Desarrollo Sostenible (ODS) de la ONU- que puede ser útil para aplicar la ética a los negocios, estructuras, procedimientos, productos o servicios. A menudo, quienes eluden hacerlo argumentan la dificultad de que todo el mundo se ponga de acuerdo en un sistema consensuado de valores del que partir. No es más que una falacia, ya que tal acuerdo sí existe, precisamente, en los ODS. "Estos indican a las organizaciones en qué campos actuar", señala García. Incluso existe una guía para aplicar estos objetivos en la empresa. Por el bien de todos y por el suyo propio. No hay excusas para no hacerlo.

Máquina moral

El camino de la ética se cruza con la moral. Tecnologías en desarrollo como los coches autónomos se topan con ella a la hora de decidir cómo programar sus algoritmos. En caso de accidente, ¿mataría el coche a su conductor o a una mujer embarazada que cruza adecuadamente? ¿Quién compraría un vehículo que pudiera volverse contra su propietario?

El asunto es tan complejo que el Instituto Tecnológico de Massachusetts (MIT) ha creado una plataforma -la Máquina Moral- para "recopilar la perspectiva humana sobre las decisiones tomadas por máquinas inteligentes". Esta muestra dilemas morales donde un coche sin conductor debe elegir el menor de los males (por ejemplo, matar a dos pasajeros o a cinco peatones). Cada usuario juzga qué sería más aceptable.

Esther Paniagua

6.034 visitas

Utilizamos cookies propias y de terceros para ofrecerte toda la funcionalidad y una mejor experiencia, obtener estadísticas de tráfico, analizar el uso de la web y mejorar nuestros servicios.
Tienes disponible aquí nuestra política de cookies.
Puedes aceptar todas nuestras cookies pulsando el botón 'ACEPTAR' o configurar aquí tus preferencias.

Estrictamente necesarias +

Estas cookies son necesarias ya que permiten que el sitio web funcione correctamente, no se pueden desactivar.

Estadísticas +

Son las cookies que utilizamos exclusivamente con fines estadísticos para poder analizar cómo los usuasrios hacen uso de la web. Recopila información anónima tal como el número de visitantes del sitio, o las páginas más populares. Activar estas cookies nos permite seguir mejorando.

Funcionales +

Estas cookies son necesarias para el intercambio y presentación de contenidos de plataformas externas como youtube o de redes sociales como facebook, twitter o linkedin.

Marketing y publicidad +

Estas se utilizan para crear perfiles de usuario y analizar la efectividad de campañas publicitarias o para rastrear al usuario en un sitio web o en varios sitios web con fines de marketing similares..

GUARDAR AJUSTESACEPTO