Digitalización de la sociedad: democratización de la información; monopolio del conocimiento

Resulta crucial desarrollar un concepto de ética digital en la era de la automatiza-ción y la inteligencia artificial, sostiene la fundación.

 

Por: Fundación Avina.

En la última década, con el avance de las tecnologías para el análisis y consumo de datos (data mining, big data, visualización de datos) se tenía la esperanza de que el ciberespacio y las redes sociales tuvieran la capacidad para desestabilizar la verticalidad del mundo analógico.

Hasta ese entonces, quienes monopolizaban la información tenían la capacidad de incidir sobre la agenda pública a través del ejercicio de su capacidad de regulación de los flujos de información.

Así, los medios de comunicación establecían los temas para el debate público, los gobiernos definían estadísticamente las realidades sociales de los países y las organizaciones de la sociedad civil orientaban las causas bajos las cuales los ciudadanos se movilizaban.

Acumulación de información era sinónimo de concentración de poder

Sin embargo, con la llegada de las tecnologías para el macro análisis de datos se produjo una democratización del acceso a la información, que se acompañó de una inocente expectativa respecto a que nuevas dinámicas -surgidas del libre consumo de datos- favorecerían una redistribución del poder del conocimiento con efectos positivos para la ciudadanía en general.

Pero la realidad es que las asimetrías no solo se mantienen, sino que se han agudizado. Pasamos de la esperanza ingenuamente crédula de que Internet generaría un proceso benéfico de construcción colectiva de conocimiento, a un sentimiento de temor sobre la facilidad con que algunos actores pueden manipular hechos y situaciones.

Lo que no resuelve la sociedad digital es el monopolio del conocimiento, desde su generación -cómo contextualizamos la información y cómo la usamos como insumo de la generación de conocimiento-, hasta su gestión -miles de datos abiertos no generan saber- y su ponderación -cómo se jerarquiza la información en los buscadores.

Este nuevo marco deja a la vista alguno dilemas que la sociedad actual debe abordar como la producción de datos, diseño de algoritmos, los temas de frontera tecnológica y ética digital.

Algoritmos sesgados y des-inteligencia artificial

La gran cantidad de información disponible en la red (una de sus principales ventajas) también necesita nuevas intermediaciones que organicen y hagan más comprensible ese volumen de datos y hechos.

Ante la crisis de los modelos tradicionales de intermediación y la desconfianza de distintos sectores sociales en los medios de comunicación, sindicatos, partidos políticos y al propio Estado, estos procesos de intermediación son operados por tecnología.

La intermediación tecnológica está basada a su vez en algoritmos (conjunto ordenado de operaciones que permite hallar la solución de un problema) que interpretan la información solicitada por los usuarios y devuelven las respuestas que consideran más adecuadas. Los algoritmos son una de las nuevas piedras angulares de la intermediación tecnológica.

No obstante, los algoritmos de búsqueda y análisis de los datos no son neutrales en su selección ni benéficos en sus resultados.

Son diseñados por las empresas e instituciones que los ejecutan bajo sus propios objetivos (generalmente vinculados a su sostenibilidad económica).

De esta manera, el resultado obtenido para una consulta hecha a un buscador puede responder no solo al pedido concreto de información del usuario, sino también a los propios intereses de la empresa que provee el servicio de búsquedas.

Pero incluso cuando no tiene sesgos comerciales, un algoritmo puede producir resultados incompletos o parciales por el simple hecho de querer responder exactamente a lo que el usuario solicita.

Así, si una persona realiza varias búsquedas vinculadas a una postura política sobre un determinado tema, es probable que a la larga el buscador centre los resultados en el tipo de posturas políticas que representan la preferencia de ese usuario, reforzando su propia visión del mundo y alejándolo de un terreno más abierto al diálogo y la co-construcción de opiniones.

El algoritmo se tiende entonces una trampa a sí mismo, convirtiendo en real lo que interpreta que es la opinión del usuario.

Los algoritmos se proponen calcular la naturaleza de la sociedad, sus gustos, valoraciones y estimaciones a partir del comportamiento de los internautas. En esta aproximación estaba la expectativa de llegar a un mundo sin prejuicios ideológicos, racional, emancipado de la subjetividad de quienes lo gobiernan.

De acuerdo con autores como Innerarity “en su versión economicista, los liberales defienden la capacidad de la sociedad de organizarse confiando al mercado la tarea de reflejar lo que los Estados deforman; en su visión libertaria, estaríamos ante un mundo articulado por la agregación de la multitud sin autoridad central.

Lo que parecen ignorar es que de este modo se replican también las jerarquías y desigualdades sociales” . Es así, que en un momento donde los internautas se consideran a sí mismos como sujetos autónomos y libres de las prescripciones tradicionales, los algoritmos -supuestamente neutrales- que se presentan como reflejos de los gustos y elecciones de la gente y que no pretenden sino identificar los comportamientos de los internautas, reproducen sus desigualdades y discriminaciones. Su capacidad de manipulación es tan grande que Cathy O’Neil -profesora del Barnard College de la Universidad Columbia, USA- los ha denominado “armas de destrucción matemática”.

Lea el artículo completo aquí.

Opciones para compartir nuestro contenido