1

ESTADO DEL ARTE SOBRE VIOLENCIA VIRTUAL EN COLOMBIA

Aproximaciones conceptuales y metodológicas al fenómeno

Febrero 2017

2

INTRODUCCIÓN ............................................................................................................................ 4

APROXIMACIONES A LA VIOLENCIA EN LA COMUNICACIÓN PÚBLICA VIRTUAL ................................ 6

1. La construcción de una opinión pública virtual ..................................................................... 10

2. Aproximaciones conceptuales a la violencia ............................................................................ 14

3. Hallazgos sobre la violencia online ......................................................................................... 18

3.1 Aproximaciones analíticas al fenómeno ............................................................................. 18

3.2 Tipificaciones relevantes para analizar la violencia online ................................................... 19

3.3 Facilitadores de la violencia online .................................................................................... 20

4. Conclusiones temáticas ......................................................................................................... 22

PERSPECTIVAS LOCALES SOBRE EL ANÁLISIS DE LA VIOLENCIA EN LA COMUNICACIÓN PÚBLICA VIRTUAL .................................................................................................................................. 24

1. Diálogos con expertos en cibercultura ................................................................................. 24

2. Reflexiones significativas ....................................................................................................... 24

Sobre la delimitación del fenómeno y sus implicaciones ........................................................... 24

En términos de caracterización de las interacciones violentas o agresivas en la red ................... 26

APROXIMACIÓN AL ANÁLISIS DE LA COMUNICACIÓN PÚBLICA VIRTUAL DESDE LA CULTURA CIUDADANA ............................................................................................................................. 28

APROXIMACIONES METODOLÓGICAS PARA EL ANÁLISIS EMPÍRICO DE LA VIOLENCIA ONLINE DESDE LA CIENCIA DE DATOS .................................................................................................. 32

1. Ciencia de datos: conceptos clave ....................................................................................... 32

2. Literatura revisada ............................................................................................................. 35

3.1. Metodologías que hacen uso de herramientas de Big Data: ............................................... 36

3.2. Metodologías que hacen uso de algoritmos de Machine Learning:...................................... 38

3.2.1. Esquema general de la metodología: ......................................................................... 39

3.2.2. Características de los datos analizados: ..................................................................... 39

3.2.3. Características del procesamiento realizado: .............................................................. 40

3.2.4. Características de los hallazgos: ................................................................................ 42

3.3. Metodologías que hacen uso de análisis de redes: ............................................................ 43

3.4. Metodología experimental: .............................................................................................. 44

3

4. Conclusiones temáticas ...................................................................................................... 45

APROXIMACIONES A LA VIOLENCIA ONLINE DESDE EL CONTEXTO LOCAL ..................................... 47

Una vez presentadas estas preguntas se dio paso a una discusión abierta cuyas principales discusiones se presentan a continuación. ................................................................................... 48

Sobre la estructura del proyecto: ............................................................................................... 48

Sobre los datos que podrían usarse en la investigación y las formas de extraerlos: ....................... 48

Sobre el análisis de los datos: ................................................................................................... 49

RECOMENDACIONES PARA LA SEGUNDA FASE DE ESTE PROYECTO ............................................... 52

BIBLIOGRAFÍA: ........................................................................................................................... 59

4

INTRODUCCIÓN El presente estado del arte se elabora en el marco de un proyecto de investigación financiado por el Ministerio de las Tecnologías de la Información y las Comunicaciones (MinTic), en el que se rastreó la literatura relacionada con el fenómeno que, en principio, se denominó “violencia digital” haciendo referencia a un cierto tipo de interacciones entre usuarios de internet en el contexto colombiano, en las que se transgreden los límites del respeto y tolerancia yendo en detrimento de la convivencia y la participación en entornos digitales. Como se pondrá en evidencia este no es un concepto fácil de rastrear y delimitar en la literatura académica, por ello apelamos también a la noción de “violencia online” e incluso a otras como “agresión online”. La investigación también se ocupó de identificar las formas en que ese fenómeno social contemporáneo ha pretendido medirse o caracterizarse empíricamente usando métodos y herramientas relacionados con la ciencia de datos. La pregunta por la violencia online, en medios de comunicación digital y redes sociales, surgió en el Ministerio de Tecnologías de la Información y la Comunicación a partir de la coyuntura sociopolítica que atravesó Colombia durante el 2016, a saber, la firma de los acuerdos de paz con las FARC-EP. Ese acontecimiento polarizó la opinión pública entre quienes apoyaban la firma de los acuerdos a través de un plebiscito y quienes no apoyaban el proceso, haciendo marginales otros puntos de vista diferentes a estos. La polarización implicó intercambios argumentativos en torno al tema y con esto la manifestación de una opinión pública en entornos virtuales que puso en evidencia posiciones políticas radicales, expresiones de solidaridad, de intolerancia y agresión verbal en la red. Estos sucesos llevaron al MinTic a preguntarse tanto por la forma en que pueden entenderse y prevenirse comportamientos o interacciones violentas en entornos digitales, particularmente cuando se discuten asuntos de interés público como el fin del conflicto armado colombiano, así como a indagar por el impacto de ello en la construcción de un país democrático. El mapeo presente en este estado del arte tiene tres componentes autocontenidos: uno en el que se documentan las aproximaciones conceptuales a la violencia entendida en sentido amplio y de manera

5

específica a la “violencia digital u online”. Esa revisión de literatura se complementa con los diálogos establecidos con expertos a través de una mesa de trabajo y con la comprensión que puede hacerse del fenómeno a partir de conceptos clave del enfoque de Cultura Ciudadana. El segundo apartado describe las aproximaciones metodológicas de análisis empírico a las interacciones online con el ánimo de caracterizarlas, específicamente en medios de comunicación digital (e.g. foros de opinión) y redes sociales (e.g. twitter) y desde herramientas asociadas a la ciencia de datos; como en el primer apartado, esa aproximación se nutrió del diálogo con expertos desarrollado en mesas de trabajo. Finalmente, se presentan las recomendaciones que surgieron del proceso de investigación. Ese doble ejercicio que permitió la comprensión del fenómeno —la revisión de literatura y el desarrollo de mesas

de trabajo con expertos— se consideró necesario asumiendo la dimensión contextual y emergente del

fenómeno, así como reconociendo que la revisión bibliográfica tiene límites en términos de las posibilidades de acceso a la información.

6

APROXIMACIONES A LA VIOLENCIA EN LA COMUNICACIÓN PÚBLICA VIRTUAL Cerca de finalizar la segunda década del siglo XXI no es posible hablar de internet como una tecnología emergente, pues como herramienta de comunicación global nace en la segunda década del siglo pasado. Sin embargo, no ocurre lo mismo con las dinámicas que el uso y apropiación de ésta han generado en diferentes contextos, esto se debe a que sus características: el lenguaje multimedia (en distintos formatos), la comunicación multinivel (uno a uno, intergrupal o masiva), sincrónica y asincrónica, la desterritorialización y la hipertextualidad (Espinosa Meneses, 2011) , hacen de este un espacio de socialización que se transforma conforme se desarrollan nuevas formas o mecanismos de interacción y comunicación, lo cual parece cada vez más impredecible. Esas transformaciones, en tanto emergentes conforme evolucionan las herramientas de comunicación, sí se han convertido en asunto de reciente interés para las ciencias sociales y el análisis cultural, dando lugar al surgimiento de la pregunta por la forma en que los entornos digitales y las interacciones que allí se producen, pueden ampliar la comprensión sobre comportamientos y prácticas propias de fenómenos de larga duración como la violencia (Blair Trujillo, 2009). Es justamente esa relación entre comunicación online y violencia el eje de este estado del arte. La indagación que se realizó para comprender los abordajes de la “violencia online” como un fenómeno relevante para la investigación social y para las dinámicas sociopolíticas del contexto colombiano, tuvo tres premisas señaladas por el Ministerio de las Tecnologías de la Información y las Comunicaciones (2016):

● En primer lugar, los espacios virtuales y de interacción digital han adquirido relevancia como escenarios de participación social y política, y en tanto se supone que contribuyen a la formación de sujetos políticos activos y vocales, es necesario garantizar que sean seguros y generen incentivos para la expresión abierta y libre de los ciudadanos en un contexto democrático.

7

● En segundo lugar, el uso masivo de internet, en especial las redes sociales y los medios de comunicación digital y su preferencia por parte de algunos sectores de la sociedad civil para usarlos como medios de comunicación e información sobre temas de interés. Tal y como lo muestra el estudio realizado por el Ministerio de Tecnologías de la Información y las Comunicaciones, al poner en evidencia que el 38,5% de los encuestados usan las redes sociales para estar informados1. Lo anterior hace necesario comprender desde el ámbito gubernamental las formas en que ciertas herramientas tecnológicas median la interacción y participación ciudadana, así como los imaginarios y lenguajes que se construyen y co-producen en entornos digitales2.

● Finalmente, y en relación con la premisa anterior, urgen transformaciones culturales en un

escenario de posconflicto y construcción de paz, orientadas a promover formas de interacción que no privilegien la violencia como recurso para la resolución de conflictos y el trámite de las diferencias. Al respecto, vale la pena considerar que si bien sólo el 13% de los encuestados en el estudio referenciado sobre digitalización de los colombianos, afirma haber recibido un insulto, es deseable disminuir ese porcentaje, y al 75% de los encuestados que afirma no saber qué hacer en caso de recibir una agresión virtual, brindarle herramientas que les permitan tramitar de manera pacífica el disenso.

A ese contexto en el que surgió la pregunta por la violencia online, se sumaron un conjunto de preguntas teniendo en cuenta la coyuntura sociopolítica por la que atravesó el país en los últimos años: la firma de los acuerdos de paz con las FARC-EP. Estas preguntas tienen que ver con los efectos de la llamada violencia online en la participación digital y en los procesos de formación de opinión pública. Para ello,

1Estudio realizado en el año 2012 por el Ministerio de Tecnologías de la Información y las Comunicaciones y la firma Ipsos Napoleón Franco, en ciudades de más de 200.000 habitantes y a una población entre los 15 y 55 años (Tomado de: http://www.mintic.gov.co/portal/604/w3-article-1629.html). Así mismo, según la Encuesta Nacional de Calidad de Vida del Departamento Administrativo Nacional de Estadística -DANE-, el 55,9% de los colombianos usaron internet durante el 2015 https://www.dane.gov.co/files/investigaciones/boletines/tic/prese_tic_2015.pdf. 2Aquí se asume una perspectiva constructivista de la tecnología que se aleja del determinismo tecnológico al considerar que la relación entre sociedad y tecnología no es unidireccional, y no es la última la que transforma la primera, sino que ambas esferas de la vida cotidiana se co-producen y transforman mutuamente (Escobar, 2005)

8

se buscó identificar análisis sobre las formas en que los usuarios de internet interactúan en torno a asuntos de interés público, qué caracteriza esas interacciones y qué lugar tiene la violencia o diferentes manifestaciones de esta en la comunicación online de carácter público. Vale la pena señalar que aquí entendemos lo público “como el espacio de conocimiento y reflexión de la sociedad sobre sí misma y de las propuestas y acciones colectivas que tienden a mantener o alterar el estado de cosas vigente en la sociedad, o en sectores particulares de la misma” (de Barbieri, 1996). En consecuencia, lo público según la definición escogida, está estrechamente relacionado con la participación en ámbitos como las redes sociales o los foros de opinión en internet de los que pueden participar los ciudadanos, sin perder de vista las limitaciones de algunos sectores de la ciudadanía al momento de acceder y usar las tecnologías de la información y la comunicación digital. Ahora bien, el énfasis en la violencia online no pretendió desconocer las buenas prácticas comunicativas para la participación en internet, sino que obedeció a un interés pragmático y analítico por acotar las variables del estado del arte. No obstante, los hallazgos de la revisión bibliográfica muestran también que la violencia, agresión o descortesía online, son prácticas más estudiadas que aquellas relacionadas con la convivencia pacífica en entornos digitales3. Al respecto, es importante tener en cuenta que los límites de la violencia online no están claramente definidos, en cambio, hacemos énfasis en que es la forma en la que inicialmente se ha denominado un cierto tipo de comportamientos, y que como tal no debe confundirse con otras nociones como la de “cyberacoso” o “cyberbulling”, que se caracteriza por la sistematicidad de los ataques propiciados por el victimario a la víctima (Corpovisionarios, 2016). Teniendo en cuenta lo anterior, para la consecución de la bibliografía relacionada con el tema en cuestión se definieron un conjunto de descriptores temáticos relacionados con entornos virtuales4 y conceptos

3También desde una perspectiva constructivista, la forma en la que se nombra el fenómeno que se estudia es particularmente relevante, en tanto el acto de nombrar no es meramente descriptivo, sino que también construye la realidad (Austin, 1955). Esta reflexión surgió en el proceso de elaboración del documento y se abordó desde el enfoque de Cultura Ciudadana, apostando por una propuesta que haga énfasis en los opuestos de la violencia digital, minimizando así el impacto que la misma noción tiene en la reproducción del fenómeno, asunto que se pone en evidencia en las recomendaciones que se presentan al final de este estado del arte. 4Redes sociales; Entorno digital; Foros de opinión; Twitter; Facebook; Medios digitales; Foros públicos; Microblog Internet; Entornos virtuales.

9

asociados con la comunicación digital o las interacciones online en espacios de opinión pública5. La búsqueda de literatura se realizó en inglés y en español, y dado que esta pretende tener un fuerte carácter académico que permita posteriormente tener discusiones argumentadas con respecto a lo encontrado en este estado del arte, solamente se incluyeron fuentes que cumplieran con estas características y que estuvieran referenciadas en bases de datos de texto referenciales (Scopus) y texto completo (Scielo) y en el buscador académico Google Scholar. Para priorizar la revisión de literatura en español se consideró como criterio el carácter contextual del lenguaje y a partir de allí las posibles semejanzas entre países del contexto iberoamericano al momento de intentar caracterizar o describir la violencia online; se privilegió el contexto iberoamericano considerando también la proximidad cultural a partir del idioma español. La literatura identificada se concentra, en su mayoría, en la revisión de interacciones en twitter y foros de opinión en medios de comunicación online y locales. En total para el desarrollo del primer apartado, correspondiente a las aproximaciones conceptuales, se revisaron 26 artículos, y para el segundo apartado, que refiere específicamente aproximaciones metodológicas desde la ciencia de datos, se tomaron en consideración 13 textos. Ese conjunto fue seleccionado según su relevancia para el análisis del tema de investigación ya que la literatura localizada no siempre se relaciona directamente con el fenómeno que se estudia, sino que puede abordar temáticas más amplias como la democracia en internet o la construcción de ciudadanía en entornos digitales y no necesariamente abordar la violencia online. En términos generales, es de destacar la producción española de los últimos años, pues como se señaló anteriormente el análisis de las interacciones virtuales y en particular de las manifestaciones de violencia presentes en ellas son de reciente interés para las ciencias humanas y sociales6. Así mismo, cabe señalar que en el análisis de la violencia online sobresalen investigaciones provenientes de la lingüística y en

5Comunicación digital; Violencia virtual; Violencia digital; Interés público; Participación digita; Civismo online; Civismo digital; Opinión pública; Ciudadanía digital; Regulación social; Agresión virtual; Normas sociales; Democracia digital; Participación virtual; Regulación online; Periodismo digital; Discusión online. 6El artículo más antiguo que se encontró, relacionado directamente con la investigación, fue escrito en el año 2001.

10

particular desde el área de la pragmática7 y las teorías de la (des)cortesía en la comunicación verbal, entendiendo la cortesía en lingüística como “el conjunto de estrategias conversacionales destinadas a evitar o mitigar las tensiones que aparecen cuando el hablante se enfrenta a un conflicto creado entre sus objetivos y los del destinatario”8. La narrativa que se construye a continuación para mostrar las formas en que se ha entendido la violencia o agresión online o la agresión las interacciones en redes sociales y medios de comunicación digital, tiene el siguiente hilo conductor: primero, se señala el contexto amplio en el que se sitúa el análisis, esto es, la construcción de opinión pública en torno a asuntos de interés público en entornos digitales. En segundo lugar, se muestran las aproximaciones conceptuales a la violencia y en particular las agresiones en las interacciones online, las formas en que se han categorizado las interacciones que pueden identificarse como agresivas, descorteses o violentas en internet y los elementos que se han identificado como facilitadores o catalizadores de esas agresiones. Posteriormente se señalan las aproximaciones locales al fenómeno a partir de los diálogos establecidos con expertos y desde herramientas analíticas del enfoque de cultura ciudadana.

1. La construcción de una opinión pública virtual Dado que el interés general de la investigación fue identificar aproximaciones conceptuales que permitan una posterior comprensión de las interacciones entre usuarios de internet en torno a asuntos de interés público en Colombia, fue necesario situar esta reflexión en un contexto analítico más amplio, en este

7El lingüista español Francisco Yus ha acuñado el uso de la palabra “ciberpragmática” (2001 aprox), para referirse a un segmento de la lingüística que analiza “las posibilidades del uso del lenguaje en el contexto de las nuevas tecnologías de comunicación virtual y, entre éstas, la Red Internet, a la vez que analiza las operaciones de contextualización que llevan a cabo los usuarios para interpretar los mensajes virtuales que reciben en su ordenador a través de la Red. La diferente mediación del contexto en las situaciones cara a cara y virtual provoca diferentes resultados que deben ser explicados por esta pragmática orientada al estudio del lenguaje en entornos virtuales”, sin embargo el uso de esta expresión no parece haberse extendido en el campo académico. Tomado de: http://cvc.cervantes.es/obref/congresos/valladolid/ponencias/nuevas_fronteras_del_espanol/4_lengua_y_escritura/yus_f.htm 8Tomado de: http://cvc.cervantes.es/ensenanza/biblioteca_ele/diccio_ele/diccionario/cortesia.htm . Revisado el: 25-01-2017.

11

caso cómo internet constituye un tipo de esfera pública en el que se construyen una opinión pública online o virtual y qué relevancia tiene esto para la construcción de la democracia. Asumir la existencia de una opinión pública virtual implica suponer dos cosas: por un lado, que las fronteras entre el mundo físico (el de la interacción cara a cara) y el mundo digital son cada vez más difusas en tanto se co-producen mutuamente, o en otros términos, que aquello que ocurre en el ámbito online tiene efectos en la vida cotidiana de las personas y viceversa. En palabras del filósofo Jürgen Habermas, esa vida cotidiana constituye el “mundo de la vida”, es decir, el contexto de interacción social donde se reproducen, cuestionan y modifican las normas sociales, aquellas que siguen las personas en pro de la convivencia (Berdaguer Rauschenberg, 2015). En segundo lugar, en esos dos ámbitos de socialización que coexisten en el mundo contemporáneo, las tecnologías digitales actúan como mediadoras de procesos comunicativos sin desplazar la agencia de los usuarios como receptores y emisores de los mensajes que circulan en internet, es decir que si bien el uso de la tecnología participa de transformaciones culturales, esta no puede ser entendida como la causa o consecuencia directa y exclusiva de las transformaciones sociales. En ese sentido, vale la pena preguntarse si el desarrollo de internet y su inserción en la vida cotidiana de las personas, ha dado lugar al surgimiento de nuevas formas de violencia, o si internet funciona como un medio que permite expresar y reproducir formas de violencia que ya existían en otros ámbitos de socialización. La opinión pública virtual se relaciona estrechamente con aquello que el mismo Habermas denominó “esfera pública”, entendiéndola como un espacio para la participación de los ciudadanos en tanto es un “sistema de comunicación intermediador entre las deliberaciones políticas y las conversaciones informales de la sociedad civil” (Habermas, 1993 EN Berdaguer Rauschenberg, 2015). En la actualidad, la red o internet es concebida como un espacio público9 en el que confluye un segmento de la sociedad

9Hablar del espacio virtual como público, no implica desatender la desigualdad en el acceso a las tecnologías. De hecho, desde algunas perspectivas, la desigualdad en el acceso es en sí misma una manifestación de aquello Galtung ha denominado “violencia estructural” para referirse a manifestaciones de violencia no relacionadas con agresiones de naturaleza física moral (Penalva & La Parra, 2008).

12

civil10 desde su diversidad y diferencia. Los sujetos que constituyen la sociedad civil promueven procesos comunicativos en medios de comunicación digital y en redes sociales, y esta acción, a su vez, construye y dinamiza una cierta opinión pública virtual que se sitúa en la esfera pública contemporánea, de manera más específica en microesferas públicas como los foros de opinión de medios de comunicación digital (Wincour, 2001). Lo que posibilita y fortalece la construcción de la opinión pública es la discusión y el intercambio de diferentes puntos de vista (Herbst, 1993. En: Perales, 2008). Esta es, por lo tanto, el resultado de las interacciones entre los miembros de la sociedad civil en torno a asuntos que revisten interés para la vida en sociedad, como los bienes comunes, sean materiales, como los recursos naturales, o inmateriales, como la paz y la democracia11. Algunos autores distinguen entre dos tipos de opinión pública: una opinión pública agregada, característica de las democracias representativas y que se expresa a través de mecanismos tradicionales e individuales de participación, como el voto, y una opinión pública discursiva, producto de la agencia de los ciudadanos y sus procesos comunicativos en ambientes formales o informales, como internet. En definitiva, “la opinión pública agregada es un resultado donde el público que importa es la mayoría que suma voluntades ya determinadas. La opinión pública discursiva es un proceso, donde el público es un colectivo de voluntades individuales que deliberan entre sí, condicionándose mutuamente” (Sampedro, 2000. En López García, 2006). La opinión pública discursiva que se construye en espacios virtuales tiene un rol importante para el

10Benjamín Barber define la sociedad civil como “el espacio entre el gobierno y el sector privado. No es donde votamos o donde compramos. Más bien es donde nos relacionamos con nuestros semejantes sin estar de por medio el poder o el dinero […] La sociedad civil es pública sin ser coercitiva, voluntaria sin ser privatista.” (En: Perales, 2008). 11“Lo común es aquello que surge de la comunidad. Los bienes comunes son aquellos que se producen, se heredan o transmiten en una situación de comunidad. Son bienes [materiales e inmateriales] que pertenecen y responden al interés de todos y cada uno de los integrantes de una comunidad. Son bienes que redundan en beneficio o perjuicio de todos y cada uno de estos miembros o ciudadanos por su condición de tal. Son parte de un derecho humano inalienable e inapropiable tanto por otros individuos, corporaciones y/o estados nación.” (Vercelli & Thomas, 2008).

13

fortalecimiento de la democracia, en especial, la democracia deliberativa en contextos en los que las instituciones democráticas formales carecen de credibilidad y legitimidad, pues en estos casos la ciudadanía tiene incentivos y libertades para usar internet y monitorear las acciones gubernamentales, por eso se afirma que si bien “internet no crea ni destruye las instituciones democráticas [...] puede llegar a suavizar las imperfecciones de las instituciones existentes y ayudar a los ciudadanos a lidiar con ellas” (Frankenberg, 2015), en tanto, potencialmente, posibilita otras formas de interacción y participación ciudadana. Una de las condiciones para la existencia de la democracia deliberativa es, por supuesto, la

deliberación. Esta es entendida como “una amplia clase de comunicación pública, que se caracteriza

por el intento de proporcionar algún tipo de justificación de evidencia, algún tipo de apoyo argumentativo o evidencial para declaraciones o juicios, explicaciones o propuestas, algún tipo de anticipación de la duda, preguntas y objeciones” (Torres Da Silva, 2013).La deliberación implica la

ausencia de violencia en las interacciones entre la sociedad civil, en especial, cuando se discuten

asuntos de interés público, pues al impedir el debate argumentativo y exacerbar las emociones de los

interlocutores puede inhibir la participación de actores diversos. En definitiva, el mantenimiento de la

deliberación en torno a asuntos de interés público o bienes comunes, implica la búsqueda continua de

un equilibrio entre las múltiples manifestaciones de libertad de expresión de quienes participan en la

interacción virtual. La violencia en la comunicación hace presencia cuando se distorsiona la información y se privilegia la

construcción de convicciones ideológicas y políticas inamovibles (Pineda Garfias, 2002). Es por ello

que se afirma que “la democracia deliberativa debe excluir [...]: (i) la violencia como método de acción

política, (ii) las negociaciones falsas, y asimismo, (iii) la primacía de los poderes sociales o fácticos que

hacen prevalecer sus intereses en la sociedad obstaculizando una comunicación verdadera entre todos

los miembros de ella” (Frankenberg, 2015). En ese contexto, la construcción de una opinión pública

virtual debería prevenir la existencia mecanismos que impidan la participación de la sociedad civil, pero

dada la autonomía de internet como esfera pública, son los actores participantes de esa comunicación

virtual quienes construyen las normas que les permiten el empoderamiento en el acto comunicativo, lo

que no significa que no puedan o deban gestionarse procesos que sensibilicen a la ciudadanía sobre

14

la importancia de mantener una comunicación armónica en la microesfera pública virtual, de hecho, las

intervenciones gestionadas por entes gubernamentales como el Ministerio de Tecnologías de la

Información y las Comunicaciones deberían estar orientadas a fortalecer la deliberación a través de

estrategias pedagógicas que potencialicen el debate en un marco de convivencia y construcción de

ciudadanía.

2. Aproximaciones conceptuales a la violencia ¿De qué se habla cuando se usa la noción violencia? Elsa Blair, citando a Jacques Sémelin, afirma que “no existe una teoría capaz de explicar todas las formas de violencia [por lo tanto] a quien habla de violencia hay que preguntarle siempre qué entiende por ella"(Blair Trujillo, 2009).En ese sentido, antes que ofrecer una definición de violencia online, es preciso hacer una revisión de algunas conceptualizaciones e identificar cuál de estas se ajusta o es próxima a lo que ocurre en entornos virtuales y en particular cuál de estas resulta útil de cara a una fase posterior en la que se plantea caracterizar el fenómeno. Esta necesidad por construir el concepto resulta también de la ausencia de definiciones o teorizaciones claras sobre el fenómeno que se estudia, asunto que pone en evidencia este documento. Elsa Blair a lo largo de su investigación sobre la violencia en Colombia ha elaborado una lectura crítica de las diferentes concepciones sobre el concepto. Para empezar, establece una distinción entre la dimensión política de la violencia y la dimensión social. La primera se usa para designar el uso ilegal o ilegítimo de la fuerza, en contraposición al uso legítimo de ésta por parte del Estado. Esta concepción fue predominante en los siglos XVIII a XIX y se usó para analizar las guerras, los conflictos armados, el terrorismo y situaciones violentas en el marco de las relaciones internacionales. Esa sería una primera acepción de violencia distante de aquello que se busca caracterizar en entornos digitales, puesto que allí no hablamos del uso de la fuerza, ni del monopolio del Estado sobre esta. Respecto a la dimensión social de la violencia, es decir, aquella que no está mediada por la relación con el Estado, Blair Trujillo (2009) hace un esfuerzo por identificar diferentes conceptualizaciones, aunque

15

con frecuencia encuentra que es más fácil describir la violencia que hacer elaboraciones conceptuales o teorizar sobre esta, lo que se explica porque el concepto “violencia” tiene usos tan disímiles según

los contextos y momentos históricos que sería inapropiado establecer una definición universal. Sin

embargo, de esas diferentes aproximaciones que la autora identifica vale la pena volver sobre tres, en tanto se acercan a responder la pregunta ¿qué es la violencia? y por esta vía permiten establecer relaciones con lo que podría entenderse o no cuando se habla de “violencia online”. Para Jean Claude Chesnais, “la violencia en sentido estricto, la única violencia medible e incontestable es la violencia física. Es el ataque directo, corporal contra las personas. Ella reviste un triple carácter: brutal, exterior, doloroso. Lo que la define es el uso material de la fuerza, la rudeza voluntariamente cometida en detrimento de alguien” (Chesnais, 1981: 12. En Blair Trujillo, 2009). En esa misma dirección se encuentra la forma en la que Jean Marie Domenach define la violencia, quien además de señalar el uso de la fuerza, señala que es usada para obtener de los individuos aquello que no están dispuestos a ceder por su propia voluntad (Domenach, 1980. En Blair Trujillo, 2009). Además, afirma, la violencia en su sentido contemporáneo, obedece a tres aspectos: el psicológico, en tanto el uso de la fuerza adquiere un carácter irracional e incluso criminal; el moral, al atentar contra los bienes y la libertad del otro; y el político, porque el uso de la fuerza que caracteriza las manifestaciones de violencia tiene el fin de obtener el poder o usarlo con fines ilícitos. Esas aproximaciones conceptuales ponen de manifiesto dos asuntos: el primero, que los efectos de un cierto tipo de violencia son siempre observables en el cuerpo del otro; y el segundo que los daños son ocasionados de manera voluntaria contra un individuo o grupo que se torna vulnerable y en condiciones de subordinación. Esas definiciones de violencia no son útiles para hablar de violencia online, dado que uno de los aspectos que la caracterizaría es justamente la imposibilidad de rastrear los efectos o daños ocasionados en la corporalidad del otro, dada la ausencia de la interacción cara a cara, lo que a su vez imposibilita el uso de la fuerza física12. A lo anterior se suma la variable anonimato, cuyo uso impide, incluso, identificar la identidad de los usuarios en la red. No obstante, queda la pregunta por cuándo

12Esto no excluye que la transición de la violencia online a la violencia física pueda ocurrir, sin embargo no hay datos que permitan soportar o documentar esa afirmación.

16

las agresiones en entornos virtuales se trasladan al mundo análogo (el de la interacción cara a cara) o producen efectos físicos que las dinámicas de la virtualidad no permiten observar. Otra aproximación conceptual a la violencia es la que ofrece Daniel Pécaut, quien establece una distinción entre ésta y la represión y las restringe al ámbito de lo político. Para Pécaut, la represión implica una relación vertical en la que es posible identificar los agentes (ley, policía, clase dominante, etc); la violencia, en cambio, tiene lugar en relaciones horizontales de dominación y aparece cuando se presentan crisis que hacen difícil identificar las fronteras entre lo legal y lo ilegal, lo público y lo privado, la conformidad y la revuelta (Blair Trujillo, 2009). Si se extendiera la comprensión de Pécaut al ámbito social, pareciera que su definición de violencia sería la más útil para conceptualizar la violencia online, sin embargo, la mayor debilidad de esta aproximación, para los efectos de la investigación, está en la dificultad de hacer operacionalizable tal definición, o en otros términos, en identificar cómo ésta puede convertirse en variables medibles u observables, particularmente en un escenario como internet o la red en el que las fronteras entre lo legal y lo ilegal y lo público y lo privado, son más difusas que en otros ámbitos de socialización. Desde las ciencias sociales se han elaborado otras conceptualizaciones sobre la violencia que no están

relacionadas con el uso de la fuerza física, por ejemplo, la noción de violencia simbólica acuñada por

el antropólogo francés Pierre Bourdieu. En sus palabras, la violencia simbólica es la que “arranca

sumisiones que ni siquiera se perciben como tales apoyándose en unas expectativas colectivas, en

unas creencias socialmente inculcadas, transforma las relaciones de dominación y de sumisión en

relaciones afectivas” (Bourdieu Fernández, 2005), lo que implica que tanto el agresor como el agredido

construyen relaciones de reciprocidad que invisibilizan este tipo de violencia. La violencia simbólica se

manifiesta justamente cuando la violencia física y abierta no se puede expresar porque es rechazada

moralmente o porque el escenario no lo permite, tal y como ocurre en entornos virtuales (Ralón de

Walton & Dukuen, 2013). A diferencia de las formas en las que se manifiesta la violencia física, ocasionando daños a la integridad

corporal de la(s) víctima(as), en la violencia simbólica el instrumento que posibilita el acto violento es

17

el lenguaje, la comunicación visual, oral y escrita, lo que implica que este tipo de violencia no siempre

tiene una dimensión material evidente. En ese sentido, el daño ocasionado a través de la violencia

simbólica tiene representaciones figuradas “por medio de amenazas, gestos o actitudes de poder que

atacan objetos simbólicos, agreden ideas o formas de pensamiento individuales o de grupos sociales”

(Serrano-Barquín & Ruiz Serrano, 2013). ¿Cuáles son los efectos observables de la violencia simbólica? Sin duda alguna la reproducción de

desigualdades, exclusiones y relaciones de dominación y subordinación, que en el caso de los entornos

virtuales, lejos de ser novedosas, son una representación más de lo que ya ocurre en entornos no

digitales, es decir, los entornos digitales funcionan como escenarios de reproducción de violencia

simbólica, ofreciendo un escenario en el que las agresiones pueden ser directas y no se requiere hacer

uso de eufemismos que la enmascaren. Sin embargo, sí se hace necesario situar la agresión en el

contexto en el que se produce, de tal forma que esto permita comprender cómo en la virtualidad operan

diversas representaciones de la violencia.

Si se hablara de la violencia online como violencia simbólica sería necesario establecer siempre dos

niveles de análisis. Por un lado, identificar las agresiones explícitas y directas contra un otro claramente

identificable (sin importar si este otro es un individuo, un colectivo, o una institución) y los efectos de

esto en las dinámicas de la interacción virtual, por ejemplo, disminuir los actores que participan del

intercambio de opiniones o argumentos. Por otro, rastrear las formas en que esas agresiones, u otro

tipo de manifestaciones se valen del uso de matices eufemísticos o sutiles para legitimar relaciones de

dominación que atraviesan la interacción social; en este caso, valdría la pena identificar cómo estas

expresiones de violencia simbólica están reproduciendo imaginarios (asociados al racismo,

estereotipos de género o de clase, entre otros) y afectando las formas de participación en torno a

asuntos de interés público, generando exclusiones que parecen imperceptibles dada la aparente

invisibilidad de los individuos en la red.

18

3. Hallazgos sobre la violencia online 3.1 Aproximaciones analíticas al fenómeno Aunque la aproximación a la violencia online desde la noción de violencia simbólica parece viable, llama

la atención que en la literatura revisada no aparezca como una herramienta analítica al momento de

caracterizar las interacciones virtuales, en cambio, abundan referencias a la noción de agresividad,

cuyas fronteras y usos son tan extensivos y disímiles como los de la violencia misma. La agresividad o comportamiento agresivo se entiende como “un conjunto de patrones de actividad que pueden manifestarse con intensidad variable, desde las expresiones verbales y gestuales hasta la agresión física. El lenguaje cotidiano asocia la agresividad con la falta de respeto, la ofensa o la provocación” (Pérez Porto, Julián Merino, 2008). En la literatura revisada en esta investigación las definiciones de violencia digital se encuentran más

cercanas al concepto de agresividad en la comunicación. Las investigaciones que se han ocupado de

entender la agresividad verbal en las interacciones virtuales se circunscriben al análisis del discurso y

en particular al análisis de la descortesía en la comunicación, en tanto” muchas estrategias descorteses

se pueden tildar de agresivas e incluso violentas” (Fuentes y Alcaide. En: Bañón Hernández, 2010).

Así, pueden identificarse dos tipos de comportamientos en entornos comunicativos: el comportamiento verbal argumentativo y el comportamiento verbal agresivo. El primero se caracteriza por atacar de manera directa la posición del adversario, sus argumentos, percepciones y puntos de vista. Por su parte, el comportamiento verbal agresivo busca atacar al interlocutor, su imagen e incluso lo que éste percibe de sí mismo (Bañón Hernández, 2010; Mancera Rueda, 2009). En definitiva, lo que caracteriza una interacción agresiva es la intencionalidad implícita y explícita de atacar al receptor del mensaje y no sus argumentos, ideas o percepciones (Mancera Rueda, 2009). El comportamiento verbal agresivo, a su vez, se puede manifestar de dos formas: agresión y violencia

19

hostil, cuando el fin es herir o dañar a la víctima o al interlocutor, y agresión y violencia instrumental, cuando la agresión se usa como medio y no como fin en sí mismo (Fuentes y Alcaide. En: Bañón Hernández, 2010).De manera más específica, los comportamientos verbalmente agresivos, que implican amenazas a la imagen pública de un otro claramente definido, se conocen como face threatening acts (FTAs)(Brown y Levinson, 1978. En: Mancera Rueda, 2009), ese otro claramente definido puede ser un personaje público, el medio que publica la noticia que posibilita las interacciones, el autor de la nota que se comenta o los otros lectores que participan de la interacción. Las teorías de la descortesía que se han ocupado de analizar las interacciones agresivas en internet han procurado tipificar actos del habla descorteses. La descortesía es entendida desde la pragmática como “un comportamiento comunicativo que ataca, daña, denigra u ofende la imagen social del interlocutor; busca causarle un perjuicio o incide de manera negativa en el clima socio-emocional de la interacción” (Kaul de Marlangeon & Cordiscon, 2014). En la literatura sobre descortesía en internet en entornos públicos sobresalen los insultos (Restrepo Acebedo, 2013) y las exhortaciones y los disfemismos (Moya & Sánchez, 2008), como los actos del habla descorteses que más hacen presencia al momento de analizar interacciones virtuales. Sobre los insultos, el historiador y comunicador colombiano Juan Carlos Acebedo identifica, con base en el análisis de foros de prensa digital colombiana, que los insultos pueden apelar a comparaciones con animales, imágenes sexuales, discriminación de género o por orientación sexual y comparaciones con enfermedades, y pueden ser directos o indirectos (Restrepo Acebedo, 2013). Las exhortaciones, por su parte, buscan persuadir, generalmente de manera agresiva y acompañada de insultos, a los lectores u otros participantes de la interacción para cambiar la opinión o juicio sobre el tema de interés que posibilita las interacciones (Moya & Sánchez, 2008). Finalmente, los disfemismos son entendidos como expresiones intencionadamente despectivas e insultantes, en algunos casos acompañados de ironía y sarcasmo (Mancera Rueda, 2009; Moya & Sánchez, 2008). 3.2 Tipificaciones relevantes para analizar la violencia online

20

Además de la tipificación sobre los comentarios específicos, Sandra Newman (2015) identifica dos emisores de mensajes hostiles: i) la figura del “vengador enmascarado”, para referirse a aquel que justifica la presencia de comentarios agresivos u hostiles al considerar que su comportamiento se justifica en tanto lo que ataca lo percibe como injusto (por ejemplo, Anonymus); ii) la figura de la

"schandmaske" (o máscara de la vergüenza), que es usada por las mismas comunidades virtuales

para etiquetar a alguien que ha transgredido las normas sociales establecidas en la interacción, es

decir, se impone como una suerte de castigo que si bien en principio puede buscar censurar un

comportamiento agresivo, se convierte también en una estrategia que puede considerarse agresiva u

hostil. Hay dos asuntos que vale la pena mencionar sobre la clasificación presentada. Primero, que las

tipificaciones que se han desarrollado para categorizar la agresividad o violencia virtual no son

exclusivas para los entornos virtuales, en cambio, tienen como principal referente la interacción cara a cara, lo que parece indicar que hasta el momento no se han desarrollado enfoques de análisis que delimiten la violencia virtual como un fenómeno absolutamente diferenciado de la comunicación que tiene lugar en otras esferas de la vida cotidiana. Segundo, que en el análisis de todas las manifestaciones de agresividad u hostilidad virtual, debe considerarse lo que se conoce como la “interpretabilidad del mensaje” según el contexto de la expresión y la subjetividad del receptor del mensaje. El silencio, por ejemplo, puede ser interpretado como descortés o no dependiendo las dinámicas de la interacción (Mancera Rueda, 2009). 3.3 Facilitadores de la violencia online En la literatura revisada también se encuentran hipótesis sobre las condiciones de posibilidad para que una interacción virtual se torne violenta en determinados momentos. A esas condiciones las hemos denominado facilitadores pues no pueden considerarse causas de la violencia virtual, en tanto la violencia en sí es un fenómeno multicausal y contextual (Blair Trujillo, 2009). El anonimato y la desinhibición que este posibilita emergen como dos factores que potencian o facilitan la hostilidad o agresividad, afectando la deliberación y con esto la construcción de entornos virtuales deliberativos.

21

Sobre el anonimato, es interesante el llamado de Sandra Newman (2015), al considerar que éste —

como la violencia— no es exclusivo de la socialización en internet, al contrario, señala que el anonimato

es una de las formas de evolución de las “máscaras”, poniendo en evidencia sus usos en otros ámbitos: “1) como instrumento ritual (ej. en religiones tribales); 2) como dispositivo de encubrimiento, de desinhibición o de castigo (ej. en el teatro o en la esfera socio-cultural); y 3) como tropo identitario (ej.en la lucha libre mexicana o en los cómics de superhéroes)”. Teniendo en cuenta la anterior, vale la pena señalar que el anonimato en internet no siempre está relacionado con la intención de “no dar la cara” y tener licencia para agredir a otros, esos otros que por lo demás suelen también estar enmascarados, de allí que el anonimato no deba asumirse como una causa de las interacciones violentas. Ahora bien, en tanto las interacciones virtuales posibilitan el anonimato y la interacción con un “otro” no definido o perceptible, esto hace que la comunicación virtual no implique lo que se denomina reciprocidad dialógica, es decir, un relacionamiento exento de la obligaciones y compromisos recíprocos (como la cortesía) que supone la interacción cara a cara ordinaria (Thompson, 1998 En: Wincour, 2001). La ausencia de esa reciprocidad o compromiso es la condición de posibilidad para la deshinibición onilne, facilitando que los participantes de una interacción digan y hagan cosas que posiblemente no harían en la comunicación presencial. A su vez, la desinhibición en internet está estrechamente relacionada con la ausencia de regulación legal en entornos virtuales, pues “la ausencia de normativas hace que los contenidos puedan ser más extremos que cualesquiera otros medios de comunicación, y la participación es a menudo privada y anónima, lo que hace que se puedan eliminar los inhibidores propios de la comunicación cara a cara” (Bañón Hernández, 2010). Al respecto, vale preguntarse por el lugar y relevancia de la regulación legal en internet exclusivamente cuando la desinhibición esté atentando contra los derechos fundamentales del otro, o en otras palabras, indagar por los límites de la gobernanza en internet. Al tiempo, será necesario reflexionar y promover estrategias de autorregulación en la red que no violen el derecho a la libertad de expresión y opinión, siendo estas condiciones para la deliberación. En ese contexto es relevante la noción de desinhibición tóxica, usada para describir interacciones en las que tenga lugar el

22

uso de “lenguaje agresivo, manifestaciones de ira y de odio, críticas severas y persistentes, amenazas y prácticas criminales cuestionables en el mundo real” (Suler, 2004), siendo estos elementos para definir cuándo una interacción es agresiva o violenta.

4. Conclusiones temáticas La revisión de literatura que se presentó en las páginas anteriores puso en evidencia diferentes aspectos a considerar para las siguientes fases de una investigación que busque caracterizar las interacciones virtuales y entender cuándo estas se tornan violentas. En primer lugar, la fragilidad, e incluso ausencia de conceptos específicamente diseñados para describir interacciones virtuales, esto más que entenderse como un vacío pone de manifiesto que la diferenciación entre la esfera virtual y la física es prácticamente inexistente; por lo tanto, los mismos conceptos que se han usado para caracterizar la violencia en la comunicación en sentido amplio, como es el caso de la violencia simbólica, pueden dar más luces para abordar el fenómeno en contextos virtuales. La pregunta que se deduce de lo anterior es si es necesario diseñar nuevos conceptos (como el de violencia virtual u online) o en cambio, es pertinente usar otros relacionados con el análisis de las interacciones cara a cara. El segundo aspecto sobre el que será necesario reflexionar de manera más profunda, tiene que ver con las fronteras y los límites entre: lo público y lo privado, la violencia y la agresión, la libertad de expresión, la regulación legal y la autorregulación en internet; solo establecer esos límites posibilitará el diseño de estrategias de intervención que faciliten la convivencia en internet sin llegar al extremo de la censura, asunto de naturaleza eminente político. A propósito de lo anterior, el tercer y último aspecto que puso en evidencia la revisión de literatura, es justamente la ausencia de análisis que documenten estrategias que promueven interacciones en internet para prevenir lo que se conoce como “desinhibición tóxica”, una noción que podría convertirse en el foco de futuros análisis e intervenciones, en tanto consideramos que allí hay un terreno fructífero para el desarrollo de programas desde el ámbito de la política pública que se constituyan en referentes para otros contextos.

23

24

PERSPECTIVAS LOCALES SOBRE EL ANÁLISIS DE LA VIOLENCIA EN LA COMUNICACIÓN PÚBLICA VIRTUAL

1. Diálogos con expertos en cibercultura Como se señaló en la presentación de este documento, el proyecto de investigación sobre “violencia online” contempló el desarrollo de mesas de trabajo con expertos para discutir los hallazgos de la revisión bibliográfica realizada. Para ello, se establecieron diálogos a la luz de casos empíricos (interacciones en twitter y foros de opinión de medios digitales, específicamente El Espectador) en los que se hacían evidentes agresiones verbales dirigidas a los participantes de la interacción. Estos espacios de encuentro posibilitaron la construcción de diálogos de saberes en torno a las agresiones online como fenómeno emergente y los matices que esta adquiere en el contexto local, considerando la ausencia de investigaciones colombianas en la materia. Para el desarrollo de la mesa denominada “Aproximaciones conceptuales a la violencia online en Colombia” (Mesa de Trabajo I) se convocaron expertos cuyo perfil investigativo y profesional estuviera relacionado con: comunicación digital (e.g. periodistas de medios digitales o community manager), analistas de redes sociales o comunicación digital, analistas de la cultura virtual u online (sociólogos, antropólogos), expertos en derechos y libertad de expresión en internet, expertos en etnografía virtual (ciberetnografía) o cibercultura.

2. Reflexiones significativas Sobre la delimitación del fenómeno y sus implicaciones

25

Tal y como lo muestra la revisión bibliográfica realizada, definir los límites de lo que puede considerarse una interacción violenta es un asunto de alta complejidad teniendo en cuenta las dinámicas que construyen quienes participan de la comunicación virtual, esto significa que es la interacción misma y la intersubjetividad que se construye en ella, lo que termina por definir si un mensaje es percibido como agresivo o violento (interpretabilidad del mensaje). En ese sentido, parece necesario preguntarse si un contenido antes que tipificarse como violento puede considerarse desagradable, o bien, si aquello que se clasifica como violento está o no violentando los derechos humanos de quienes participan de la interacción virtual, lo que podría ser también una pista para establecer los límites de la violencia online, sin perder de vista que la libertad de expresión también es un derecho humano. En términos del análisis de las interacciones virtuales en espacios en los que se construye opinión pública (foros de opinión y redes sociales), se sugiere transitar de la comprensión racional y argumentativa de la comunicación (una aproximación habermasiana), hacia una que contemple el rol de las emociones en las interacciones. Esto se relaciona de manera directa con el tránsito de una sociedad de audiencias masivas y de comunicación unidireccional, a una sociedad de expresividad en entornos interactivos y de comunicación bidireccional. Otra premisa importante para la comprensión de las interacciones violentas o agresivas en internet, es el hecho de que lo que ocurre allí no es particularmente distinto a lo que ocurre en la interacción cara a cara, en consecuencia, no es posible asumir que se puede llegar a un comportamiento cívico en línea, cuando la violencia es latente, de múltiples maneras, fuera de la red. Lo anterior está estrechamente relacionado con la aproximación a las agresiones online desde la noción de violencia simbólica, al considerar que internet es solo un espacio más en el que se manifiestan formas de violencia que le anteceden. El equipo de expertos participantes de la mesa de trabajo, señalan que es necesario reflexionar sobre las implicaciones de nombrar el fenómeno que se estudia como “violencia online” por dos aspectos. El primero, atendiendo a la ausencia de claridades conceptuales sobre esta, que puede explicarse por la falta de investigaciones en la materia, pero también, porque la noción de violencia online no permite

26

analizar las agresiones verbales que tienen lugar en las interacciones virtuales, de allí que se haga más referencia a la agresividad que a la violencia. El segundo, la carga peyorativa que tiene la noción, en tanto la violencia suele ser asumida como algo negativo, describir algo desde allí implica el riesgo de estigmatizar comportamientos y sujetos que en principio están haciendo uso de su derecho a la libre expresión. Esa reflexión sobre lo que implica el uso de la expresión “violencia online”, es significativa dada la prevención expresada por los expertos al percibir la preocupación por las interacciones online como asociada a la intención de “normalizar” los entornos digitales, en particular si esta normalización se expresa en regulación formal que tiende a ser la construida desde un ente gubernamental. Al respecto, los expertos consideran que antes de promover la regulación formal en un espacio en el que debe privilegiarse la libertad de expresión, es necesario promover estrategias de auto y mutua regulación desde una perspectiva pedagógica, para lo cual resulta pertinente el enfoque de Cultura Ciudadana. En ese sentido, las estrategias de intervención que se desarrollen para minimizar interacciones violentas o agresivas en la red deberían partir de diálogos colectivos en torno a la pregunta por ¿qué internet queremos tener?, incluyendo perspectivas de los múltiples actores que confluyen en entornos digitales, así como a posicionar la empatía como mediadora en la interacción virtual, pues, al parecer parte de lo que facilita el surgimiento de agresiones, tiene que ver con la dificultad para establecer lazos de empatía en tanto la interacción está mediada por una máquina, contrario a lo que ocurre en la interacción cara a cara. En términos de caracterización de las interacciones violentas o agresivas en la red En el diálogo con expertos se señaló como importante para el análisis de las agresiones online, no descorporizar los actores que participan de las interacciones, o en otros términos, no perder de vista que los mensajes en la red, la mayoría de las veces, son emitidos por sujetos sociales con marcas identitarias como el género, la raza o la clase. En ese sentido, al momento de analizar la dinámica comunicativa no sólo debe analizarse el mensaje escrito, sino lo que representa ese mensaje, lo que

27

revela, lo que ataca o defiende y cómo esto se relaciona con la identidad y subjetividad de quienes participan en la interacción, asunto coherente con la apuesta de identificar la violencia simbólica presente en las interacciones virtuales, aquella que no es visible o evidente en el texto mismo. Así mismo, teniendo en cuenta la complejidad de rastrear las afectaciones de las agresiones online, se señala que es necesario pensar en un “modelo general de análisis de la agresión”, que tome en consideración afectaciones de tipo cognitivo, emocional/afectivo e incluso fisiológico, este modelo por supuesto debería considerar estrategias de investigación y diagnóstico tanto en entornos digitales como no-digitales. Adicionalmente, una caracterización de las interacciones violentas en internet, tendría que considerar el rol de la emocionalidad, del anonimato, del humor, de la indignación y la solidaridad, es decir, poner en contexto la interacción de tal forma que esto posibilite análisis multicausales y multidimensionales. Finalmente, a propósito de la caracterización de los detonantes de la violencia online, se señala como importante considerar cuando esta es producto de acciones coordinadas por grupos organizados (e.g la comunidad Legión Hulk) y cuando son producto de las dinámicas que establecen quienes participan de la interacción virtual sin que dichas comunidades organizadas intervengan, pues las motivaciones para generar interacciones violentas en ambos casos, son diferentes y por lo tanto es necesario hacer intervenciones que tomen en consideración esa distinción.

28

APROXIMACIÓN AL ANÁLISIS DE LA COMUNICACIÓN PÚBLICA VIRTUAL DESDE LA CULTURA CIUDADANA Cultura Ciudadana, en principio, fue el programa de gobierno promovido por Antanas Mockus durante sus periodos como alcalde en la ciudad de Bogotá (1995- 1997 y 2001-2003), cuyas apuestas y logros quedaron registradas en la memoria de los capitalinos, al promover el buen uso de los recursos y el espacio público, la transparencia entre gobierno y ciudadanos y la convivencia. Con el paso de los años, aquello que inició como una apuesta de carácter gubernamental y político, se ha consolidado como un enfoque para el análisis y la intervención social. Decir que la Cultura Ciudadana es un enfoque, implica reconocer que cumple con un conjunto de ca-racterísticas: es una perspectiva que usa como punto de partida para el análisis de un fenómeno, usa un lenguaje específico para describir aquello que se analiza, y se compone de un conjunto de preguntas, hipótesis y reglas de procedimiento, para describir y analizar lo que estudia (Casas & Losada, 2008). De acuerdo con lo anterior, el enfoque cultura ciudadana privilegia algunos elementos de la cultura asocia-dos al cumplimiento de normas (formales e informales) y a la disposición a ciertos comportamientos o conductas prosociales, en particular las relacionadas con la convivencia y el bienestar común en dife-rentes contextos, en este caso el espacio público virtual. Así mismo, establece unas temáticas generales y unas categorías para aprehender un estado de cosas en un momento específico y posteriormente interpreta la información recogida en función de unos objetivos planteados (diagnóstico-política pública-investigación académica etc) (Corpovisionarios, 2016). De manera general, podemos decir que la Cultura Ciudadana tiene tres dimensiones una normativa, que se caracteriza por señalar un estado deseable de cosas; una descriptiva del fenómeno que se estudia a partir de datos empíricos, y una prescriptiva, que comprende las estrategias diseñadas de cara a lograr un estado de cosas deseables. En esta fase del proyecto, en la que se busca comprender las agresiones online en un marco de participación ciudadana en entornos virtuales de carácter público (e.g

29

los foros de opinión de medios de comunicación digital), vale la pena volver sobre tres principios de la Cultura Ciudadana que posibilitarán un abordaje del fenómeno desde este enfoque:

• En primer lugar, la cultura ciudadana asume que el gobierno es un educador de los ciudadanos, lo que implica que parte de los deberes de quienes diseñan las normas formales es reconocer la dimensión pedagógica y educativa de este ejercicio. En este caso particular, esa premisa es sumamente relevante, pues permite al Ministerio de Tecnologías de la Información y las Comu-nicaciones asumir una perspectiva desde donde se promueva una pedagogía para la convivencia en internet, de cara a la construcción de una opinión pública virtual basada en la deliberación, antes que la generación de estrategias de regulación formal que de manera no intencionada coharten la libertad de expresión de algunos usuarios. La pedagogía promovida por el MinTIC, deberá estar basada en la promoción del respeto a las diferencias y la resolución pacífica de los disensos, esto implica, a su vez, poner el foco en el desarrollo de estrategias que promuevan conductas prosociales en la red, antes que en la identificación de los comportamientos violentos; se trataría entonces de posicionar desde el abordaje mismo del fenómeno, la promoción de buenas prácticas, antes que subrayar cuáles son negativas.

• El segundo principio normativo que consideramos relevante, corresponde a la alineación de ex-pectativas entre los actores que participan de las interacciones, apelando a un principio de co-rresponsabilidad, en particular si situamos las interacciones virtuales en un contexto de cons-trucción de opinión pública virtual. El fundamento para la alineación de expectativas es la reci-procidad, desde la que se entiende que la comunicación, incluida la comunicación virtual, es un intercambio de argumentos y percepciones (mediadas incluso por las emociones) en el que, idealmente, los participantes de la interacción esperan obtener un saldo positivo. Esta alineación de expectativas reafirma un principio de igualdad entre ciudadanos y propende por una afirma-ción del ciudadano como portador de buena fe, merecedor de confianza, acuerdos, reconoci-mientos etc. (Corpovisionarios, 2016). En últimas, la alineación de expectativas pone de presente la necesidad de promover estrategias que subrayen la importancia de la construcción de empatía en entornos virtuales, esto posibilitaría que los usuarios reconozcan a los otros como semejantes.

30

• Finalmente, la cultura ciudadana promueve la resolución no violenta de conflictos y la tramitación

pacífica de las emociones. Esto no implica que los conflictos se anulen, sino que los ciudadanos y los gobiernos deben estar en capacidad de construir mecanismos que permitan la resolución pacífica de los disensos. Para Antanas Mockus, la violencia aparece cuando se presentan limita-ciones en la comunicación y por lo tanto la violencia debe ser usada como último recurso para comunicar algo (Mockus Antanas, 2002). Una de las estrategias para evitar que la violencia haga presencia en la interacción, es apelar a lo que se ha denominado desde el enfoque “comunicación intensificada”, que consiste en ampliar el repertorio y la capacidad de los ciudadanos para co-municar aquello que desean comunicar. En palabras de Antanas Mockus, “la comunicación es esencial a Cultura Ciudadana en varios de sus ámbitos: en la posibilidad argumentativa que obliga al gobierno a comunicarse con sus ciudadanos; en las transformaciones culturales que busca producir, de manera que ella misma se ve transformada por la cultura ciudadana; en su posibilidad de crear nuevos contextos, nuevas lecturas, nuevas identidades que transformen la cultura misma” (Mockus Antanas, 2002).

Ahora bien, ¿cómo entiende la cultura ciudadana la violencia? En principio, es importante subrayar que las aproximaciones a este fenómeno desde el enfoque, se han concentrado en describir y analizar las manifestaciones de violencia relacionadas con la violencia física y solo de manera reciente y no tanto en manifestaciones de violencia en otros ámbitos de socialización como el virtual, asumiendo la postura de que en dichos espacios se reproducen formas de violencia que ya están insertas en otras esferas de la vida cotidiana. Para entender la violencia, el enfoque de cultura ciudadana se apoya en la perspectiva del sociólogo Norbert Elias, quien en sus investigaciones abordó la relación entre civilización y violencia. Desde la perspectiva eliasiana, la pregunta no debiera ser por la violencia, sino por cómo los grupos humanos logran vivir de manera relativamente pacífica en la actualidad, se trata de un cambio de foco, que es coherente con las apuestas de cultura ciudadana y que buscan subrayar aquello que hace posible la convivencia antes que lo que la obstaculiza. En palabras de Elias, “nunca antes en la historia de la

31

humanidad tantas personas habían convivido de esta manera tan pacífica -es decir, excluyendo la vio-lencia- que podemos observar en los grandes Estados y ciudadanos de nuestros días” (Elias, 1994, p. 141-142. En Guerra Manzo, 2013). Desde la perspectiva de Norbert Elias, no hay estructuras macro que logren determinar completamente el comportamiento de los individuos, al contrario, las estructuras macro y micro, lo estructural que pareciera determinar todas las acciones de los individuos, están íntimamente relacionados (Guerra Manzo, 2013). El objeto de estudio de este sociólogo son las “redes de interdependencia” entre actores, las que se producen en todos los planos sociales. La interdependencia implica dependencia recíproca entre dos o más personas, y está a su vez, implica compartir un conjunto de principios con otros a partir de la corresponsabilidad. Entender las interacciones virtuales como relaciones interdependientes, en las que la existencia de la comunicación virtual es compartida por todos los actores que participan de ella, nos remite nuevamente a dos aspectos clave del enfoque de cultura ciudadana: la auto y mutua-regulación. Para garantizar que estos espacios se mantengan en el tiempo, es necesario que los ciudadanos promuevan acciones en dos sentidos: por un lado, apelando a la contención de acciones que pueden desencadenar agresiones y violencia en la red, y contribuyendo, a través de la comunicación intensificada, a que otros actores eviten el uso de la violencia en la interacción.

32

APROXIMACIONES METODOLÓGICAS PARA EL ANÁLISIS EMPÍRICO DE LA VIOLENCIA ONLINE DESDE LA CIENCIA DE DATOS Esta sección presenta un análisis comparativo de las distintas herramientas que se han usado desde la literatura académica para caracterizar las interacciones en línea de los ciudadanos. Puesto que un interés particular del proyecto es diagnosticar las interacciones en línea de los colombianos haciendo uso de metodologías relacionadas con ciencia de datos, la búsqueda de literatura se concentró en aquella que aborda de manera empírica la violencia online y otro tipo de interacciones en línea desde este campo del conocimiento. A continuación, se presentan los conceptos básicos de ciencia de datos que orientaron la búsqueda de literatura y la descripción y análisis de la literatura revisada.

1. Ciencia de datos: conceptos clave La ciencia de datos es el “estudio fenomenológico de Sistemas Complejos Adaptativos, con el propósito de construir productos de datos que ayuden/soporten a la toma de decisiones y acciones sobre el sistema.” (De Unánue, 2017). En un sistema de este tipo los elementos están fuertemente conectados entre sí, son muy sensibles a cambios y presentan comportamientos emergentes debido a esas conexiones y cambios (De Unánue, 2016). Por eso, para comprenderlos no es suficiente observar los elementos que lo componen, y se hace necesario observar las relaciones entre ellos (Miller & Page, 2009). Un ejemplo que ayuda a comprender esta noción es el de ecología: las ecologías están compuestas por múltiples actores organizados en grupos funcionales que modifican su comportamiento para adaptarse a nuevas circunstancias y garantizar la supervivencia del sistema (Wilson, 1992. En: Bohórquez, 2012) . Así, el objetivo de los productos de ciencia de datos es recoger datos sobre los actores, sus relaciones y la dinámica del sistema y transformarlos en información que ayude la toma de decisiones. Para lograr este objetivo, la ciencia de datos recurre a distintas metodologías que combinan técnicas, herramientas

33

y saberes como los que se definirán a continuación:

● Big data: es el conjunto de técnicas y herramientas para extraer, almacenar y procesar datos de gran tamaño (cantidad), que cambian muy rápido (velocidad) o provienen de fuentes muy diversas (variedad) (De Unánue, 2016) .

● Minería de datos: es un conjunto de herramientas que permiten encontrar patrones en un

conjunto de datos para ayudar a darles estructura y sentido (Larose, 2005). La minería de datos permite descubrir nuevas estructuras, ontologías y variables, que pueden resultar valiosas por sí mismas o para ser utilizadas como piezas de un algoritmo posterior (De Unánue, 2016). La minería de texto es el tipo específico de minería que se emplea para reducir la complejidad de la información textual y darle estructura de manera que pueda ser analizada mediante métodos computacionales. Las metodologías de minería de texto se suelen dividir en dos categorías no necesariamente excluyentes, herramientas estadísticas y lingüísticas o de procesamiento natural del lenguaje. Dentro de la primera categoría se encuentran el cálculo de matrices de frecuencia y TF-IDF que identifican qué términos son más usados, la identificación de secuencias ordenadas de palabras (n-gramas) a partir de palabras clave, los algoritmos de agrupamiento (“clustering” en la literatura), vectorización y bag of words. Dentro de la segunda categoría se encuentran herramientas sintácticas como la tokenización, POS-tagging, lemmatización y stemming que permiten hacer explícita la estructura, orden y relación de las palabras entendidas como sintagmas. También utiliza herramientas semánticas como el uso de diccionarios especializados (lexicones) que definen el valor de polaridad de cada palabra en una lengua específica y software lingüístico (LIWC) para categorizar y cuantificar su carga semántica.

● Machine learning: es un subcampo del conocimiento derivado de la Inteligencia Artificial que

comprende algoritmos que aprenden a detectar de manera automática patrones en un conjunto de datos, previamente procesados, llamados de entrenamiento (De Unánue, 2016). De manera general, estos algoritmos pueden clasificarse en supervisados y no supervisados. En el aprendizaje supervisado el objetivo es predecir la ocurrencia de una variable objetivo o clasificar

34

automáticamente la presencia de esta variable en un conjunto de datos, mientras que en el aprendizaje no supervisado el objetivo es identificar los patrones y agrupaciones “naturales” o espontáneos de los datos (Foster, Ghani, Jarmin, Kreuter, & Lane, 2016).

Para cumplir este objetivo, el machine learning supervisado sigue un proceso que consiste en codificar el valor que tiene la variable objetivo en cada una de las observaciones de un conjunto de datos de entrenamiento, hacerle minería a estos datos de manera que se puedan identificar características (generalmente en la literatura se utiliza el término “features”) que los describan y dividir estos datos preclasificados en dos conjuntos, uno de entrenamiento y uno de evaluación. El conjunto de entrenamiento se utiliza para que la máquina identifique el modelo que mejor predice la ocurrencia de la variable objetivo y el de evaluación para verificar que la máquina ya puede de manera autónoma clasificar nuevas observaciones. Hecho esto, se puede proceder a clasificar nuevos datos, con la salvedad de que estos pueden tener características diferentes que afecten la precisión de la predicción, por lo que es indispensable tener claridad sobre las métricas que evalúan el algoritmo y permiten identificar el momento en que es necesario reentrenar la máquina. El proceso de machine learning no supervisado no requiere que se pre clasifiquen los datos, lo cual simplifica el proceso inicial, pero esto implica un mayor trabajo posterior, que permita seleccionar, analizar y dar sentido a los patrones y agrupamientos identificados.

● Análisis de redes: es un conjunto de técnicas construidas a partir de la teoría matemática de grafos para representar y analizar conjuntos de elementos conectados entre sí (Voloshin, 2009). Así, el análisis de redes no sólo observa los elementos (nodos), sino sus relaciones (aristas y arcos) y la entidad que emerge de este conjunto (sistema) (Foster et al., 2016). Algunas de las medidas utilizadas con mayor frecuencia por el análisis de redes son la accesibilidad, centralidad y cohesión. La accesibilidad se refiere a la capacidad de dos nodos de conectarse a través de una cadena de nodos conectados entre sí; la centralidad que se refiere a la cantidad y “calidad” de conexiones de un nodo; finalmente, la cohesión se refiere a la tasa entre la cantidad de relaciones que ocurren en la red y la cantidad de relaciones posibles (Foster et al., 2016) . Estas

35

medidas permiten describir una red en un momento determinado y comparar entre redes. Sin embargo, también es posible analizar los ciclos de realimentación presentes en la red, es decir, los cambios que emergen en la red porque la salida del sistema, a su vez, lo alimenta. La dinámica de sistemas, es el campo de conocimiento específico que realiza este análisis.

2. Literatura revisada Una vez se tuvieron claras las definiciones básicas de ciencia de datos, se realizó la revisión de literatura académica que incluyera descriptores de las metodologías y herramientas clave de esta, junto con descriptores de espacios virtuales13. De los resultados de este tipo de búsqueda se seleccionaron aquellos artículos que caracterizaban interacciones en línea y, en lo posible, que abordaran temáticas similares al problema de investigación de este proyecto (opinión pública, violencia, polaridad, entre otros). Esta selección redujo notablemente los resultados obtenidos, si bien la literatura académica que aborda el uso de datos provenientes de redes sociales y foros online con herramientas de ciencia de datos es abundante, esta no se centra en caracterizar interacciones en línea ni intenta analizar fenómenos sociales. El resultado de la búsqueda fueron 13 artículos que caracterizan interacciones y opiniones de usuarios en Twitter, foros de discusión y sitios de noticias online. Dos artículos hacen referencia explícita a clasificar interacciones violentas (Hammer, 2014; Moreno, González-Brambila, & Vargas-Rubio, 2014) los demás identifican el sentimiento del texto, publicaciones controversiales y comunidades de discusión. Durante el desarrollo de la revisión bibliográfica, se hizo evidente la importancia de la lingüística para caracterizar las interacciones en línea de los ciudadanos. Puesto que los avances de la lingüística computacional son particulares a cada lenguaje, se hizo necesario priorizar la búsqueda de literatura que analizara textos en español, cinco artículos que se toman para el análisis cumplen con esta

13 Los descriptores utilizados fueron: Redes sociales, Entorno digital, Foros de opinión, Twitter, Facebook, Medios digitales, Foros públicos, Microblog, Internet, Entornos virtuales Big data, Minería de datos, Aprendizaje automatizado, Minería de texto, Procesamiento natural del lenguaje, Agrupamiento, Etnografía virtual, API, Análisis del discurso, Análisis de sentimiento, Análisis de polaridad..

36

característica. A continuación, se presentan las metodologías identificadas, divididas según el tipo de análisis que proponen. Para cada grupo de metodologías se presenta un análisis comparativo de los datos que utilizan, el procesamiento que realizan de estos datos y los hallazgos que establecen a la luz de las preguntas de investigación priorizadas para este proyecto.

3.1. Metodologías que hacen uso de herramientas de Big Data: En la revisión de literatura se encontró un artículo que hace uso de herramientas de Big Data. A continuación, se presenta su metodología y se analiza, a la luz de las definiciones presentadas en la sección de conceptos clave. El artículo de (Purohit et al., 2015) analiza una base de datos de cerca de 14 millones de trinos sobre violencias basadas en género. El siguiente esquema representa la metodología que sigue el artículo:

Los autores del artículo consultaron a expertos en violencias basadas en género del Fondo de Población de las Naciones Unidas (UNFPA) para definir los países en los que se debía estudiar la manifestación de este tipo de violencias en línea y para construir el lexicón14 con las palabras claves que, según su criterio, permiten identificar trinos relacionadas con este tema. Los metadatos de los cerca de 14 millones de trinos extraídos fueron analizados cuantitativamente para identificar los países en los que más se conversa sobre el tema, los momentos en los que la conversación ha sido más intensa, la identificación de coyunturas que pudieron suscitar estos picos y si son los

14 Es decir, una lista de palabras asociadas a una categoría, en este caso violencias basadas en género, que explica en detalle el término a la luz de la categoría.

37

hombres o las mujeres quiénes más hablan del tema. Adicionalmente, los investigadores seleccionaron una muestra de estos datos para analizarlos cualitativamente mediante análisis de contenido e identificar tendencias como si hay sarcasmo o validación de la violencia. Este tipo de enfoque aprovecha los metadatos de Twitter para darle profundidad a la caracterización de las interacciones en línea. Sin embargo, el llamar a un estudio de este tipo como un estudio de Big Data puede resultar impreciso. En este caso, se extrajeron datos durante un periodo de tiempo específico, es decir, no se trata de datos que cambian a gran velocidad. Por otro lado, todos los datos provienen de Twitter y fueron extraídos usando su API, por lo que tampoco se puede hablar de variabilidad. Frente a este punto en particular, es necesario hacer una aclaración adicional: los datos extraídos desde la API de Twitter tienen varias limitaciones. Primero, no se puede acceder a datos en tiempo real, segundo, existe un límite en el número de requests diarios que se pueden realizar, y tercero, y tal vez la limitante más importante, la API de Twitter no entrega todos los datos que corresponden con los criterios de búsqueda, sino que selecciona algunos basados en algoritmos privativos15. En este sentido, no es posible conocer las características de la muestra de datos, de manera que las conclusiones de este tipo de análisis no son generalizables. Twitter ofrece el servicio pago para acceder a todos sus datos en tiempo real, pero este artículo no hace uso de él. Sin duda, este tipo de estudios se presenta como “Big Data” apelando al gran número de observaciones, pero el número de observaciones no siempre es indicador de que haya que recurrir a herramientas de Big Data para almacenar y procesar la información. En el artículo no se hizo mención a si fue necesario hacer uso de este tipo de herramientas. En ese sentido, este artículo presenta un posible camino para analizar datos provenientes de redes sociales y sacar mayor provecho de la información disponible, pero no da luces sobre cuándo es necesario recurrir a herramientas de Big Data ni sobre cuáles pueden ser

15Las políticas de Twitter para desarrolladores se pueden consultar en https://dev.twitter.com/overview/api

38

usadas.

3.2. Metodologías que hacen uso de algoritmos de Machine Learning:

En esta sección se analiza la metodología de diez artículos que hacen uso de machine learning supervisado para clasificar interacciones en línea, de acuerdo a categorías relacionadas con opinión pública y otros fenómenos sociales. No se encontraron artículos que usaran machine learning no supervisado para estos propósitos. Puesto que la literatura que aborda violencia online desde este enfoque es escasa, se ampliaron los términos de búsqueda para incluir cualquier fenómeno social en línea. El objetivo de estos artículos es crear clasificadores automáticos y medir su precisión. Así, se encontró un artículo que clasifica conversaciones transcritas de videos en Youtube en violentas o no violentas (Moreno et al., 2014), uno que clasifica comentarios a videos sobre minorías en Youtube de acuerdo a si atacan a alguna minoría (Hammer, 2014), tres que clasifican la polaridad (si son positivas o negativas) de publicaciones en español en Twitter y sitios de reseñas de productos y películas (Del Pilar Salas-Zárate et al., 2014; Martínez-Cámara, Martín-Valdivia, Ureña-López, & Mitkov, 2015; Vilares, Alonso, & Gómez-Rodríguez, 2013), uno que clasifica los comentarios a noticias como controversiales y no controversiales (De-la-Peña-Sordo, Santos, Pastor-López, & Bringas, 2014), uno que clasifica trinos que mencionan medicamentos de acuerdo a si mencionan efectos secundarios (Yu, Moh, & Moh, 2016), dos que identifican la proporción de trinos que pertenecen a una categoría analítica sin clasificar las observaciones particulares (Su et al., 2017 y dos que proponen metodologías para ser aplicadas a cualquier clasificación de noticias (Fong, 2012) o trinos sobre un tema particular (Shaikh, Salleh, & Marziana, 2015). Si bien los temas no necesariamente están ligados a la violencia digital, las propuestas metodológicas de estos artículos pueden ser adaptadas a este tema. Debido a la novedad de los desarrollos de machine learning, un grupo considerable de estos artículos está enfocado en hacer experimentos para evaluar qué métodos y algoritmos funcionan mejor para clasificar de manera automática textos con características definidas, más que en diagnosticar la prevalencia de un fenómeno social en línea. En ese sentido, no sorprende que la mayoría de estas publicaciones hagan parte de journals de ingeniería, especialmente del Instituto de Ingeniería Eléctrica

39

y Electrónica -IEEE-, y no de publicaciones propias de las ciencias sociales. La excepción a esta afirmación es el artículo de Su et al., 2017 que pretende evaluar la pertinencia de las herramientas de machine learning para los procesos de análisis de contenido cualitativo en ciencias sociales. Como se verá en las siguientes secciones, esta particularidad determina que este artículo se diferencie de los demás en cuanto a su complejidad y alcance. A continuación, se describe la metodología que siguieron los autores de los 10 artículos y se analiza la pertinencia de su propuesta de cara a las preguntas de investigación de este proyecto.

3.2.1. Esquema general de la metodología:

El esquema muestra el flujo general que siguen los diez artículos analizados. Se puede observar que se trata de un proceso lineal en el que se ignora el proceso de extracción y limpieza de los datos. El resultado de este proceso es una herramienta que permite clasificar automáticamente texto. No se contempla una fase de evaluación y reentrenamiento de este clasificador.

3.2.2. Características de los datos analizados: Los artículos revisados procesaron entre 100 y 24000 observaciones preclasificadas para entrenar y probar algoritmos de machine learning, con los que se pueden clasificar muchas más observaciones. Cinco de los artículos analizados utilizan datos de Twitter (Martínez-Cámara et al., 2015; Shaikh et al., 2015; Su et al., 2017; Vilares et al., 2013; Yu et al., 2016), uno comentarios en Youtube (Hammer, 2014), uno reseñas de productos y películas (Del Pilar Salas-Zárate et al., 2014), dos portales web de

40

noticias (De-la-Peña-Sordo et al., 2014; Fong, 2012) y uno conversaciones en español sobre cualquier tema (Moreno et al., 2014). Esto es importante, pues como se verá en la siguiente sección, buena parte del análisis depende de la plataforma en la que se generan las interacciones. En general, en estos artículos la disponibilidad es el criterio que define qué datos extraer. Así, los artículos no muestran una preocupación por la selección de fuentes, la definición de momentos y criterios de extracción, ni la depuración de los datos. Esto se debe a que el objetivo que persiguen los artículos es evaluar los algoritmos de aprendizaje. Sin embargo, en un proyecto que pretenda dar respuesta a preguntas empíricas, estos pasos son ineludibles.

3.2.3. Características del procesamiento realizado: En el esquema general de la metodología se pueden identificar dos momentos de procesamiento: el de clasificación manual de acuerdo a la variable objetivo y el de procesamiento automático para extraer características de los datos. El artículo de Su et al., 2017 aborda el primer tipo de procesamiento, indicando que las categorías de clasificación deben ser exhaustivas y excluyentes, que es necesario tener criterios claros de clasificación, que los investigadores que realizan la clasificación deben ser profesionales capacitados (en el caso de estudio fueron estudiantes de maestría), que se debe clasificar un mínimo de observaciones para cada categoría y todas las categorías deben tener un número similar de observaciones clasificadas y que la clasificación de cada observación debe ser validada por varios investigadores para ser considerada confiable. Ningún otro artículo detalló esta etapa. Respecto al segundo tipo de procesamiento, en los artículos revisados se encontraron tres métodos no excluyentes entre sí: minería de texto estadística, lingüística computacional y adaptación al dominio, en este caso al sitio web específico. Minería de texto estadística: tres de los artículos analizados sólo hicieron uso de este tipo de procesamiento para agregar características a sus datos (Hammer, 2014; Martínez-Cámara et al., 2015; Moreno et al., 2014). Curiosamente, en este grupo se encuentran los artículos mayormente relacionados

41

con esta investigación, pues clasifican conversaciones violentas y amenazas a minorías en comentarios de YouTube. Al respecto, cabe aclarar que estos dos artículos requirieron mayor análisis humano para identificar qué tipo de cluster identificaba mejor los términos violentos de los no violentos y para identificar los n-gramas que hicieran referencia específica a minorías y a verbos que supusieran una amenaza. Lingüística computacional o NLP: los siete artículos restantes hicieron uso de este procesamiento, junto con el procesamiento de minería de texto descrito anteriormente (De-la-Peña-Sordo et al., 2014; Del Pilar Salas-Zárate et al., 2014; Fong, 2012; Martínez-Cámara et al., 2015; Su et al., 2017; Vilares et al., 2013; Yu et al., 2016). Adaptación al dominio: este tipo de procesamiento intenta sacar provecho de las características específicas del problema y de los datos. Es decir, si los datos provienen de una plataforma web o tratan sobre un tema específico aprovecha dichas especificidades. Así, en el caso de Twitter, por ejemplo, se puede usar información sobre el uso de Hashtags determinados para clasificar los datos, o se pueden usar las listas de usuarios para acotar el universo de estudio. En el caso de Youtube o de los foros en los sitios web de noticias, se puede incluir como feature el número de votos positivos o negativos que los usuarios asignan a cada comentario. Los seis artículos que hicieron uso de herramientas propias de la lingüística computacional también procesaron sus datos para tener algún tipo de adaptación al dominio. Este procesamiento dota a la información textual de una estructura que facilita su análisis computacional. Gracias a él, el texto puede ser representado como un conjunto de vectores. Una vez realizado el procesamiento, estas metodologías pasan a la etapa de entrenamiento y evaluación. Cinco de ellos hicieron experimentos con distintos algoritmos para evaluar cuál otorga mayor precisión de acuerdo a métricas que comparan los falsos positivos y falsos negativos (De-la-Peña-Sordo et al., 2014; Del Pilar Salas-Zárate et al., 2014; Fong, 2012; Martínez-Cámara et al., 2015; Vilares et al., 2013; Yu et al., 2016). Las comparaciones se realizaron entre algoritmos de árboles de decisión, Bayesianos y Máquinas de vectores de soporte. En cuatro de estos artículos, los algoritmos que ofrecieron mayor

42

precisión fueron los de máquinas de vectores de soporte.

3.2.4. Características de los hallazgos: Las metodologías propuestas en esta sección permiten crear clasificadores automáticos de las interacciones web que, adaptadas a los intereses de este proyecto, podrían distinguir interacciones agresivas y asertivas. Sin embargo, para lograr esto, se necesita clasificar manualmente una cantidad de observaciones numerosa y diversa, de tal manera que sea comprensiva de las características de los datos que se espera clasificar posteriormente. Cuando se cuenta con pocas observaciones, se puede optar por anotar con mayor detalle las características lingüísticas de ellas. Si bien este ejercicio resulta en datos de mejor calidad, el proceso de anotación es costoso, requiere especialistas y es un proceso abierto a discusiones entre ellos (Halevy, Norvig, & Pereira, 2009). Si bien estos procesos no son excluyentes, cuando es necesario elegir se recomienda privilegiar el procesamiento estadístico de grandes cantidades de datos disponibles, antes que buscar la anotación de los textos (Halevy et al., 2009). En este sentido, no sorprende que una de las dificultades que se enuncia con frecuencia en la literatura es la falta de conjuntos de textos (corpus) en español con anotaciones lingüísticas suficientes y que, por esto, los autores hayan necesitado hacer este procesamiento a partir de herramientas externas (Del Pilar Salas-Zárate et al., 2014; Martínez-Cámara et al., 2015; Moreno et al., 2014). Por otro lado, la precisión del clasificador depende de las características que se incluyen y de la delimitación del dominio de los datos incluidos. Los artículos experimentales evidenciaron que la clasificación es más precisa cuando el procesamiento es tanto estadístico como lingüístico (Del Pilar Salas-Zárate et al., 2014; Hammer, 2014) y cuando estas características son depuradas con algoritmos de ganancia de información (De-la-Peña-Sordo et al., 2014; Fong, 2012). En este punto, Su et al., (2017) consideran que la validez de la clasificación automatizada es menor que la validez de la clasificación humana, por eso su análisis se centra en identificar la proporción de los datos que es clasificada en cada categoría, más que en clasificar observaciones particulares. La mayoría de artículos incluyen corpus sobre un tema específico en un sitio web específico. Esto es así

43

porque, como exponen (Del Pilar Salas-Zárate et al., 2014; Martínez-Cámara et al., 2015) las características lingüísticas de los textos que aportan información al clasificador dependen de la plataforma web y del tema que se trata. En este sentido, los autores recomiendan entrenar un clasificador para cada plataforma web y tema (Su et al., 2017). Ninguno de los artículos abordados, ni siquiera los que abordaron directamente la clasificación de interacciones violentas, hace mención a un análisis, que permita, por ejemplo, a partir del uso de metadatos de los sitios web, dar respuesta a las preguntas que originan el presente proyecto. Es decir, ninguno identifica características de las discusiones de tal manera que se pueda rastrear la sensibilidad del fenómeno a distintos contextos o temas. Estas metodologías tampoco son suficientes para caracterizar a los actores y establecer si éstas tienen un impacto en su manera de interactuar en línea. Finalmente, puesto que las metodologías propuestas no contemplan una fase de realimentación, no permiten observar comportamientos emergentes, como podría ser la mutua regulación o las normas sociales, ni su impacto en el sistema. Para dar respuesta a estos interrogantes propios de la investigación, es necesario complementar las metodologías de machine learning con otras que permitan darle profundidad al análisis de los textos.

3.3. Metodologías que hacen uso de análisis de redes: El artículo de (Bello-Orgaz, Hernandez-Castro, & Camacho, 2017) resulta novedoso para esta investigación porque permite identificar y analizar redes de opinión frente a un tema específico, así como el impacto de estas comunidades en comportamientos reales.

Esta investigación extrae las publicaciones en Twitter referentes a “vacunas” haciendo uso de palabras claves. Los trinos son geolocalizados a nivel de país y la información del perfil del usuario que los

44

produce es incluida en la base de datos. Los autores realizan un cálculo de correlación entre el nivel de posicionamiento del tema en Twitter en un país determinado, a partir del número de publicaciones que se producen sobre vacunas, y la curtosis de las tasas de vacunación en el país, identificando correlaciones significativas tanto positivas como negativas. Adicionalmente, los autores utilizan algoritmos de redes basadas en grupos para mapear las redes de opinión de las vacunas y evaluar el número de usuarios que la componen, su cohesión e identificar usuarios centrales.

El artículo logra identificar que las redes de usuarios “anti-vacunas” están ubicadas en Estados Unidos, mientras que en el resto de países en los que se identificaron redes alrededor del tema los usuarios tienen una opinión “pro-vacunas”. Adicionalmente, identifica que las redes de usuarios anti-vacunas son menos numerosas y cohesionadas que las de “pro-vacunas”.

De cara a este proyecto, una metodología de este tipo podría permitir identificar y analizar comunidades de discusión, nodos sociales y posturas dentro de la comunidad. Es decir, permite mapear el debate. Sin embargo, si bien la metodología propuesta permite hacer análisis de redes, al capturar datos en un sólo momento, no permite analizar la dinámica de la red.

3.4. Metodología experimental: El objetivo de este artículo (Munger, 2016) es encontrar mediante un experimento aleatorio cómo reducir el racismo en Twitter con Bots programados para regular socialmente a quienes hacen publicaciones racistas. El siguiente esquema resume la metodología que siguió el autor:

El autor programó cuatro bots (cuentas que parecen pertenecer a humanos, pero realmente están programadas para tener un comportamiento específico) para que identificaran trinos que usaran

45

palabras racistas y estuvieran etiquetando a otro usuario. Cuando los bots identificaban este tipo de trino, respondían automáticamente invitando a una reflexión sobre el daño que podían estar causando al usar estas palabras. Adicionalmente, el bot almacenaba información sobre el nombre de usuario que emitió el mensaje racista y empieza a realizar seguimiento por un mes adicional de las publicaciones de la cuenta para registrar si vuelve a utilizar apelativos racistas. Munger controló sus bots para que algunos tuvieran muchos seguidores y otros pocos y para que algunos tuvieran una imagen de perfil de un hombre blanco y otros una de un hombre afrodescendiente. Al controlar estas dos variables, el artículo llega a la conclusión de que si el bot que interviene parece corresponder al de un hombre blanco con influencia (por tener muchos seguidores) es más probable que el usuario que usa apelativos racistas disminuya el uso de estos. Este experimento demuestra cómo conceptos como “red de referencia” y “mutua regulación” propios de los estudios de las normas sociales, pueden ser usados para intervenir comportamientos online. A pesar de que este experimento fue planteado como estrategia de intervención, puede ser adaptado para una intervención diagnóstica sobre cómo las normas sociales afectan las interacciones digitales en el contexto colombiano.

4. Conclusiones temáticas Si bien este documento identificó cuatro tipos de metodologías diferentes para abordar de manera empírica las interacciones digitales desde la ciencia de datos, estos no son excluyentes entre sí y pueden ser entendidos como complementarios. Cada uno de los tipos identificados tiene la potencialidad de responder a preguntas de investigación diferentes, por lo que su valor a la hora de orientar un diseño metodológico dependerá en gran medida de las preguntas de investigación planteadas y priorizadas. Una primera conclusión de esta revisión es que ninguna de las metodologías que siguen los artículos académicos es suficiente para responder a las preguntas del presente proyecto. Es necesario construir a partir de ellas un camino que las combine y complemente de manera que sea posible representar el

46

universo de estudio, y no una pequeña muestra de él, teniendo en cuenta que es un sistema en constante cambio, que incluye diferentes plataformas en línea y que las interacciones en ellas pueden variar. Hay algunos elementos metodológicos necesarios para poder conducir una segunda fase que ningún artículo abordó. Por esto, será necesario buscar alternativas de medición que permitan capturar las dinámicas emergentes del sistema y que ayuden a la toma de decisiones y a la adaptación frente a los cambios emergentes. De igual manera, los artículos no hacen referencia a los requisitos tanto en términos de infraestructura tecnológica, como en términos de equipo de trabajo, que son necesarios para ejecutar una metodología de este tipo. Estas variables deberán ser sopesadas a la hora de establecer cuál es la mejor opción para realizar el diagnóstico de las interacciones digitales de los colombianos. Los hallazgos de este estado del arte fueron compartidos con expertos nacionales y un experto internacional. Los resultados de este diálogo se presentan en la siguiente sección que recoge las principales recomendaciones y observaciones que surgieron en este espacio.

47

APROXIMACIONES A LA VIOLENCIA ONLINE DESDE EL CONTEXTO LOCAL

El 1 de febrero de 2017 se realizó la mesa de trabajo “Aproximaciones metodológicas para el análisis

empírico de la violencia en línea en Colombia” con la asistencia de Adolfo de Unánue16, asesor del

proyecto y experto internacional en ciencia de datos y 12 expertos nacionales en distintos campos de

la ciencia de datos, lingüística, análisis del discurso y de contenido y etnografía virtual, pertenecientes

a los sectores privado, público, sociedad civil y académico. También, se contó con la asistencia de dos

expertos conceptuales que participaron en la mesa del 31 de enero, lo que permitió establecer puentes

entre el enfoque teórico y metodológico.

La metodología de la mesa consistió en presentar a los asistentes el proyecto y los hallazgos del estado

del arte conceptual para abrir una discusión sobre alternativas de medición que pudieran capturar la

dimensión del problema en Colombia y sobre los retos de implementarlas. Específicamente, se les

solicitó pensar en alternativas de medición que permitieran responder las siguientes preguntas: ¿cuáles

son las particularidades de una interacción violenta en internet?, ¿qué factores deben considerarse para

entender una interacción como violenta?, ¿cuáles pueden ser detonantes de interacciones violentas en

internet? y, ¿qué efectos identificables produce una interacción violenta en internet?

Adicionalmente, se les solicitó a los asistentes que orientaran sus intervenciones pensando en responder

por lo menos alguna de las siguientes preguntas: ¿qué datos podrían usarse para la medición del

16 Director de la Maestría en Ciencia de Datos y profesor del Departamento Académico de Matemáticas del Instituto Tecnológico Autónomo de México.

48

fenómeno en Colombia?, ¿cómo podrían extraerse? y, ¿cómo podrían analizarse?

Una vez presentadas estas preguntas se dio paso a una discusión abierta cuyas principales discusiones se presentan a continuación.

Sobre la estructura del proyecto: En un primer momento los expertos quisieron conocer a mayor profundidad el objetivo del proyecto.

Ellos estuvieron de acuerdo en que sin un objetivo y unas preguntas de investigación claras, no es

posible diseñar un producto de datos útil que oriente la acción.

Sobre los datos que podrían usarse en la investigación y las formas de extraerlos:

Se discutió la dificultad de capturar y almacenar todo el universo de interacciones en línea en Colombia

puesto que se haría necesario incluir muchas fuentes, cada una de ellas con retos diferentes para extraer

los datos. Por ejemplo, para extraer datos de foros de noticias es necesario diseñar un scraper a la

medida de cada página web, mientras que para extraer datos de redes sociales es necesario adaptarse

a las limitaciones de las APIS o a los costos económicos de acceder a datos más completos. Así, surgió

la recomendación de definir desde el principio unos criterios de selección de fuentes.

Los expertos también resaltaron la necesidad de definir criterios de muestreo para que los datos

observados no estén sesgados. En este sentido se sugirió capturar la mayor cantidad de información

posible, velar por su diversidad y, en un segundo momento, identificar las observaciones de interés con

base en criterios como identificación de outliers estadísticos, nodos centrales o publicaciones virales.

Adicionalmente, surgió la inquietud de identificar las interacciones humanas de las no humanas. Es

49

decir, es necesario crear mecanismos para identificar spam y bots. De acuerdo al criterio de los expertos,

este es un reto viable, pues el comportamiento de estas publicaciones suele seguir reglas específicas,

como horas de publicación, que se pueden identificar y rastrear automáticamente.

Finalmente, se hizo presente la importancia de analizar información no textual, dado el carácter

multimedia de las interacciones en línea. Puesto que las técnicas de análisis de contenido audiovisual

desde la ciencia de datos son muy costosas, los expertos sugirieron realizar análisis de contenido de

este tipo de información como complemento del análisis de ciencia de datos.

Sobre el análisis de los datos:

Los expertos sugirieron representar el debate en línea como múltiples redes, y usar análisis de redes y

dinámica de sistemas para identificar características de interés como:

1. Métricas de centralidad que permiten identificar temas y usuarios con muchas conexiones, por

lo que pueden ser considerados de mayor importancia.

2. El flujo de la información en la red y clusters para identificar cámaras de eco, cómo se viraliza

la información, comunidades de discusión y comunidades que se comportan de manera

coordinada. Este último es importante en criterio de los expertos, pues el comportamiento de la

violencia usada de manera estratégica puede diferir del de la violencia que surge

espontáneamente en las discusiones.

3. Métricas que usen los metadatos de la información extraída para caracterizar la composición

comunidades encontradas. Esto con el objetivo de identificar la sensibilidad del fenómeno al

contexto.

4. Dinámicas emergentes en la red para identificar, por ejemplo reacciones frente a la violencia,

50

frente a intervenciones de prevención de la violencia, etc.

Por otro lado, un experto sugirió crear un clasificador automático de interacciones violentas y no

violentas siguiendo el proceso general de machine learning supervisado que se explicó en la sesión de

Estado del arte Metodológico. Frente a esta propuesta los expertos mostraron algunas reservas. En

primer lugar, las expertas en lingüística mencionaron lo impreciso que puede llegar a ser seleccionar las

observaciones de interés a partir de palabras clave, sin comprender el contexto en el que éstas son

enunciadas. En segundo lugar, se mencionó lo limitado que puede ser el análisis de sentimiento como

variable proxy de un fenómeno complejo como la presencia de violencia. Finalmente se mencionó que

un estudio de este tipo está incompleto mientras no haya un proceso de evaluación de desempeño y

reentrenamiento de la máquina.

Algunos expertos mencionaron la necesidad de usar herramientas de procesamiento natural de

lenguaje, extractores lingüísticos, software que identifica rasgos psicológicos a partir de información

textual y metodologías de análisis de contenido y discurso tradicionales (clasificación manual). Sin

embargo, fue evidente que este tipo de aproximaciones sólo pueden ser utilizadas en cantidades

limitadas de datos y por eso deben ser comprendidas como herramientas que permiten complementar

y profundizar un análisis más amplio.

La siguiente tabla resume las principales discusiones que tuvieron lugar durante la mesa de trabajo:

¿Qué capturar? ¿Cómo representarlo? ¿Qué identificar? ¿Cómo analizarlo? ¿Cómo refinarlo?

Definir el universo de estudio como paso cero

Filtrar bots y spam para capturar interacciones humanas

Como múltiples redes de discusión en un sistema complejo que se coproduce con el espacio offline.

Regiones geográficas.

Clusters de usuarios o temas.

Casos atípicos de usuarios y temas (outliers).

Teoría de grafos (topografía, centralidad de nodos y dinámicas)

Metodología estándar de machine learning supervisado

Herramientas lingüísticas (lexicones, extractores lingüísticos, diccionarios que relacionan lenguaje y psicología)

51

Herramientas tradicionales de extracción: Apis y scrapers

Dinámicas dirigidas y espontáneas.

Análisis de discurso y contenido

52

RECOMENDACIONES PARA LA SEGUNDA FASE DE ESTE PROYECTO

Las recomendaciones que se presentan a continuación surgen de la reflexión construida a lo largo del

proyecto de investigación, se nutren de la revisión de literatura, de los diálogos con expertos y de las

discusiones que sostuvo el equipo de trabajo al aproximarse al objeto de estudio: la violencia online.

Estas toman en consideración la aproximación analítica —desde las ciencias sociales— y empírica —

desde la ciencia de datos— a las interacciones virtuales, y la relación entre estas aproximaciones, la

participación digital y la construcción de opinión en torno a asuntos de interés público.

Estas recomendaciones reconocen la complejidad que reviste la comprensión y análisis de las

interacciones virtuales cuando se trata de rastrear allí la violencia, en particular cuando ese rastreo

implica diseñar estrategias, programas y acciones de política que promuevan la convivencia y prevengan

las agresiones online, en ese sentido, se espera que permitan al Ministerio de Tecnologías de la

Información y las Comunicaciones tomar decisiones informadas, basadas en la evidencia y que atiendan

el carácter contextual de la problemática a intervenir.

***

1. Transitar de la expresión “violencia online” a “agresiones online”

La revisión conceptual sobre la violencia, a secas, puso en evidencia que la expresión “violencia online”

no debiera usarse para definir un nuevo tipo de violencia, pues internet, lejos de generar nuevas formas

de violencia permite la reproducción masiva de expresiones y manifestaciones asociadas con este

fenómeno. En ese sentido el complemento online solo debe servir como una delimitación del espacio

53

en el que se manifiesta la problemática y no como un adjetivo que dota de sentido al fenómeno.

Es importante subrayar que la violencia y sus diferentes formas (física, psicológica, simbólica, entre

otras) está presente en distintos ámbitos de la vida social, incluida la interacción en internet, por esto

mismo no se habla de un nuevo tipo de violencia, con características o particularidades específicas, sino

de internet como un espacio que hace visibles (como nunca antes) múltiples manifestaciones de

violencia que se han producido en la vida análoga, en la interacción cara a cara y se reproducen en la

esfera virtual.

El abordaje de las interacciones online desde el marco analítico de la “agresión”, permitirá, además,

partir de categorizaciones y tipificaciones que ya se han construido sobre este fenómeno desde la

lingüística, lo que posibilita el desarrollo de una caracterización de las interacciones virtuales en el

contexto local que sea comparable con investigaciones de la misma naturaleza en otros contextos.

2. Comprender las agresiones online como expresiones de violencia simbólica

Si fuera necesario teorizar o conceptualizar el tipo de violencia que tiene lugar en internet, sería

necesario hacerlo desde la comprensión de la violencia simbólica, teniendo en cuenta que esta es la

que se expresa a través del lenguaje visual, escrito y oral, de los símbolos y significados construidos

intersubjetivamente. Como se señaló en la aproximación conceptual a diferentes tipos de violencia, esta

opera a través de representaciones figurativas, como los insultos, las amenazas, los descalificativos, las

que a su vez constituyen formas de agresión online. En ese sentido las agresiones escritas en entornos

virtuales son representaciones de la violencia simbólica, que puede tener matices de género, de raza,

de clase, de ideología, entre otros.

54

3. Reconocer internet como un espacio intrínsecamente diverso y la violencia como parte

de ello

Internet, por su naturaleza, su capacidad para interconectar individuos y contextos, a nivel global y

local, es un espacio intrínsecamente diverso. La violencia per se no es opuesta a la diversidad, incluso,

que ésta pueda expresarse, garantiza que hay diversidad en un ecosistema o comunidad. La violencia

es otra forma de comunicación, aunque sea no deseable, desde el enfoque de Cultura Ciudadana, ésta

debiera ser la última estrategia para comunicar algo.

Cuando la violencia sobrepasa los límites establecidos intersubjetivamente, a través de las normas

sociales, esto afecta la diversidad, en tanto genera exclusiones que dejan fuera de las interacciones

online los distintas posturas y percepciones que contribuyen a la construcción de comunidades y en este

caso particular, de lo público. Entonces, lo que se debe procurar es que las agresiones como formas de

la libertad de expresión no superen ciertos límites, atentando contra los derechos o integridad de

quienes participan en la interacción online, esos límites, de nuevo, no están estandarizados ni

preestablecidos.

4. Usar la ciencia de datos para dar cuenta de y preservar la diversidad en las interacciones

online

Ahora bien, dado que internet es un espacio diverso, y el sostenimiento de la diversidad implica

transformaciones constantes, una aproximación empírica a este entorno para caracterizarlo, debe

55

procurar capturar la mayor cantidad de información posible y hacerlo de manera constante, idealmente

en tiempo real. Las concesiones que se hagan en este sentido aumentan el riesgo de que la información

capturada esté sesgada, ignore situaciones importantes o lleve a conclusiones y acciones inoportunas.

En definitiva, debe diseñarse un producto de datos, que permita capturar el flujo completo y dinámico

de las discusiones en línea de los colombianos.

El producto que se construya debe ser capaz de reconstruir la línea temporal de la agresión online.

Puesto que el objetivo general del proyecto se pregunta por las causas y efectos del fenómeno en

términos de la participación y la construcción de opinión pública, es necesario contar con información

sobre la dinámica de las discusiones en línea, antes, durante y después de que se presenta la agresión

en línea. Este tipo de característica también brinda al MinTic la capacidad de observar el impacto de sus

intervenciones en la discusión de los colombianos y tomar acciones a tiempo cuando se identifiquen

interacciones o expresiones que alteren la diversidad del entorno digital, por ejemplo, cuando las

conversaciones se polarizan.

Adicionalmente, el producto de datos deberá cumplir con los siguientes requerimientos:

• Debe ser capaz de identificar las dinámicas espontáneas en la discusión en línea de las

coordinadas. A lo largo de este documento se señaló que en internet actúan comunidades

coordinadas que apelan a la agresión de manera estratégica para obtener algún tipo de beneficio

independiente de la discusión. Puesto que las motivaciones y emociones de este tipo de actores

son diferentes a las de los individuos que simplemente están expresando su punto de vista, la

intervención del fenómeno con ellos también debe tener elementos diferenciales y esto sólo se

puede lograr si se identifican tales comunidades.

56

• Debe permitir diferenciar interacciones humanas de las automatizadas. Es importante que las

conclusiones respecto a las interacciones de los colombianos en torno a asuntos de interés

público no estén viciadas por incluir en el análisis la participación de bots, spam, publicidad, etc.

Sin embargo, este tipo de publicaciones no debe ser simplemente excluida del análisis, pues es

posible rastrear si tienen un efecto en las discusiones sobre asuntos de interés público.

5. Prevenir la polarización en las discusiones online

La polarización es una manifestación de la alteración a la diversidad que debería preservarse en internet

como un espacio para la construcción de la opinión pública a partir de la participación. Hay polarización

cuando las interacciones o las discusiones en torno a un fenómeno o asuntos de interés público se

concentran en las posiciones extremas y hacen invisibles otras percepciones y puntos de vista sobre lo

que se discute.

Para realizar acciones capaces de prevenir la polarización, es necesario que el producto de datos cuente

con métricas automatizables que midan todo el universo de datos capturado en tiempo real y genere

alertas tempranas sobre las discusiones en riesgo de polarizarse. De esta manera es posible identificar

los puntos en los que debe estar enfocada la intervención del ministerio y en los que debería

concentrarse una observación más profunda del fenómeno.

Algunas de las metodologías propuestas por la literatura académica y por los expertos consultados son

muy costosas en términos de tiempo, aunque permiten comprender las distintas dimensiones del

fenómeno. De esta manera, es posible equilibrar el conocimiento profundo del tema con la necesidad

57

de tomar decisiones oportunas en un universo en constante cambio.

6. Diseñar estrategias de intervención online y offline que promuevan la comunicación para

la convivencia

Como se señaló a lo largo del documento, las agresiones en internet son una manifestación más de

expresiones de violencia que se han engendrado en otros ámbitos de la vida social. Una estrategia de

intervención integral, que busque promover transformaciones culturales en materia de comunicación

virtual, deberá también prestar atención a la forma en la que la ciudadanía interactúa en otros

escenarios. Por ello, antes que concentrar las campañas y acciones de prevención en entornos virtuales,

deberán procurarse estrategias creativas que hagan evidente que lo online y offline están íntimamente

relacionados y se co-producen mutuamente o, en otros términos, que la intersubjetividad obedece tanto

a las formas de interacción online como offline.

Así mismo, y como se sugirió en el apartado correspondiente al enfoque de cultura ciudadana, el

abordaje de las agresiones online deberá hacerse en sentido propositivo y antes que subrayar la

presencia de violencia o agresiones en las interacciones. En ese sentido, se trataría de promover la

convivencia y coexistencia desde la diversidad en entornos virtuales, a partir de prácticas comunicativas

que hagan uso tanto de la argumentación, como que reconozcan el lugar de las emociones en la

interacción.

7. Establecer alianzas estratégicas con organizaciones o actores clave en entornos virtuales

de opinión pública

Teniendo en cuenta la recomendación anterior, sobre la necesidad de diseñar estrategias de análisis e

58

intervención dirigidas tanto a entornos virtuales como no virtuales, y dado que el foco de atención de

la investigación serán las interacciones en espacios en los que se construye opinión pública virtual, será

importante que el Ministerio de Tecnologías de la Información y las Comunicaciones, establezca alianzas

con medios de comunicación online, para diseñar conjuntamente campañas que promuevan la

comunicación asertiva y la convivencia pacífica en dichos espacios. La articulación de actores que se

encuentran en distintas esferas, posibilitará el desarrollo de análisis e intervenciones que atiendan la

complejidad del fenómeno que se estudia.

8. Identificar y fortalecer capacidades relacionadas con la ciencia de datos en el Ministerio

de Tecnologías de la Información y las Comunicaciones

Definir las capacidades actuales y potenciales del MinTic para la apropiación y sostenimiento del

producto de ciencia de datos en términos de infraestructura física y recursos humanos. En la medida en

que el producto analice información en constante cambio, es importante que MinTic esté en capacidad

de apropiarlo, garantizar su sostenibilidad en el tiempo y la capacidad para sacarle provecho para la

toma de decisiones basadas en evidencia.

59

BIBLIOGRAFÍA:

Austin, J. L. (1955). Cómo hacer cosas con palabras.

Bañón Hernández, A. M. (2010). Comunicación destructiva y agresividad verbal en la Red. Notas en torno al discurso sobre las enfermedades raras. Discurso & Sociedad, 4(4), 649–673.

Bello-Orgaz, G., Hernandez-Castro, J., & Camacho, D. (2017). Detecting discussion communities on vaccination in twitter. Future Generation Computer Systems, 66, 125–136. https://doi.org/http://dx.doi.org/10.1016/j.future.2016.06.032

Berdaguer Rauschenberg, N. D. (2015). Cambios en el concepto de esfera pública (1962-2008) en Jürgen Habermas. Questión. Revista Especializada En Periodismo Y Comunicación, 1(46), 26–38. Retrieved from http://sedici.unlp.edu.ar/bitstream/handle/10915/47682/Documento_completo__.pdf?sequence=1

Blair Trujillo, E. (2009). Aproximación teórica al concepto de violencia: avatares de una definición. Política Y Cultura, (32), 9–33.

Bohórquez, J. C. (2012). Ecologies of War: Observing, Modeling and Simulating Insurgent Warfare as a Complex Adaptive System. Uniandes.

Casas, A., & Losada, R. (2008). Enfoques para el análisis político: historia, epistemología y perspectivas de la Ciencia Política. Bogota D.C: Pontificia Universidad Javeriana.

Corpovisionarios. (2016). Tendencias en la bibliografía anglosajona, hispanoamericana y colombiana sobre ciberbullying. Bogotá D.C.

Observatorio de Cultura Ciudadana. (2016). Conceptualización del enfoque de cultura ciudadana. Bogota D.C.

60

Recuperado a partir de https://docs.google.com/document/d/1jzYAuQ8r9mviGtiJaxhG5cqRLEL5eSVEaXb3rp7iptU/edit?ts=58b44e43#

De-la-Peña-Sordo, J., Santos, I., Pastor-López, I., & Bringas, P. G. (2014). Social news website moderation through semi-supervised troll user filtering. (A. A., C. E., S. V., Z. I., B. P.G., H. A., … Z. I., Eds.), International Joint Conference on 8th International Conference on Soft Computing Models in Industrial and Environmental Applications, SOCO 2013, 6th International Conference on Computational Intelligence in Security for Information Systems, CISIS 2013 and. S3Lab, DeustoTech Computing, University of Deusto, Avenida de las Universidades 24, Bilbao, Spain: Springer Verlag. https://doi.org/10.1007/978-3-319-01854-6_59

de Barbieri, T. (1996). Los ámbitos de acción de las mujeres. In N. Henríquez (Ed.), Encrujiadas del saber: los estudios de género en las ciencias sociales (pp. 107–132). Pontificia Universidad Católica del Perú.

De Unánue, A. (2016). #Datos: el impacto de las nuevas tecnologías. Foreign Affairs Latinoamerica. Retrieved from http://revistafal.com/datos-el-impacto-de-las-nuevas-tecnologias/

De Unánue, A. (2017). Ciencia de datos: panorama actual.

Del Pilar Salas-Zárate, M. del P., López-López, E., Valencia-García, R., Aussenac-Gilles, N., Almela, Á., & Alor-Hernández, G. (2014). A study on LIWC categories for opinion mining in Spanish reviews. Journal of Information Science, 40(6), 749–760. https://doi.org/10.1177/0165551514547842

Escobar, A. (2005). Bienvenidos a cyberia: notas para una antropología de la cibercultura. Revista de Estudios Sociales, (22), 15–35. Retrieved from http://www.scielo.org.co/pdf/res/n22/n22a02.pdf

Espinosa Meneses, M. (2011). Discurso y tecnología: análisis conversacional de un foro de opinión. Razón Y Palabra, (74), 9.

Fernández, M. (2005). La noción de violencia simbólica en la obra de Pierre Bourdieu: una aproximación crítica. Cuadernos de Trabajo Social, 18, 7–31.

Fong, S. (2012). Measuring emotions from online news and evaluating public models from netizens’ comments: a text mining approach.

Foster, I., Ghani, R., Jarmin, R. S., Kreuter, F., & Lane, J. (2016). Big data and social science: a practical guide to methods and tools. CRC Press.

Frankenberg, L. (2015). Interactividad y democracia deliberativa en el periodismo digital en México. Comunicación Y Sociedad, (23), 97–123.

Guerra Manzo, E. (2013). Civilización y violencia en la obra de Norbert Elias. Iztapalapa Revista de Ciencias

61

Sociales y Humanidades, 34(74), 129–154.

Halevy, A., Norvig, P., & Pereira, F. (2009). The unreasonable effectiveness of data. IEEE Intelligent Systems, 24(2), 8–12.

Hammer, H. L. (2014). Detecting threats of violence in online discussions using bigrams of important words. In 2014 IEEE Joint Intelligence and Security Informatics Conference, JISIC 2014 (p. 319). Oslo and Akershus University, College of Applied Sciences, Department of Computer Science, Oslo, Norway: Institute of Electrical and Electronics Engineers Inc. https://doi.org/10.1109/JISIC.2014.64

Kaul de Marlangeon, S., & Cordiscon, A. (2014). La descortesía verbal en el contexto político-ideológico de las redes sociales. Revista de Filología, (32), 145–162.

Larose, D. T. (2005). Discovering Knowledge in Data : An Introduction to Data Mining. Hoboken, N.J.: Wiley-Interscience. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&db=nlebk&AN=127312&lang=es&site=ehost-live

López García, G. (2006). Comunicación en red y mutaciones de la esfera pública. Zer, (20), 231–249.

Mancera Rueda, A. (2009). Manifestaciones de descortesía y violencia verbal en los foros de opinión digitales de los diarios españoles. Discurso & Sociedad, 3(3), 437–466.

Martínez-Cámara, E., Martín-Valdivia, M. T., Ureña-López, L. A., & Mitkov, R. (2015). Polarity classification for Spanish tweets using the COST corpus. Journal of Information Science, 41(3), 263–272. https://doi.org/10.1177/0165551514566564

Miller, J. H., & Page, S. E. (2009). Complex adaptive systems: An introduction to computational models of social life. Princeton university press.

Mockus, A. (2002). Convivencia como armonización entre ley, moral y cultura. Perspectivas, 32(1), 19–37.

Moreno, A. F., González-Brambila, S. B., & Vargas-Rubio, J. G. (2014). Violence recognition in Spanish words using data mining. In F. J., F. J., & F. A. (Eds.), 6th International Conference on Knowledge Discovery and Information Retrieval, KDIR 2014 (pp. 210–216). Dívisión de Ciencias Básicas e Ingeniería, Universidad Autónoma Metropolitana-Azcapotzalco, México, D.F., Mexico: INSTICC Press. Retrieved from https://www.scopus.com/inward/record.uri?eid=2-s2.0-84909980895&partnerID=40&md5=4e6982fa76d9bd996b2ed0f40ce775c4

Moya, P., & Sánchez, C. (2008). Descortesía en foros de Internet: Insultos, disfemismos y exhortaciones en la web (pp. 1–15). Universidad de Chile. Retrieved from https://www.google.com.co/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&cad=rja&uact=8&ved=0ahUKEwjv5_Wrws7RAhUF2yYKHf72CbwQFggaMAA&url=http%3A%2F%2Fwww.academia.edu%2F7654622%2FDe

62

scortes%25C3%25ADa_en_foros_de_Internet_insultos_disfemismos_y_exhortaciones_en_

Munger, K. (2016). Tweetment Effects on the Tweeted: Experimentally Reducing Racist Harassment. Political Behavior. Department of Politics, New York University, 19 West 4th Street, 2nd floor, New York, NY, United States: Springer New York LLC. https://doi.org/10.1007/s11109-016-9373-5

Newman, S. (2015). Possessed by a mask. Aeon Magazine.

Observatorio de Cultura Ciudadana. (2016). Conceptualización del enfoque de cultura ciudadana. Bogota D.C. Retrieved from https://docs.google.com/document/d/1jzYAuQ8r9mviGtiJaxhG5cqRLEL5eSVEaXb3rp7iptU/edit?ts=58b44e43#

Penalva, C., & La Parra, D. (2008). Comunicación de masas y violencia estructural. Convergencia, (46), 17–50.

Perales, O. (2008). Esfera pública y medios electrónicos. Razón Y Palabra, (61).

Pérez Porto, Julián Merino, M. (2008). Definición de agresividad. Retrieved from http://definicion.de/agresividad/

Pineda Garfias, R. (2002). La democracia deliberativa. Ius et Praxis, 8(2), 605–637. https://doi.org/. https://dx.doi.org/10.4067/S0718-00122002000200020

Purohit, H., Banerjee, T., Hampton, A., Shalin, V. L., Bhandutia, N., & Sheth, A. P. (2015). Gender-based violence in 140 characters or fewer: A# BigData case study of Twitter. arXiv Preprint arXiv:1503.02086.

Ralón de Walton, G., & Dukuen, J. (2013). Los modos de dominación en la socio-antropología de Bourdieu. Esbozo de una crítica. Estudios Filosóficos, (47), 9–33. Retrieved from http://www.scielo.org.co/pdf/ef/n47/n47a01.pdf

Restrepo Acebedo, J. C. (2013). El insulto político en los foros de los lectores de la prensa digital colombiana/The Political Insult in Online Discussion Forums of Readers of the Colombian Digital Press/A afronta política nos fóruns dos leitores da imprensa digital colombiana. Signo Y Pensamiento, 32(62), 48–63. Retrieved from http://www.scielo.org.co/pdf/signo/v32n62/v32n62a04.pdf

Serrano-Barquín, R. del C., & Ruiz Serrano, E. (2013). Violencia simbólica en Internet. Ra Ximhai, 9(3), 121–139. Retrieved from http://www.redalyc.org/pdf/461/46128387007.pdf

Shaikh, M., Salleh, N., & Marziana, L. (2015). Social networks content analysis for peacebuilding application. In A. A., M. A.K., & C. Y.-H. (Eds.), 4th World Congress on Information and Communication Technologies, WICT 2014 (Vol. 355, pp. 193–200). Department of Computer Science, Kulliyyah of Information and Communication Technology—International Islamic University, Selangor, Malaysia: Springer Verlag. https://doi.org/10.1007/978-3-319-17398-6_18

Su, L. eon. Y.-F., Cacciatore, M. A., Liang, X., Brossard, D., Scheufele, D. A., & Xenos, M. A. (2017). Analyzing

63

public sentiments online: combining human- and computer-based content analysis. Information Communication and Society, 20(3), 406–427. https://doi.org/10.1080/1369118X.2016.1182197

Suler, J. (2004). The online disinhibition effect. CyberPsychology & Behavior, 7(3), 321–326.

Torres Da Silva, M. (2013). Online forums, audience participation and modes of political discussion: Readers’ comments on the brazilian presidential election as a case study. Comunicacion Y Sociedad, 26(4), 175–193. Retrieved from https://www.scopus.com/inward/record.uri?eid=2-s2.0-84896821626&partnerID=40&md5=ffc9c5873e871420565a0f384f3aec50

Vercelli, A., & Thomas, H. (2008). Repensando los bienes comunes: análisis socio-técnico sobre la construcción y regulación de los bienes comunes. Scientiae Studia, 6(3), 427–442. Retrieved from https://dx.doi.org/10.1590/S1678-31662008000300010

Vilares, D., Alonso, M. A., & Gómez-Rodríguez, C. (2013). Supervised polarity classification of Spanish tweets based on linguistic knowledge. In 2013 ACM Symposium on Document Engineering, DocEng 2013 (pp. 169–172). Universidade Da Coruña, Campus de Elviña, 15071 A Ccorũa, Spain: Association for Computing Machinery. https://doi.org/10.1145/2494266.2494300

Voloshin, V. I. (2009). Introduction to Graph Theory. New York: Nova Science Publishers, Inc. Retrieved from http://search.ebscohost.com/login.aspx?dirpinect=true&db=nlebk&AN=393233&lang=es&site=ehost-live

Wincour, R. (2001). Redes virtuales y comunidades de internautras: nuevos núcelos de socialibidad y reorganización de la esfera pública. Perfiles Latinoamericanos, (18), 75–92.

Yu, F., Moh, M., & Moh, T.-S. (2016). Towards Extracting Drug-Effect Relation From Twitter: a Supervised Learning Approach. In Big Data Security on Cloud (BigDataSecurity), IEEE International Conference on High Performance

and Smart Computing (HPSC), and IEEE International Conference on Intelligent Data and Security (IDS), 2016

IEEE 2nd International Conference on (pp. 339–344). IEEE.