Las conversaciones digitales forman parte de nuestra vida cotidiana. En ellas se construyen vínculos, se comparten experiencias y también pueden desarrollarse situaciones de acoso, manipulación, grooming, sextorsión y otras formas de violencia digital.
En muchos casos, estas situaciones no aparecen de manera repentina. Se desarrollan progresivamente mediante señales débiles que, consideradas de forma aislada, pueden parecer irrelevantes, pero cuya evolución temporal y correlación contextual podrían anticipar la existencia de un riesgo.
A partir de esta problemática surge ECO — Encrypted Conversation Observability, una línea de investigación orientada a estudiar si es posible detectar tempranamente situaciones de riesgo interpersonal en entornos digitales sin recurrir a una vigilancia permanente de las conversaciones.
Un enfoque basado en señales y contexto
ECO no busca interpretar una conversación completa ni reemplazar el criterio humano. Su propuesta consiste en observar señales autorizadas, mínimas y verificables para analizar cómo evoluciona una interacción.
El modelo se organiza alrededor de tres etapas principales:
- Captura de señales observables: se identifican eventos, patrones y variaciones relevantes dentro de ventanas temporales controladas.
- Generación de hipótesis: las señales se correlacionan con su contexto limitado para reconocer posibles patrones de riesgo.
- Revisión humana: la hipótesis y su evidencia son presentadas para que una persona pueda revisar, documentar y determinar cómo actuar.
La decisión final no es automática. ECO propone un sistema de apoyo para la interpretación y la prevención, no un mecanismo autónomo de vigilancia, sanción o clasificación de personas.
La unidad de análisis es la evolución de la interacción
Los mecanismos tradicionales de detección suelen buscar palabras específicas, contenidos aislados o eventos individuales. Sin embargo, una situación de riesgo interpersonal difícilmente pueda comprenderse a partir de una única expresión.
El valor del enfoque contextual se encuentra en observar la evolución de la interacción:
- cambios en la frecuencia de contacto;
- acumulación temporal de determinadas señales;
- intentos progresivos de aislamiento o manipulación;
- variaciones en horarios y patrones de comunicación;
- combinaciones de eventos que adquieren relevancia al relacionarse;
- modificación del comportamiento a lo largo del tiempo.
Una señal aislada no constituye una conclusión. Su relevancia depende del contexto, la secuencia temporal, la repetición y su relación con otras señales.
Privacidad por diseño
Uno de los principios centrales de ECO es que la prevención no debe construirse a costa de la privacidad.
Por esa razón, la arquitectura conceptual se apoya en tres garantías:
Datos mínimos
El sistema debe utilizar únicamente las señales estrictamente necesarias y autorizadas para cumplir una finalidad determinada. La minimización reduce la exposición de información y evita recolectar datos sin un propósito verificable.
Contexto limitado
Las señales se analizan dentro de ventanas temporales acotadas. El objetivo es reconstruir solamente el contexto necesario para interpretar una posible situación de riesgo, sin conservar permanentemente una conversación.
Revisión humana
ECO genera hipótesis trazables, no decisiones automáticas. Una persona debe revisar la evidencia, considerar el contexto y determinar si corresponde realizar alguna intervención.
El principio puede resumirse en una idea: observar sin vigilar.
¿Qué busca demostrar la investigación?
ECO parte de una pregunta central:
¿Es posible detectar tempranamente situaciones de riesgo digital mediante el análisis contextual de interacciones, respetando al mismo tiempo la privacidad, la proporcionalidad y la intervención humana?
Para estudiar esta pregunta se está desarrollando una prueba de concepto denominada ECO Sense, acompañada por ENSensor como componente de observación e instrumentación.
La prueba de concepto permite trabajar con escenarios controlados para evaluar:
- qué señales pueden resultar relevantes;
- cómo deben combinarse y contextualizarse;
- qué información es realmente necesaria;
- cómo explicar el origen de cada hipótesis;
- cuáles son los límites técnicos, jurídicos y éticos;
- cómo debe intervenir una persona frente a una alerta;
- qué mecanismos de auditoría y trazabilidad deberían incorporarse.
El objetivo actual no es presentar un producto terminado, sino construir y validar un modelo de investigación verificable, interdisciplinario y respetuoso de los derechos fundamentales.
Una investigación que necesita múltiples disciplinas
Los riesgos interpersonales en entornos digitales no pueden abordarse exclusivamente desde la tecnología. Comprenderlos requiere integrar conocimientos técnicos, jurídicos, sociales, criminológicos, psicológicos y educativos.
Por este motivo, ECO busca conformar un espacio de trabajo interdisciplinario en el que puedan participar:
- profesionales de la ciberseguridad;
- desarrolladores y arquitectos de software;
- especialistas en inteligencia artificial y análisis de datos;
- abogados y especialistas en derecho digital;
- psicólogos y profesionales de la salud mental;
- criminólogos;
- investigadores académicos;
- docentes y especialistas en ciudadanía digital;
- organizaciones vinculadas con la protección de niños, niñas y adolescentes;
- especialistas en privacidad, ética y derechos humanos.
La intención es revisar críticamente el modelo, estudiar sus limitaciones, diseñar escenarios de validación y construir criterios que permitan evaluar cuándo una señal puede ser relevante y cuándo no debe ser utilizada.
Invitación a participar
ECO se encuentra abierto a profesionales, investigadores, instituciones y organizaciones que quieran aportar conocimientos, observaciones o nuevas perspectivas.
Es posible participar desde diferentes áreas:
- revisión conceptual y metodológica;
- análisis jurídico y ético;
- definición y evaluación de señales;
- diseño de escenarios controlados;
- desarrollo de la prueba de concepto;
- análisis de privacidad y seguridad;
- validación de hipótesis;
- documentación académica;
- investigación aplicada;
- evaluación de impacto y detección de sesgos.
No es necesario provenir exclusivamente del ámbito tecnológico. La diversidad de disciplinas es indispensable para evitar que una problemática humana compleja sea reducida a una simple respuesta algorítmica.
Quienes deseen conocer la investigación, aportar experiencia profesional o evaluar posibles formas de colaboración pueden ponerse en contacto para sumarse a las próximas etapas del proyecto.
ECO no busca automatizar decisiones sobre las personas. Busca investigar cómo la tecnología puede ayudar a reconocer señales tempranas, aportar contexto y facilitar una intervención humana más informada, proporcional y responsable.
Sumate al proyecto ECO
Si trabajás en ciberseguridad, derecho, psicología, criminología, educación, protección de infancias, inteligencia artificial, privacidad o investigación académica, tu perspectiva puede contribuir al desarrollo del proyecto.
ECO — Encrypted Conversation Observability
Observar sin vigilar.
