Qué ha provocado la crítica
El autor del hilo sostiene que Stylome marca comentarios como escritos por IA con una confianza baja de forma repetida, incluso después de probarlo con texto reescrito por Gemini. En esa conversación, varios usuarios concluyen que la herramienta falla tanto cuando intenta detectar texto generado como cuando trata de distinguir texto humano, y que acaba añadiendo ruido en lugar de aportar una señal fiable para moderar.
La crítica no se limita a la precisión. También aparece la sospecha de que una empresa privada intermedia en conversaciones públicas y recopila datos sin ofrecer suficiente transparencia sobre qué hace con ellos. En el propio hilo se repite la misma duda: para qué sirve el bot si no resuelve el problema que pretende atacar y por qué no se sirve mediante un modelo local.
Lo que dice el creador del bot
El responsable de Stylome respondió en la discusión y afirmó que él mismo creó el sistema. También explicó que no entrena el modelo con los datos recogidos, que el material no le sirve para ese fin y que, en su caso, el bot se ejecuta sobre un modelo que ha entrenado él mismo.
Sobre su uso, indicó que Stylome no borra contenido de forma automática y que está pensado como una señal auxiliar para los moderadores. Según esa explicación, la revisión humana sigue siendo necesaria y el bot solo ayuda a localizar posibles casos de spam o texto generado por modelos para revisarlos antes.
Esa matización es importante porque rebaja el alcance de la herramienta: no actúa como juez final, sino como un filtro de prioridad. Aun así, una parte de la comunidad sigue sin ver claro que ese papel compense sus errores y la capa adicional de fricción que introduce.
La discusión sobre el borrado de datos
Uno de los puntos más sensibles del hilo es la eliminación de datos. Un usuario cita la política de privacidad de Stylome para señalar que, hasta que existan controles de borrado de autoservicio, las solicitudes pueden enviarse por correo electrónico. A partir de ahí, otros participantes cuestionan que esa vía sea suficiente y sostienen que un sistema así debería ofrecer una forma más simple de ejercer ese derecho.
En la conversación también se mezcla ese debate con referencias al Reglamento General de Protección de Datos y a buenas prácticas sobre supresión de información. Sin embargo, lo que queda confirmado por el hilo es más limitado: el proyecto remite las peticiones de borrado a soporte por correo mientras no haya una opción de autoservicio.
Por qué importa este caso
La discusión deja una idea bastante concreta: un detector de texto generado por IA no es útil solo porque marque algo como sospechoso. Si el sistema falla con frecuencia, si sus resultados son de baja confianza y si además genera dudas sobre privacidad, la utilidad real depende casi por completo de la revisión humana.
También sirve para recordar que la moderación automatizada no se juzga solo por el modelo, sino por el diseño del servicio alrededor: cómo explica sus límites, cómo trata los datos, qué opciones da para borrarlos y cuánto control mantiene la comunidad sobre lo que se publica. En este caso, el propio creador dice que Stylome no borra nada automáticamente y que su función es ayudar a priorizar revisiones; la comunidad, por su parte, sigue cuestionando si eso basta.
Lo que queda por ver es si el proyecto añade un sistema de borrado más directo y si mejora la forma en que presenta sus resultados para que una detección débil no acabe pareciendo una acusación cerrada.
