El Rechazo a la Detección de IA en Substack: ¿Caza de Brujas Digital?
Colaboradores de Substack rechazan la decisión de la plataforma de etiquetar la escritura generada por inteligencia artificial (IA), calificando las nuevas funciones de detección como una «caza de brujas». Algunos usuarios, que emplean IA para asistir en la escritura o edición, denuncian una discriminación injusta. Otros, sin usar IA, temen que Substack marque erróneamente su contenido, dañando su reputación.
Creatividad Asistida por IA: ¿Amenaza o Mejora?
Mack Collier, autor de «Backstage Pass» en Substack, defiende el uso de IA. «No voy a disculparme por usar IA en el proceso creativo. Escribí durante 20 años sin IA, podría hacerlo de nuevo si quisiera», escribió. «Mi producción disminuiría, mis publicaciones serían menos estructuradas y necesitarían un buen editor. Usar IA mejora la calidad general de mi escritura. Por eso la uso.»
La precisión de las herramientas de detección genera preocupación. Alice Lemee, ghostwriter y coach, señaló en un video: «Estos detectores son notoriamente, salvajemente inexactos. Una falsa acusación es suficiente para manchar casi irreversiblemente la reputación de un escritor.»
Substack y Pangram: La Búsqueda de la Autenticidad en la Red
Substack anunció estas características de detección de IA en una publicación del CEO Chris Best, explicando que «se vuelve más difícil distinguir lo real en internet», ya que el contenido «creado por nadie» «contamina el ambiente y dificulta el descubrimiento de voces humanas.»
Para ello, Substack se ha asociado con Pangram, una herramienta de detección de IA integrada en la plataforma que permite escanear un texto y genera una puntuación porcentual sobre su origen IA o humano. (Divulgación: Pangram compró previamente un anuncio en 404 Media). Hemos cubierto investigaciones de Pangram, o investigaciones que se basan en su detector, mostrando cómo la escritura generada por IA inunda internet.
La Precisión de los Detectores de IA: Un Desafío Abierto
Como hemos informado, los detectores de IA no son infalibles; Pangram, por ejemplo, puede etiquetar erróneamente contenido humano como IA o viceversa. Max Spero, CEO de Pangram, nos dijo que la empresa trabaja constantemente para minimizar errores, estimando su tasa de falsos positivos en uno de cada 10.000.
Sam Illingworth, profesor y autor de Slow AI, expresó su escepticismo en su Substack, titulando una publicación “Substack’s AI Detector and the Return of the Witch Hunt”: “Ahora hemos construido la imagen especular. Pangram es una máquina real, entrenada con vastas cantidades de texto para hacer una suposición probabilística… Para decidir si hay un humano al otro lado, Substack recurre a una máquina.”
Transparencia y Confianza: El Camino a Seguir
Substack ha implementado una función para que los usuarios añadan una declaración de «Cómo hago esto», explicando su proceso de escritura y revelando si utilizan IA.
Chris Best afirmó: «No estamos en contra de que la gente use IA para asistir su trabajo, y creemos que la gente debería ser libre de elegir qué herramientas usa para expresarse.» Añadió que «algunos en la plataforma son maximalistas de la escritura humana, otros exploran públicamente el uso de IA. Nosotros mismos utilizamos IA en Substack para software, investigación y funciones como el recorte o las traducciones. Pero la gente debería saber lo que está recibiendo.”
Illingworth sugiere que el diálogo es clave: «La mejor manera para que Substack aborde esto es invitar a un mayor diálogo. Me gusta la nueva función que permite a los autores decir a sus lectores cómo construyen sus newsletters usando IA; este es el diálogo que deberían fomentar, no una puntuación que sabemos incorrecta. Mi preocupación es que estos detectores no solo generan falsos positivos para hablantes no nativos de inglés y escritores neurodiversos, sino que eliminan el diálogo al partir de la sospecha. Necesitamos construir confianza entre lectores y autores.»
La Postura de Substack y la Divisiva Reacción Pública
Un portavoz de Substack aclaró: «Las herramientas buscan aumentar la transparencia y el contexto para los lectores, no prohibir ni penalizar la escritura asistida por IA, y no afectan la visibilidad en la plataforma. Animamos a los editores a añadir una declaración de ‘Cómo hago esto’, explicando su proceso, incluyendo el uso (o no uso) de IA. Los creadores pueden deshabilitar la detección pre y post-publicación, y reportar escaneos erróneos en su trabajo. Más información aquí.»
Curiosamente, el intento de Substack de detectar y etiquetar contenido generado por IA fue celebrado por muchos lectores, agotados por el «contenido basura» de IA en plataformas que no lo abordan. Recientemente publicamos una historia sobre la gran cantidad de contenido basura de IA sin etiquetar en Spotify, que ha llevado a la creación de sitios propios para detectarlo.
El Futuro Incierto de la Gestión de Contenido IA
La reacción de algunos usuarios de Substack demuestra que las empresas no pueden simplemente «activar un interruptor» para filtrar contenido de IA. Generar «contenido basura» es fácil. Abordar este problema, sin embargo, sigue siendo una incógnita sin resolver.
DnG