Substack ahora permite a lectores escanear publicaciones en busca de texto escrito por IA

Puntos clave

• Substack comenzó a implementar una herramienta de detección de texto con IA en su plataforma web y aplicación iOS el martes.
• La herramienta funciona con Pangram, una empresa de detección de IA, y trabaja con cualquier contenido más largo que 100 palabras.
• Los escritores pueden escanear sus propios borradores con Pangram antes de publicar e impugnar los resultados que crean que son incorrectos.
• El CEO de Substack, Chris Best, acuñó el término "Claudefishing" para describir contenido que engaña a los lectores haciéndoles creer que un humano lo escribió.

Substack desea que sus lectores sepan si una persona real escribió lo que están leyendo o si una máquina hizo la mayor parte del trabajo.

La plataforma de boletines ha comenzado a implementar una herramienta de detección de IA integrada, impulsada por una empresa llamada Pangram, que se especializa en identificar escritura generada por IA. Los lectores pueden activar un escaneo en cualquier publicación, nota o respuesta más larga que 100 palabras. Toca el menú de tres puntos en la esquina superior derecha de una publicación y elige "Escanear texto con IA". La herramienta devuelve una estimación de cuánta escritura podría provenir de una IA o haber sido fuertemente asistida por una. Pronto llegará soporte para Android.

Chris Best, cofundador y CEO de Substack, planteó el movimiento como un problema de confianza, no una prohibición de tecnología. "El problema central no es que la gente use IA, o la calidad de su producción", escribió Best en una publicación de blog. "El problema es cuando hay una discrepancia entre la expectativa del lector y la realidad".

Best le dio un nombre a esa discrepancia: Claudefishing. Es un juego con catfishing, donde alguien pretende en línea ser quien no es, excepto que aquí un escritor pretende que el pensamiento humano entró en el texto que un modelo de lenguaje grande (la tecnología detrás de chatbots como ChatGPT) realmente produjo.

La herramienta tiene limitaciones reales. Pangram puede decirte si la IA influyó en las palabras de la página. No puede decirte si el escritor pasó horas dirigiendo y editando cuidadosamente ese resultado. Una pieza cuidadosamente asistida y una generada perezosamente podrían puntuarse de manera similar. Best es transparente sobre esa brecha.

Para manejarlo, Substack está añadiendo una declaración voluntaria "Cómo hago esto" donde los escritores explican su proceso. Piénsalo como una etiqueta de nutrición para trabajo creativo. Cubrimos los límites de la detección de IA desde un ángulo diferente cuando una empresa australiana certificó los escritos del Papa como genuinamente de autoría humana en julio, y la incomodidad de esa historia no ha desaparecido.

¿Deberían los lectores confiar en los resultados del escaneo?

Trátalos como una señal útil, no como un veredicto. La estimación de Pangram es una probabilidad. El propio Best señala que puede producir resultados inexactos, que es exactamente por qué los escritores obtienen la opción de impugnar una puntuación que creen que es incorrecta.

Para suscriptores de pago o cualquiera que le dé su atención a un escritor, ahora hay una forma rápida de verificar si un humano elaboró lo que están leyendo. Eso es más de lo que la mayoría de plataformas ofrecen. Instagram, por ejemplo, aún no te permite filtrar publicaciones de IA de tu feed.

Best lo dijo claramente: "Las plataformas que recompensan la falsedad crearán una carrera hacia el fondo".

La pregunta práctica a observar no es si la detección funciona perfectamente. Es si los escritores comienzan a manipular la puntuación en el momento en que aprenden cómo piensa Pangram.