Substack ahora permite a los lectores detectar texto escrito por IA

Puntos clave

• Substack comenzó a implementar una herramienta de detección de texto de IA en su plataforma web y aplicación iOS el martes.
• La herramienta está impulsada por Pangram, una empresa de detección de IA, y funciona con cualquier contenido más largo que 100 palabras.
• Los escritores también pueden escanear sus propios borradores con Pangram antes de publicar e informar resultados que crean que son incorrectos.
• El CEO de Substack, Chris Best, acuñó el término "Claudefishing" para describir contenido que engaña a los lectores haciéndoles creer que un humano lo escribió.

Substack quiere que sus lectores sepan si una persona real escribió lo que están leyendo, o si una máquina hizo la mayor parte del trabajo.

La plataforma de boletines y redes sociales ha comenzado a implementar una herramienta de detección de IA integrada, impulsada por una empresa llamada Pangram, que se especializa en identificar escritos generados por IA. Los lectores pueden ejecutar un escaneo en cualquier publicación, nota, respuesta o comentario que sea más largo que 100 palabras. Solo toca el menú de tres puntos en la esquina superior derecha de una publicación y elige "Escanear texto de IA". La herramienta devuelve una estimación de cuánta escritura podría haber provenido de una IA, o haber sido fuertemente asistida por una.

La función está disponible en la web y en la aplicación iOS de Substack en este momento. El soporte para Android llegará pronto, según lo reportado por The Verge AI.

Chris Best, cofundador y CEO de Substack, enmarcó el movimiento como un problema de confianza, no como una prohibición tecnológica. "El problema central no es que las personas usen IA, o la calidad de su resultado", escribió Best en una publicación de blog. "El problema es cuando hay un desajuste entre la expectativa del lector y la realidad".

Best le dio un nombre a ese desajuste: Claudefishing. Es un juego con catfishing, donde alguien pretende en línea ser alguien que no es, excepto que aquí un escritor pretende que el pensamiento humano fue lo que un modelo de lenguaje grande, la tecnología detrás de chatbots como ChatGPT, realmente produjo.

La herramienta tiene límites reales. Best es abierto sobre ellos. Pangram puede decirte si la IA moldeó las palabras en la página. No puede decirte si el escritor pasó horas dirigiendo cuidadosamente, editando y verificando ese resultado de IA. Una pieza cuidadosamente asistida y una generada perezosamente podrían puntuarse de manera similar.

Para cerrar esa brecha, Substack también está añadiendo una declaración voluntaria de "Cómo hago esto", donde los escritores pueden explicar su proceso con sus propias palabras. Piénsalo como una etiqueta nutricional para el trabajo creativo.

¿Deberían los lectores confiar en los resultados del escaneo?

Trátalos como una señal útil, no como un veredicto. La estimación de Pangram es una probabilidad, no una prueba. El propio Best señala que puede producir resultados inexactos, que es exactamente por qué los escritores obtienen la opción de reportar una puntuación que creen que es incorrecta.

Para los lectores ordinarios de Substack, el resultado práctico es simple. Si estás pagando por un boletín o dándole tu atención a un escritor, ahora tienes una forma rápida de verificar si un humano realmente escribió lo que estás leyendo. Eso es más de lo que la mayoría de las plataformas ofrecen.

Best lo expresó claramente: "Las plataformas que recompensan la falsedad crearán una carrera hacia el fondo".