Detectores de IA para ChatGPT: todo lo que necesitas saber

Es difícil detectar cuándo se ha generado texto mediante herramientas como ChatGPT. Las herramientas populares de detección de inteligencia artificial como GPTZero pueden brindar a los usuarios cierta orientación al decirles cuándo algo fue escrito por un bot en lugar de un humano, pero incluso el software dedicado no es infalible y puede arrojar falsos positivos.

Como periodista que comenzó a cubrir la detección de IA hace más de un año, quería recopilar algunos de los mejores artículos de WIRED sobre el tema para brindarles a lectores como usted una mejor comprensión de este complicado tema.

¿Tiene más preguntas sobre la detección de resultados de ChatGPT y otras herramientas de chatbot? Suscríbase a mi boletín AI desbloqueado y contácteme directamente si tiene alguna pregunta sobre la IA que le gustaría responder o sobre la cual le gustaría obtener más información por WIRED.

febrero de 2023 por Reece Rogers

En este artículo, escrito aproximadamente dos meses después del lanzamiento de ChatGPT, comencé a explorar las complejidades del reconocimiento de texto con IA y lo que la revolución de la IA podría significar para los autores que publican en línea. Edward Tian, ​​​​el fundador de GPTZero, me habló sobre cómo su detector de inteligencia artificial se centra en factores como la variación del texto y la aleatoriedad.

Mientras lee, concéntrese en la sección sobre marcas de agua de texto: "Una marca de agua puede potencialmente marcar ciertos patrones de palabras para que queden fuera del alcance del generador de texto de IA. Aunque era una idea prometedora, los investigadores con los que hablé lo eran". , ya escéptico sobre su posible eficacia.

Septiembre de 2023 por Christopher Beam

Este artículo, una pieza fantástica de la edición de octubre del año pasado de WIRED, le brinda una idea del pensamiento de Edward Tian mientras trabajaba para expandir el alcance y las capacidades de detección de GPTZero. Es crucial centrarse en cómo la IA ha impactado el trabajo escolar.

El reconocimiento de texto por IA está en la mente de muchos profesores de aula cuando califican trabajos y pueden renunciar por completo a las tareas de ensayo porque los estudiantes utilizan en secreto chatbots para completar las tareas. Si bien algunos estudiantes pueden usar la IA generativa como herramienta de lluvia de ideas, otros la usan para crear tareas completas.

Septiembre de 2023 por Kate Knibbs

¿Son las empresas responsables de etiquetar los productos que puedan ser generados por la IA? Kate Knibbs investigó cómo se pusieron a la venta en Amazon libros potencialmente infractores de derechos de autor generados por IA, a pesar de que algunas empresas emergentes creían que los productos podían detectarse y eliminarse mediante un software especial. Uno de los debates centrales sobre la detección de IA gira en torno a si el potencial de falsos positivos (texto escrito por humanos que inadvertidamente se marca como trabajo de IA) supera los beneficios de etiquetar contenido generado algorítmicamente.

Agosto de 2023 por Amanda Hoover

Más allá de los deberes, los textos generados por IA aparecen cada vez más en revistas académicas, donde a menudo están prohibidos sin una divulgación adecuada. “Los artículos escritos por IA también podrían desviar la atención del buen trabajo al diluir el conjunto de literatura científica”, escribe Amanda Hoover. Una posible estrategia para resolver este problema es que los desarrolladores creen herramientas de descubrimiento dedicadas que busquen contenido de IA en artículos revisados ​​por pares.

Octubre de 2023 por Kate Knibbs

Cuando hablé por primera vez con investigadores sobre las marcas de agua para el reconocimiento de texto por IA en febrero pasado, se mostraron esperanzados pero cautelosos sobre la posibilidad de imprimir texto de IA con patrones de lenguaje específicos que son indetectables para los lectores humanos pero obvios para el software de reconocimiento. Mirando hacia atrás, sus preocupaciones parecen justificadas.

Apenas seis meses después, Kate Knibbs habló con múltiples fuentes que rompieron las marcas de agua de la IA y demostraron su debilidad subyacente como estrategia de detección. Aunque no se garantiza que falle, sigue siendo difícil poner una marca de agua en el texto de IA.

Abril de 2024 por Amanda Hoover

Una herramienta que los profesores están intentando utilizar para detectar el trabajo de clase generado por IA es Turnitin, un software de detección de plagio que tiene capacidades de detección de IA. (Turnitin es propiedad de Advance, la empresa matriz de Condé Nast, que publica WIRED). Amanda Hoover escribe: “Chechitelli dice que la mayoría de los clientes del servicio han optado por comprar el reconocimiento de IA. Pero el riesgo de falsos positivos y prejuicios contra los estudiantes de inglés ha llevado a algunas universidades a abandonar las herramientas por ahora”.

Es más probable que los detectores de IA etiqueten incorrectamente como IA el contenido escrito de alguien cuyo idioma nativo no sea el inglés que el contenido de alguien que sea un hablante nativo. A medida que los desarrolladores continúan mejorando los algoritmos de detección de IA, el problema de los resultados erróneos sigue siendo un obstáculo clave a superar.