# Detector de IA

> Una herramienta que estima si un texto lo escribió una IA, y se equivoca seguido.

- Nivel: Básico
- Temas: IA
- URL: https://tidbit.legios.com.ar/es/ai-detector/
- En inglés: [AI detector](https://tidbit.legios.com.ar/ai-detector/)

Un **detector de IA** es un programa que lee un texto y estima qué tan probable es que lo haya escrito un chatbot como ChatGPT. Lo usan docentes con monografías, editoriales con manuscritos, reclutadores con cartas de presentación. Entre los conocidos están GPTZero y el que viene integrado en Turnitin. En general dan un porcentaje o resaltan oraciones sospechosas, no un sí o no tajante.

La mayoría busca huellas estadísticas. Los modelos de lenguaje tienden a elegir la palabra siguiente más previsible, así que su texto suele salir prolijo y parejo; las personas escribimos con más sorpresas y más variedad de una oración a otra. Algunos detectores son a su vez modelos de IA, entrenados con muchos ejemplos de texto humano y de máquina.

El problema es que esas huellas son débiles. Una edición liviana, una herramienta para parafrasear o simplemente pedirle al chatbot un estilo más informal alcanzan para que un texto de IA pase por humano. Y al revés, se marcan textos humanos: un estudio de 2023 de investigadores de Stanford encontró que detectores populares etiquetaban como escritos por IA una buena parte de los ensayos de personas que no tenían el inglés como lengua materna, porque un vocabulario más simple parece "previsible". Ese mismo año, OpenAI dio de baja su propio clasificador de texto de IA por su baja precisión. El puntaje de un detector es motivo para una charla, nunca una prueba por sí solo.

## Una analogía

Un detector de mentiras en una fiesta que solo mide nervios. Los mentirosos tranquilos pasan, y la gente honesta que se pone nerviosa no pasa.

## Para quedarse

- Da una probabilidad, no una prueba, de que un texto lo haya escrito una IA.
- Busca la redacción previsible y pareja típica de los modelos de lenguaje.
- Es fácil de engañar con ediciones, y marca por error a algunas personas.
- Las marcas de agua de IA, puestas al crear el contenido, son una señal más firme cuando existen.

## Para seguir leyendo

- [Detección de contenido realizado con IA en Wikipedia](https://es.wikipedia.org/wiki/Detecci%C3%B3n_de_contenido_realizado_con_IA)
- [GPT detectors are biased against non-native English writers (estudio de Stanford, arXiv, en inglés)](https://arxiv.org/abs/2304.02819)

## Términos relacionados

- [Chatbot](https://tidbit.legios.com.ar/es/chatbot/): Un programa con el que hablás escribiendo o con la voz, como si fuera una persona.
- [ChatGPT](https://tidbit.legios.com.ar/es/chatgpt/): El asistente de chat de OpenAI, la app que llevó los chatbots de IA al público.
- [LLM](https://tidbit.legios.com.ar/es/llm/): Una red neuronal entrenada con muchísimo texto para predecir la próxima palabra.
- [Inteligencia artificial](https://tidbit.legios.com.ar/es/artificial-intelligence/): Lograr que las computadoras hagan cosas que hasta hace poco solo hacía la gente.
- [OpenAI](https://tidbit.legios.com.ar/es/openai/): La empresa que hizo ChatGPT y convirtió a la IA en tema de sobremesa.
- [Marca de agua de IA](https://tidbit.legios.com.ar/es/ai-watermarking/): Marcas ocultas en contenido generado por IA para que un programa lo reconozca después.