OpenAI, desarrolladora de ChatGPT, ha matado AI Classifier, la herramienta que permitía a los usuarios detectar si un texto lo ha escrito una inteligencia artificial o, en cambio, lo ha redactado un humano. La plataforma, que se lanzó en enero de este año con una gran cantidad de limitaciones, ya no está disponible. Al acceder a la web se muestra un mensaje conforme la página “no se ha encontrado”.
La compañía dirigida por Sam Altman ha confirmado en la publicación donde presentan AI Classifier, que han decidido eliminar la herramienta a causa de su “baja tasa de precisión”. OpenAI, en concreto, destacaba en su web que AI Classifier solo “identifica correctamente el 26 % del texto escrito por IA”. Es un porcentaje bastante pequeño.
La herramienta de OpenAI, además, detectaba falsos positivos un 9 % de las veces. Esto quiere decir que, en algunas ocasiones, un texto escrito como IA lo califica como escrito por humano o viceversa.
AI Classifier, por otro lado, no ofrecía un resultado claro a la hora de detectar si un texto estaba escrito una IA o un humano. Simplemente, los categorizaba como “poco claro o posible”, en el caso de que no pudiese detectar con precisión si un texto se ha generado por ChatGPT u otra IA. O como “muy improbable” que ese texto se haya escrito por un humano.
Además, la firma aseguraba que para que la herramienta detectase un texto correctamente, este debía tener más de 1.000 caracteres para que fuese un poco más fiable a la hora de detectar texto. Aunque OpenAI subrayaba que “incluso los textos más largos a veces son etiquetados incorrectamente por el clasificador”.
OpenAI afirma estar trabajando en una herramienta más precisa
En cualquier caso, esto no parece ser un adiós definitivo. La compañía ha confirmado que el están trabajando en una herramienta una más fiable y precisa. El objetivo es que los usuarios puedan “comprender” si el contenido, ya sea de audio, vídeo o escrito, lo ha generado una IA.
Actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por IA.
OpenAI en una nota sobre la suspensión de IA Classifier.
Por el momento, y a falta de una herramienta por parte de OpenAI para detectar si un texto está escrito por ChatGPT, es posible utilizar diferentes plataformas que funcionan de forma similar a como lo hacía AI Classifier. Una de ellas es CPTZero, que incluso permite compartir documentos.