OpenAI desafía a los tramposos con su nuevo detector de texto generado por IA

OpenAI ha lanzado una herramienta para detectar texto generado por inteligencia artificial (IA), incluyendo su propio ChatGPT. La herramienta, aunque todavía está lejos de ser perfecta, podría ser un valioso recurso para profesores que buscan detectar si los estudiantes están usando AI para hacer sus tareas.

El detector de OpenAI identifica correctamente el 26% del texto escrito por AI y etiqueta incorrectamente como generado por IA el texto escrito por humanos en un 9%. La herramienta es gratuita y accesible al público, se puede usar en platform.openai.com/ai-text-classifier/.

Los resultados clasificarán el texto como muy improbable, poco probable, poco claro o posible de ser generado por IA, y necesitan un mínimo de 1.000 palabras para funcionar. Actualmente, el detector solo está entrenado para detectar texto generado completamente por humanos o IA, y no texto coescrito.

OpenAI entrenó su modelo de lenguaje utilizando conjuntos de datos con texto generado tanto por AI como por humanos. El dataset de texto humano provino de tres fuentes: Wikipedia, WebText y demostraciones de InstructGPT.

En conclusión, el detector de texto generado por IA de OpenAI es una herramienta que podría ser útil para profesores, aunque aún tiene sus limitaciones y necesita mejorar para ser más preciso. Sin embargo, es un buen paso hacia la solución de un desafío que enfrenta el sistema educativo en la era de la inteligencia artificial.

Fuente: xataka.com