El fabricante de ChatGPT lanza una herramienta de detección de IA después de que los distritos escolares se quejen de hacer trampa

OpenAI, la firma de investigación con sede en San Francisco detrás de ChatGPT, dice que ha lanzado una nueva herramienta para ayudar a distinguir entre el texto escrito por IA y el texto escrito por humanos.

La firma anunció el lanzamiento de una versión inicial del lanzamiento el martes, diciendo que su objetivo es recopilar comentarios y compartir métodos mejorados en el futuro.

Los creadores de ChatGPT advirtieron que es imposible detectar de manera confiable todos los textos escritos por IA. Sin embargo, la firma cree que los buenos clasificadores pueden ayudar a detectar campañas de desinformación automatizadas, posicionar un chatbot de IA como un ser humano y usar herramientas de IA para la deshonestidad académica.

El lanzamiento de “Al Text Classifier” se produce después de una semana de debates en las escuelas y universidades sobre los temores de que la capacidad de ChatGPT para escribir casi cualquier cosa podría alimentar la deshonestidad académica y dificultar el aprendizaje.

EL POTENCIAL ASESINO DE GOOGLE PODRÍA CAMBIAR LA FUERZA LABORAL TAL COMO LA CONOCEMOS

Adolescentes y estudiantes universitarios se encontraban entre los millones de personas que comenzaron a experimentar con ChatGPT luego de su lanzamiento el 30 de noviembre como una aplicación gratuita en el sitio web de OpenAI. Y aunque muchos encontraron formas de usarlo de manera creativa e inofensiva, la facilidad con la que podía responder preguntas de exámenes para llevar a casa y ayudar con otras tareas provocó el pánico entre algunos educadores.

Cuando las escuelas abrieron para el nuevo año, la ciudad de Nueva York, Los Ángeles y otros grandes distritos escolares públicos comenzaron a bloquear su uso en las aulas y en los dispositivos escolares.

Un logo de ChatGPT como se ve en un teléfono celular. (CFOTO/Future Publishing a través de Getty Images/Getty Images)

Cuanto más largo sea un pasaje de texto, mejor será la herramienta para detectar si una IA o un ser humano escribieron algo. Escriba cualquier texto, un ensayo de admisión a la universidad o un análisis literario del “Hombre invisible” de Ralph Ellison, y la herramienta lo etiquetará como “muy poco probable, poco probable, poco claro si es, posible o probable” generado por IA.

HAGA CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX BUSINESS

Pero al igual que el propio ChatGPT, que se entrenó en un gran tesoro de libros, periódicos y escritos en línea digitalizados, pero que a menudo escupe falsedades o tonterías con confianza, no es fácil interpretar cómo llegó a un resultado.

Associated Press contribuyó a este informe.