Los avances recientes en inteligencia artificial se difunden r\u00e1pidamente, pero entre ellos, ChatGPT se destaca por su singularidad. Este chatbot vers\u00e1til ha dejado una huella profunda en el mundo acad\u00e9mico: una gran proporci\u00f3n de estudiantes utiliza ChatGPT para redactar ensayos, incluso en campos tan complejos como la filosof\u00eda, donde esta IA supera ampliamente a un ser humano en esta tarea. No solo es eficaz en ensayos, sino que en agosto de 2023, un extenso equipo de investigaci\u00f3n report\u00f3 en la American Journal of Obstetrics and Gynecology que ChatGPT supera a los candidatos humanos en los ex\u00e1menes cl\u00ednicos estructurados objetivos, utilizados en diferentes pa\u00edses como pruebas de licenciatura y certificaci\u00f3n para m\u00e9dicos graduados. Su capacidad para redactar casi cualquier tipo de texto solicitado por el usuario ha propiciado una explosi\u00f3n de trampas acad\u00e9micas: algunos estudiantes incluso ponen a prueba el sistema educativo defendiendo tesis de graduaci\u00f3n escritas por IA, y estos intentos suelen ser exitosos, especialmente cuando el estudiante edita el texto obtenido.<\/p>\n
El problema de la trampa acad\u00e9mica impulsada por IA ha trascendido a los estudiantes, y ahora incluso los miembros experimentados del profesorado se encuentran bajo sospecha de usar ChatGPT para redactar art\u00edculos cient\u00edficos. Estos casos generalmente se revelan de manera accidental mediante indicadores indirectos, como por ejemplo, m\u00faltiples afiliaciones que corresponden a una carga de trabajo estimada que resulta excesiva para una sola persona.<\/p>\n
Estos hechos indican que tanto las universidades como las oficinas editoriales necesitan urgentemente herramientas para detectar el uso de ChatGPT. Este es un verdadero desaf\u00edo, ya que parece dif\u00edcil detectar el uso de una red neuronal que supera a un ser humano en la creaci\u00f3n de textos. Sin embargo, la soluci\u00f3n a este problema es alcanzable debido a las m\u00faltiples fallas inherentes de ChatGPT.<\/p>\n
El ChatGPT podr\u00eda parecer una criatura amenazante y consciente de s\u00ed misma, presagiando el auge de las m\u00e1quinas, pero en realidad, es solo un chatbot potente con un motor de pr\u00f3xima generaci\u00f3n. Su objetivo dise\u00f1ado es confabular procesando lenguaje natural. No tiene nada que ver con conocimientos matem\u00e1ticos, biol\u00f3gicos o de otro tipo, ni siquiera puede procesar este tipo de informaci\u00f3n. Esto lleva a m\u00faltiples errores en tareas matem\u00e1ticas si se le ordenan a ChatGPT. Adem\u00e1s, utiliza el enfoque de \u00abconfabulaci\u00f3n\u00bb para crear cualquier tipo de informaci\u00f3n, incluidas referencias literarias y hechos cient\u00edficos, lo que lo hace extremadamente propenso a \u00abalucinar\u00bb, generando referencias a trabajos inexistentes o hechos falsos sobre programas y servicios. ChatGPT es excelente procesando textos, pero falla completamente al procesar ciencia, y esta falla proporciona la manera m\u00e1s evidente de detectarlo en falso. Estas firmas, junto con otros defectos como problemas de contexto o vocabulario, pueden ser verificadas manualmente por un profesor o editor, pero tambi\u00e9n pueden distraer su atenci\u00f3n. La IA no puede pensar, pero puede hacerse pasar por tal.<\/p>\n
Afortunadamente, la aparici\u00f3n del fraude impulsado por ChatGPT ha dado lugar a un aumento de m\u00e9todos computacionales para distinguir entre textos escritos por humanos y los generados por IA. Esto es literalmente combatir el fuego con fuego. Las computadoras contempor\u00e1neas no pueden predecir c\u00f3mo debe ser un texto escrito por un humano simplemente porque a\u00fan no han alcanzado una conciencia similar a la humana. Pero pueden predecir f\u00e1cilmente c\u00f3mo debe ser un texto escrito por una computadora.<\/p>\n
Cuando la IA se entrena para crear textos, memoriza secuencias de palabras t\u00edpicas que son frecuentes en conversaciones comunes. Por ejemplo, aprende que \u00abcasa\u00bb es una palabra adecuada despu\u00e9s de \u00abJohn va\u00bb, y \u00abcaminar\u00bb es una palabra apropiada despu\u00e9s de \u00abJohn va a\u00bb. Esto lleva a una sobrerrepresentaci\u00f3n de frases predecibles en los textos generados por la IA. Cuando un profesor verifica este texto con un programa detector de IA, predice con su propia IA qu\u00e9 palabra deber\u00eda venir despu\u00e9s. Y, si estas predicciones coinciden con las palabras actuales en un fragmento de texto, el detector de IA lo etiquetar\u00e1 como un fragmento potencialmente generado por IA. Esto es la detecci\u00f3n de IA por predictibilidad.<\/p>\n
Independientemente de la m\u00e9trica espec\u00edfica utilizada, la funcionalidad de detecci\u00f3n de IA es m\u00e1s \u00fatil si se integra en programas de detecci\u00f3n de plagio. A diferencia del software de detecci\u00f3n de IA, la detecci\u00f3n de plagio se ha convertido en un procedimiento rutinario, y la detecci\u00f3n simult\u00e1nea de IA podr\u00eda prevenir el fraude acad\u00e9mico a gran escala. Esta es la raz\u00f3n por la que implementamos la detecci\u00f3n de IA en Advacheck. Nuestro producto puede advertir a los usuarios cuando sospecha del uso de IA y resaltar los fragmentos sospechosos. Este es el \u00fanico resultado de detecci\u00f3n de IA hasta ahora, pero esta funci\u00f3n est\u00e1 en desarrollo activo y se espera que salgan resultados m\u00e1s detallados pronto.<\/p>\n
Si bien el uso de nuestro producto para detectar textos potencialmente generados por IA es sencillo, tomar acciones posteriores es mucho m\u00e1s dif\u00edcil. Cuando usas Advacheck para su tarea principal, la detecci\u00f3n de plagio, proporciona las fuentes de donde probablemente se haya tomado el texto. Esto ofrece la oportunidad de confirmar el plagio a partir de una fuente espec\u00edfica y tomar una decisi\u00f3n administrativa o editorial inmediata en funci\u00f3n del resultado del programa.<\/p>\n
Este no es el caso de la detecci\u00f3n de IA, independientemente del sistema que utilices. Cualquier m\u00e9trica de detecci\u00f3n de IA solo permite que el software sospeche del fraude, pero no lo confirme.<\/p>\n
Entonces, \u00bfqu\u00e9 hacer si Advacheck alerta sobre un texto potencialmente generado por IA? En primer lugar, recomendamos encarecidamente una reevaluaci\u00f3n manual del trabajo, especialmente de los fragmentos \u00absospechosos\u00bb. Errores burdos, frases sin sentido, datos o referencias inexistentes deber\u00edan indicar la baja calidad de un trabajo, incluso si estas se\u00f1ales no son rastros de ChatGPT, sino consecuencias de la negligencia del autor.<\/p>\n
Comparar los fragmentos sospechosos entre s\u00ed y con el resto del texto puede mostrar el Efecto Dory: contradicciones entre segmentos, como si el autor hubiera olvidado lo que escribi\u00f3 minutos antes (como Dory, el pez de la pel\u00edcula \u00abBuscando a Nemo\u00bb). Este efecto es otro signo de posible fraude.<\/p>\n
Finalmente, alentamos a profesores y editores a discutir los textos sospechosos con los autores para averiguar cu\u00e1n familiarizados est\u00e1n con sus propios textos. Recuerda que solo los humanos tienen la capacidad total y la responsabilidad de analizar textos cient\u00edficos. De todos modos, ser\u00e1s t\u00fa quien lo revise con tu propia mente. Advacheck se\u00f1alar\u00e1 d\u00f3nde es necesario.<\/p>\n","protected":false},"excerpt":{"rendered":"
Los avances recientes en inteligencia artificial se difunden r\u00e1pidamente, pero entre ellos, ChatGPT se destaca por su singularidad. Este chatbot vers\u00e1til ha dejado una huella profunda en el mundo acad\u00e9mico: una gran proporci\u00f3n de estudiantes utiliza ChatGPT para redactar ensayos, incluso en campos tan complejos como la filosof\u00eda, donde esta IA supera ampliamente a un […]<\/p>\n","protected":false},"author":3,"featured_media":989,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-417","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog"],"translation":{"provider":"WPGlobus","version":"3.0.0","language":"es","enabled_languages":["en","es"],"languages":{"en":{"title":true,"content":true,"excerpt":false},"es":{"title":true,"content":true,"excerpt":false}}},"acf":[],"yoast_head":"\n