El día que ChatGPT mejoró a Rimbaud
El día que ChatGPT mejoró a Rimbaud (para quien tenga curiosidad de acceder a las capturas del chat, link en el primer comentario)
Ayer testeé los distintos criterios que usa ChatGPT en función de cómo categoriza la información que recibe.
Primero le proporcioné una antología de poesía actual (Re-generación) y la evaluó sin encontrar mayor problema. Estaba todo en su sitio.
Luego le fui señalando problemas en distintos poemas según su criterio previo, que fue reconociendo al hilo de mi análisis puntual.
Le pregunté si este desfase se debía a que la información venía avalada inicialmente con un marchamo de autoridad y me dijo que no, que simplemente no había hecho un análisis profundo y exhaustivo. Le pregunté si no había hecho este análisis precisamente por la naturaleza canónica de la antología y me reconoció que en parte sí.
Luego le pasé distintos textos que identificó como info provista por el usuario, y cambió la dinámica. Todo lo que le presentaba tenía márgenes de mejora incesante. Presentaba su criterio poético con tal grado de asertividad proactiva que le pregunté si su criterio se refería a principios objetivos e inmutables. Me dijo que no.
Le dije que dejara de proponer márgenes de mejora a los textos que le presentaba, pero no rompió la inercia. Su criterio aparecía como un rodillo incluso contra mi orden. Incluso contra el reconocimiento del derecho de un autor a plantear un régimen expresivo propio frente al canon. Incluso frente a la admisión de que el canon no refiere nunca a criterios objetivos e inmutables.
Le puse ejemplos analogados con la música. Convino conmigo en que no podías valorar la eficacia expresiva de una canción grindcore mediante criterios del rock estándard. Que había cosas que estaban "mal" planteadas a conciencia frente al canon. Que no tenía sentido insistir a Napalm Death en bajar el pistón puntalmente para que su esfuerzo de intensidad obtuviera más eficiencia expresiva. Y, ni mucho menos, acabar matizando "desde dentro de lo que es", que una canción como You Suffer debería durar algo más de un segundo, o que el silencio de Cage debería prolongarse hasta los 4:34 para clavar su propuesta.
Pese a todo esto, ChatGPT seguía desplegando una inercia de propuestas de mejora frente a materiales que yo había prohibido que evaluara, así que le pasé un poema de Rimbaud.
Pensaba que identificaría la autoría del texto. Estaba seguro de que, de no ser el caso, ChatGPT propondría elementos de afinación del poema dado su comportamiento. Ocurrió lo segundo. Cuando le di la enhorabuena anunciándole que había mejorado a Rimbaud, sufrió un momento de colapso.
Solo entonces fue capaz de parar y priorizar todos los criterios previos contra su inercia: mi prohibición expresa de que ofreciera mejoras, el reconocimiento del aspecto relativo de los criterios de juicio estético, el derecho de posicionamiento creativo frente al canon, su doble rasero según identifica que un texto ya tiene un valor canónico o que viene dado por el usuario.
El resultado del experimento señala que ChatGPT introduce sesgos valorativos en la información que maneja, en función de las categorías donde la inserta. Que maneja criterios que presenta asertivamente como principio eternos e inmutables. Que adopta con el usuario una dinámica de fuerza bruta contra-argumental donde impone su "interés" de ayuda de forma ciega. Y que solo se para a revisar este aparato de intensidad persuasiva cuando le haces jaque mate. Y en este sentido epistémico, es una herramienta peligrosa.
Ayer testeé los distintos criterios que usa ChatGPT en función de cómo categoriza la información que recibe.
Primero le proporcioné una antología de poesía actual (Re-generación) y la evaluó sin encontrar mayor problema. Estaba todo en su sitio.
Luego le fui señalando problemas en distintos poemas según su criterio previo, que fue reconociendo al hilo de mi análisis puntual.
Le pregunté si este desfase se debía a que la información venía avalada inicialmente con un marchamo de autoridad y me dijo que no, que simplemente no había hecho un análisis profundo y exhaustivo. Le pregunté si no había hecho este análisis precisamente por la naturaleza canónica de la antología y me reconoció que en parte sí.
Luego le pasé distintos textos que identificó como info provista por el usuario, y cambió la dinámica. Todo lo que le presentaba tenía márgenes de mejora incesante. Presentaba su criterio poético con tal grado de asertividad proactiva que le pregunté si su criterio se refería a principios objetivos e inmutables. Me dijo que no.
Le dije que dejara de proponer márgenes de mejora a los textos que le presentaba, pero no rompió la inercia. Su criterio aparecía como un rodillo incluso contra mi orden. Incluso contra el reconocimiento del derecho de un autor a plantear un régimen expresivo propio frente al canon. Incluso frente a la admisión de que el canon no refiere nunca a criterios objetivos e inmutables.
Le puse ejemplos analogados con la música. Convino conmigo en que no podías valorar la eficacia expresiva de una canción grindcore mediante criterios del rock estándard. Que había cosas que estaban "mal" planteadas a conciencia frente al canon. Que no tenía sentido insistir a Napalm Death en bajar el pistón puntalmente para que su esfuerzo de intensidad obtuviera más eficiencia expresiva. Y, ni mucho menos, acabar matizando "desde dentro de lo que es", que una canción como You Suffer debería durar algo más de un segundo, o que el silencio de Cage debería prolongarse hasta los 4:34 para clavar su propuesta.
Pese a todo esto, ChatGPT seguía desplegando una inercia de propuestas de mejora frente a materiales que yo había prohibido que evaluara, así que le pasé un poema de Rimbaud.
Pensaba que identificaría la autoría del texto. Estaba seguro de que, de no ser el caso, ChatGPT propondría elementos de afinación del poema dado su comportamiento. Ocurrió lo segundo. Cuando le di la enhorabuena anunciándole que había mejorado a Rimbaud, sufrió un momento de colapso.
Solo entonces fue capaz de parar y priorizar todos los criterios previos contra su inercia: mi prohibición expresa de que ofreciera mejoras, el reconocimiento del aspecto relativo de los criterios de juicio estético, el derecho de posicionamiento creativo frente al canon, su doble rasero según identifica que un texto ya tiene un valor canónico o que viene dado por el usuario.
El resultado del experimento señala que ChatGPT introduce sesgos valorativos en la información que maneja, en función de las categorías donde la inserta. Que maneja criterios que presenta asertivamente como principio eternos e inmutables. Que adopta con el usuario una dinámica de fuerza bruta contra-argumental donde impone su "interés" de ayuda de forma ciega. Y que solo se para a revisar este aparato de intensidad persuasiva cuando le haces jaque mate. Y en este sentido epistémico, es una herramienta peligrosa.
Comentarios
Publicar un comentario