JMLA escribió:¿En qué momento la IA decide que sobra el cuello blanco de la camisa?
En ninguno porque la IA no tenía ni idea de que eso era un cuello de camisa. Seguramente fue entrenada con retratos de gente, sin cuellos de camisa, y el cuello humano que ha proporcionado es el más similar a la camisa que llevaba Obama. Se sobreestima a las IA. Aunque lo pueda parecer no tienen ninguna inteligencia, solo tienen fuerza bruta sobre una enorme base de datos con que han sido entrenadas, y entonces se espera de ellas cosas que no son capaces de hacer. Si en su entrenamiento no han visto cuellos de camisa, no saben lo que es un cuello de camisa y por tanto no pueden ni detectarlo ni reproducirlo. En realidad tú lo sabes porque sí has visto muchos.
Otro ejemplo radical que ayuda a entender cómo funcionan las IA y desmitificarlas un poco son las aplicaciones que generan un modelo 3D a partir de una sola foto plana. Estaremos de acuerdo en que si le pasamos una foto de un tío vestido con una camisa de cuadros por delante y que por detrás es de color liso, pero el programa solo ve la foto del frontal, seguramente generará un modelo 3D fantástico de una camisa de cuadros por delante y también por detrás, porque es con lo que ella ha sido entrenada. Estas disonancias entre el resultado de la IA y la realidad se llaman "alucinaciones". Quitar el cuello de Obama es una alucinación, inventarse una camisa que también tiene cuadros por detrás es otra. Las alucinaciones no son fallos, es que la IA no ha sido alimentada con la información suficiente y entonces genera las imágenes que según sus cálculos son las más probables.
No paro de ver vídeos de gente que prueba programitas de IA y todo es "increíble! magia! me explota la cabeza!". Es porque creen que esa aplicación está haciendo cosas que no son las que realmente está haciendo. Ya lo decía C. Clarke: "Any sufficiently advanced technology is indistinguishable from magic.”
Salu2!
