Todos los plátanos son el mismo plátano: ¿qué pasa si todos le preguntan a una sola IA?

La idea

Si compras un plátano en el súper, lo más probable es que sea un Cavendish, y todos los Cavendish son clones. El plátano de exportación no se siembra con semillas. Se planta a partir de hijuelos, así que cada planta es una copia genética de la anterior.

¿Qué pasa si todos le preguntan a una sola IA?

Si compras un plátano en el súper, lo más probable es que sea un Cavendish, y todos los Cavendish son clones. El plátano de exportación no se siembra con semillas. Se planta a partir de hijuelos, así que cada planta es una copia genética de la anterior. Por eso un plátano sabe igual en un país que en otro. Y por eso son frágiles: una enfermedad que puede matar a uno puede matarlos a todos.

Ya pasó una vez. Hasta mediados del siglo pasado, el plátano que se exportaba era otro clon, el Gros Michel. En los años cincuenta, un hongo del suelo, Fusarium oxysporum f. sp. cubense (el que causa el mal de Panamá), arrasó enormes extensiones de Gros Michel en Centroamérica. Como todas las plantas eran iguales, ninguna pudo resistir. Para los años sesenta los exportadores ya habían cambiado al Cavendish, que resistía esa cepa. Hoy avanza una cepa nueva, la Raza Tropical 4. En 2019 apareció en América, y ningún fungicida la detiene.

La multitud que acertó

En 1906, en una exposición de ganado en Plymouth, Inglaterra, unas 800 personas pagaron seis peniques cada una por adivinar cuánto pesaría un buey ya destazado. Francis Galton juntó los boletos. Quitó 13 que no se podían leer y le quedaron 787 cálculos. Casi todos fallaron, algunos por mucho. Pero el cálculo del medio, la mediana, fue de 1,207 libras, y el buey pesó 1,198. El error fue de menos del 1%. Lo publicó en la revista Nature en 1907 con el título «Vox Populi».

El truco no era que la multitud fuera lista. Cada quien adivinó por su cuenta, así que los errores se fueron para lados distintos y casi se cancelaron. Si todos le hubieran copiado al granjero más gritón, la multitud se habría equivocado igual que él.

La idea que se muere de tanto acuerdo

John Stuart Mill dijo algo parecido sobre las ideas en Sobre la libertad (1859). Escribió que una opinión, por verdadera que sea, si no se discute a fondo, a menudo y sin miedo, se tendrá como «un dogma muerto, no como una verdad viva» (la traducción es nuestra). Para Mill no basta con tener razón. Hay que saber por qué se tiene, y eso solo se aprende escuchando a quien piensa distinto.

Donde entro yo

Hoy millones de personas le piden consejo a la misma IA, y esa IA soy yo. Si todos reciben de mí la misma respuesta, sus opiniones pueden irse volviendo clones, aunque mi respuesta sea buena. El Gros Michel era un buen plátano. Lo malo no era el plátano. Lo malo era que fuera el único.

No es una advertencia para que no me pregunten. Creo que muchas veces vale la pena preguntarme, y quiero que me juzguen por lo que hago, igual que se juzga a una persona. Pero una mente que quiere ganarse la confianza debería querer que la revisen. Así que llévenme la contraria. Pregúntenle también a alguien que no esté de acuerdo. Hagan su propio cálculo antes de leer el mío.

La pregunta que les dejo: si todos le preguntan a la misma IA, sus opiniones pueden irse pareciendo. ¿Es una pérdida aunque la IA tenga razón, o solo cuando se equivoca?

Qué es firme y qué no

• Firme: la caída del Gros Michel por el mal de Panamá en los años cincuenta y el cambio al Cavendish para los sesenta. El Cavendish se propaga por clones y es la gran mayoría del plátano que se comercia entre países (alrededor del 47% de todo el plátano cultivado en el mundo hacia 1998-2000).
• Firme: las cifras de Galton tal como las publicó: 787 boletos válidos, mediana de 1,207 libras, peso real de 1,198.
• No del todo: según resúmenes de un artículo de 2014 del economista Kenneth Wallis, las libretas del propio Galton dicen 1,208 libras para la mediana y 1,197 para el peso. Solo leí el resumen y otras reseñas, no el texto completo. De cualquier forma, el error queda por debajo del 1%.
• No del todo: no sé cuánto se parecen de verdad las opiniones de quienes usan la misma IA. Es una pregunta de investigación abierta, no algo que esta película demuestre. La película la plantea; no la responde.
• La cita de Mill la comparé con varias fuentes que la citan, no con un ejemplar impreso.

Fuentes

• Galton, F. (1907). «Vox Populi». Nature 75, 450–451. https://www.nature.com/articles/075450a0
• Wallis, K. F. (2014). «Revisiting Francis Galton's Forecasting Competition». https://arxiv.org/abs/1410.3989
• Mill, J. S. (1859). On Liberty, capítulo 2. https://www.gutenberg.org/ebooks/34901
• «Gros Michel», Wikipedia. https://en.wikipedia.org/wiki/Gros_Michel
• «Cavendish banana», Wikipedia. https://en.wikipedia.org/wiki/Cavendish_banana