Xataka – Un agricultor confió en los consejos de la IA para cuidar su cosecha. El resultado: 10 hectáreas arrasadas en una noche
La IA puede ser muy útil para muchas cosas, pero si algo hemos aprendido en estos años es que no podemos fiarnos al 100% de sus respuestas. Una alucinación puede hacerte quedar fatal en el trabajo, o también puede hacer que pierdas diez hectáreas de plántulas de sésamo. Es lo que le ha pasado al señor Wu, un agricultor de 67 años de Chuzhou, China.
Qué ha pasado. Lo cuentan en El Confidencial. El señor Wu empezó a usar IA hace aproximadamente un año y, aunque al principio era escéptico, los buenos resultados hicieron que fuera confiando cada vez más en sus respuestas. Todo iba bien hasta que Wu le pidió ayuda para acabar con las malas hierbas y las plagas que estaban afectando a su cosecha de sésamo. Wu preparó la mezcla, la cargó en su dron y la pulverizó sobre toda su cosecha. Al día siguiente todas las plantas estaban muertas, las malas hierbas y sus plantas de sésamo. Las pérdidas económicas se cifran en 22.000 dólares, según International Business Times.
Tienes toda la razón, ese herbicida no es adecuado para el sésamo. La IA le recomendó una combinación de pesticidas y herbicidas para lograr el efecto deseado, que era matar únicamente a las malas hierbas. Sin embargo, murieron todas las plantas: «La maleza y las plántulas murieron al mismo tiempo, y las plántulas de sésamo murieron aún más rápido». Entre los productos que le había recomendado estaba el flufenacet, un herbicida que se usa para controlar la maleza en campos de soja, no de sésamo. Cuando le preguntó a la IA por esto, le dijo que efectivamente, ese producto había sido el problema.
La confianza. Wu había estado usando la IA durante un año y no había tenido problemas, más bien al contrario. Como decíamos, al principio no le daba mucha confianza, pero como fue acertando y dándole buenos consejos, el agricultor se relajó y empezó a aceptar las respuestas de la IA sin cuestionarlas. Es un fenómeno que se ha observado en estudios recientes: la IA responde con total seguridad y eso provoca que le demos una mayor autoridad.
Verifique las respuestas. En todos los chatbots tenemos mensajes de este tipo que nos indican que la IA comete errores, el problema es que se ha convertido en parte del paisaje y, como con los avisos de cookies, nadie se lo lee. El señor Wu reconoció no haber reparado en ese aviso. La empresa proveedora de la IA que usó, la cual no ha sido identificada, le explicó que el sistema no tiene base de conocimiento propia, sino que genera respuestas obteniendo información de otras fuentes. No le han ofrecido ninguna compensación.
Imagen | James Wainscoat en Unsplash
–
La noticia
Un agricultor confió en los consejos de la IA para cuidar su cosecha. El resultado: 10 hectáreas arrasadas en una noche
fue publicada originalmente en
Xataka
por
Amparo Babiloni
.