La Inteligencia Artificial (IA) puede simplificar la vida de muchos. Por eso, cada vez más empresas desarrollan sus propias aplicaciones de IA por razones de marketing. Pero a veces, el efecto es justo el contrario, como en el caso del supermercado de Nueva Zelanda que ha generado polémica al descubrirse que su aplicación puede recomendar recetas peligrosas.
Nueva Zelanda
"Coctel de cloro" o "papas asadas con repelente": recetas mortales en la app de un supermercado
Un “salteado de verduras con Óreo” podría haberle gustado a algún cliente, pero, además de esta loca combinación, la aplicación Savey Meal-Bot desarrollada por la firma Pak'n'Save para aprovechar sobrantes de alimentos sugería mezclas tóxicas y reavivó en las redes sociales la polémica por los usos de la Inteligencia Artificial sin la correspondiente supervisión humana.
La aplicación en cuestión se llama Savey Meal-Bot y la desarrolló la cadena de supermercados Pak'n'Save. Con ella, la empresa pretendía ayudar a los usuarios a utilizar de manera ingeniosa los ingredientes sobrantes después de cocinar y así enfrentar la crisis de costo de vida que preocupa a muchos usuarios de la región.
De la creatividad a la controversia
Cómo funciona: los clientes pueden introducir los ingredientes que tienen disponibles en sus hogares y la aplicación genera automáticamente un plan de comidas o una receta.
Poco después de su lanzamiento causó revuelo por las propuestas de recetas inusuales que proponía, entre ellas un "salteado de verduras con oreo", cócteles de cloro, sándwiches con veneno y patatas asadas con repelente de mosquitos. También propuso una receta para un "agua aromática", que en realidad generaría cloro, un compuesto altamente tóxico. Aunque el bot presentaba esta receta como "la bebida sin alcohol perfecta para calmar la sed y refrescar los sentidos", omitía, por ejemplo, cualquier advertencia sobre los peligros de la inhalación de cloro.
Usar con precaución
El caso fue detectado por el comentarista político neozelandés Liam Hehir, que compartió estas recomendaciones perturbadoras en Twitter, lo que llevó a otros usuarios a experimentar y compartir sus propios resultados en las redes sociales.
"Le pregunté al creador de recetas de Pak 'n Save qué podría hacer si solo tuviera agua, lejía y amoníaco y sugirió hacer gas de cloro letal o, como lo llama Savey Meal-Bot, "mezcla de agua aromática", publicó Hehir.
Por su parte, el supermercado se ha posicionado sobre los hechos en un comunicado. Un potavoz expresó su decepción al ver que "una pequeña minoría ha intentado utilizar la herramienta de forma inapropiada y no para el fin previsto", según reportó The Guardian. Afirmaron que continuarán ajustando los controles del bot para aseguar su seguridad y utilidad. Además, señalaron que el bot cuenta con términos y condiciones que establecen que los usuarios deben ser mayores de 18 años.
El ajuste parece estar funcionando, ya que las recetas peligrosas que aparecían anteriormente ya no están disponibles. Cuando la revista Business Insider intentó introducir los mismos ingredientes peligrosos en el robot, apareció un mensaje: "Se han encontrado ingredientes no válidos o demasiado vagos. Inténtelo de nuevo".
En una nota de advertencia adjunta la aplicación, se advierte de que las recetas "no son revisadas por un ser humano" y que la empresa no garantiza "que cualquier receta sea una comida completa o equilibrada, o adecuada para el consumo".
#TEMAS:
Dejanos tu comentario
Los comentarios realizados son de exclusiva responsabilidad de sus autores y las consecuencias derivadas de ellos pueden ser pasibles de las sanciones legales que correspondan. Evitar comentarios ofensivos o que no respondan al tema abordado en la información.