/ sábado 9 de noviembre de 2024

Hablemos de Tecnología / Poder y peligro

“La cultura de la modernidad líquida ya no tiene un populacho que ilustrar y ennoblecer, sino clientes que seducir”: Zygmunt Bauman

¿Qué pasaría si dejáramos en manos de la IA nuestras decisiones? Si bien, muchos ya lo hacen, quizá no nos hemos detenido a pensar que en la dirección y al ritmo que vamos, probablemente en menos tiempo del imaginado sea una IA la que esté decidiendo dónde compramos todas cosas, o peor aún, qué compramos, lo necesitemos o no.

Apenas hace unos días, cuestionaban a Marcos Galperin, director ejecutivo de Mercado Libre, sobre la forma en la que Market-place asimilaba los avances de la Inteligencia Artificial, y contrario a lo que muchos pudiéramos pensar, su respuesta fue bastante cauta, admitiendo que Mercado Libre no ha hecho cambios radicales con estas tecnologías, ¿la razón? Quizá implícita en sus respuestas podría ser más sencilla de lo que parece: dejar las decisiones de compra a un algoritmo de IA podría resultar catastrófico para la competitividad, sobre todo en economías como la nuestra, donde en muchas ocasiones las decisiones de compra se resumen a un único factor: el precio.

Estimado lector, imagine este escenario: usted necesita un producto, tal vez un electrodoméstico o un par de zapatos, y decide acudir a la ayuda de un asistente virtual que le recomienda opciones en cuestión de segundos. Hasta aquí, todo parece una gran ventaja, ¿verdad? Sin embargo, si escarbamos un poco más en el fondo de esta tecnología, encontraremos que, en manos equivocadas o con objetivos ambiguos, la Inteligencia Artificial (IA) podría transformar nuestras decisiones de compra en un laberinto complejo y hasta manipulable.

El potencial de la IA en el comercio es vasto; es capaz de anticiparse a nuestras necesidades, sugerir productos a medida e incluso optimizar el precio que estamos dispuestos a pagar. Según un estudio de GEP, proveedor mundial de soluciones digitales para la cadena de suministro, la IA en compras ofrece ahorros de hasta 40%, además de mejorar la eficiencia y seguridad en los procesos. ¿Suena ideal, no? Sin embargo, la otra cara de esta tecnología nos invita a reflexionar si realmente somos nosotros quienes controlamos nuestras decisiones de consumo o si, en cambio, nos estamos convirtiendo en peones en un tablero controlado por algoritmos.

A medida que la IA aprende nuestros hábitos y patrones de consumo, puede construir un perfil cada vez más preciso de lo que compramos, cuánto gastamos, y, en ocasiones, hasta cómo nos sentimos al momento de comprar. Imaginemos que, de repente, su IA no solo encuentra el precio más bajo, sino que comienza a decidir qué productos necesita, basándose en sus búsquedas y patrones de compra anteriores. Suena futurista, pero este tipo de recomendaciones ya están sucediendo hoy en día.

¿Hasta qué punto estamos dispuestos a permitir que una máquina controle nuestra vida de consumo? A primera vista, podría parecer un beneficio, pero los riesgos son reales. ¿Qué pasa si una empresa logra “hackear” esos algoritmos para que, de manera sutil, siempre lo oriente hacia sus productos? Sería como caminar por un supermercado en donde cada estante está configurado para mostrarle solo ciertas marcas, sin que usted lo sepa -¿le suena familiar?-. Esto podría llevar a un mercado cada vez menos competitivo, donde los algoritmos nos empujan a consumir de forma dirigida y cada vez menos consciente.

Un estudio reciente realizado en la Universidad de Harvard menciona que 63% de los consumidores siente que la personalización en sus compras los beneficia, mientras que 24% declara sentir cierta incomodidad con el nivel de precisión que algunos algoritmos han alcanzado. Como puede notar, no todo es color de rosa. La línea entre la comodidad y la invasión de privacidad es delgada, y la IA parece estar desdibujando esa línea a un ritmo acelerado.

Además, debemos preguntarnos qué sucede con los datos personales que alimentan a estas IA. ¿A dónde va toda esa información sobre sus preferencias, ubicaciones, horarios de compra? Aunque algunas empresas prometen proteger su privacidad, no podemos ignorar que el riesgo de un mal manejo de estos datos es latente. El Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) en México ha señalado que las infracciones en el tratamiento de datos personales han aumentado 35% en los últimos tres años, en gran parte debido al auge de las tecnologías digitales. #ElINAImesirve

Amigo lector, aunque la inteligencia artificial promete facilitarnos la vida, la responsabilidad de sus efectos sigue recayendo en quienes la desarrollan y en quienes, como usted y como yo, la utilizamos día a día. Quizás sea hora de replantearnos hasta qué punto estamos dispuestos a delegar nuestras decisiones a una máquina. Un asistente de compras es útil, sí, pero también debemos mantener nuestra autonomía en el proceso de compra. Como consumidores, tenemos el poder y la responsabilidad de cuestionar y entender hasta dónde queremos permitir que la IA influya en nuestras decisiones, ya que, al final, el control que cedemos es el mismo que podría definir cómo y cuánto compramos. ¿Usted se sentiría cómodo si una IA manejara su cuenta de banco sin supervisión? Vamos a un futuro donde poco más va a importar que el Poder y el Peligro a la hora de comprar. Hasta la próxima.

Facebook:

www.facebook.com/soylalodelatorre

Twitter:

@lalodelatorreg

Email:

tecnologia@lalodelatorre.com

“La cultura de la modernidad líquida ya no tiene un populacho que ilustrar y ennoblecer, sino clientes que seducir”: Zygmunt Bauman

¿Qué pasaría si dejáramos en manos de la IA nuestras decisiones? Si bien, muchos ya lo hacen, quizá no nos hemos detenido a pensar que en la dirección y al ritmo que vamos, probablemente en menos tiempo del imaginado sea una IA la que esté decidiendo dónde compramos todas cosas, o peor aún, qué compramos, lo necesitemos o no.

Apenas hace unos días, cuestionaban a Marcos Galperin, director ejecutivo de Mercado Libre, sobre la forma en la que Market-place asimilaba los avances de la Inteligencia Artificial, y contrario a lo que muchos pudiéramos pensar, su respuesta fue bastante cauta, admitiendo que Mercado Libre no ha hecho cambios radicales con estas tecnologías, ¿la razón? Quizá implícita en sus respuestas podría ser más sencilla de lo que parece: dejar las decisiones de compra a un algoritmo de IA podría resultar catastrófico para la competitividad, sobre todo en economías como la nuestra, donde en muchas ocasiones las decisiones de compra se resumen a un único factor: el precio.

Estimado lector, imagine este escenario: usted necesita un producto, tal vez un electrodoméstico o un par de zapatos, y decide acudir a la ayuda de un asistente virtual que le recomienda opciones en cuestión de segundos. Hasta aquí, todo parece una gran ventaja, ¿verdad? Sin embargo, si escarbamos un poco más en el fondo de esta tecnología, encontraremos que, en manos equivocadas o con objetivos ambiguos, la Inteligencia Artificial (IA) podría transformar nuestras decisiones de compra en un laberinto complejo y hasta manipulable.

El potencial de la IA en el comercio es vasto; es capaz de anticiparse a nuestras necesidades, sugerir productos a medida e incluso optimizar el precio que estamos dispuestos a pagar. Según un estudio de GEP, proveedor mundial de soluciones digitales para la cadena de suministro, la IA en compras ofrece ahorros de hasta 40%, además de mejorar la eficiencia y seguridad en los procesos. ¿Suena ideal, no? Sin embargo, la otra cara de esta tecnología nos invita a reflexionar si realmente somos nosotros quienes controlamos nuestras decisiones de consumo o si, en cambio, nos estamos convirtiendo en peones en un tablero controlado por algoritmos.

A medida que la IA aprende nuestros hábitos y patrones de consumo, puede construir un perfil cada vez más preciso de lo que compramos, cuánto gastamos, y, en ocasiones, hasta cómo nos sentimos al momento de comprar. Imaginemos que, de repente, su IA no solo encuentra el precio más bajo, sino que comienza a decidir qué productos necesita, basándose en sus búsquedas y patrones de compra anteriores. Suena futurista, pero este tipo de recomendaciones ya están sucediendo hoy en día.

¿Hasta qué punto estamos dispuestos a permitir que una máquina controle nuestra vida de consumo? A primera vista, podría parecer un beneficio, pero los riesgos son reales. ¿Qué pasa si una empresa logra “hackear” esos algoritmos para que, de manera sutil, siempre lo oriente hacia sus productos? Sería como caminar por un supermercado en donde cada estante está configurado para mostrarle solo ciertas marcas, sin que usted lo sepa -¿le suena familiar?-. Esto podría llevar a un mercado cada vez menos competitivo, donde los algoritmos nos empujan a consumir de forma dirigida y cada vez menos consciente.

Un estudio reciente realizado en la Universidad de Harvard menciona que 63% de los consumidores siente que la personalización en sus compras los beneficia, mientras que 24% declara sentir cierta incomodidad con el nivel de precisión que algunos algoritmos han alcanzado. Como puede notar, no todo es color de rosa. La línea entre la comodidad y la invasión de privacidad es delgada, y la IA parece estar desdibujando esa línea a un ritmo acelerado.

Además, debemos preguntarnos qué sucede con los datos personales que alimentan a estas IA. ¿A dónde va toda esa información sobre sus preferencias, ubicaciones, horarios de compra? Aunque algunas empresas prometen proteger su privacidad, no podemos ignorar que el riesgo de un mal manejo de estos datos es latente. El Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) en México ha señalado que las infracciones en el tratamiento de datos personales han aumentado 35% en los últimos tres años, en gran parte debido al auge de las tecnologías digitales. #ElINAImesirve

Amigo lector, aunque la inteligencia artificial promete facilitarnos la vida, la responsabilidad de sus efectos sigue recayendo en quienes la desarrollan y en quienes, como usted y como yo, la utilizamos día a día. Quizás sea hora de replantearnos hasta qué punto estamos dispuestos a delegar nuestras decisiones a una máquina. Un asistente de compras es útil, sí, pero también debemos mantener nuestra autonomía en el proceso de compra. Como consumidores, tenemos el poder y la responsabilidad de cuestionar y entender hasta dónde queremos permitir que la IA influya en nuestras decisiones, ya que, al final, el control que cedemos es el mismo que podría definir cómo y cuánto compramos. ¿Usted se sentiría cómodo si una IA manejara su cuenta de banco sin supervisión? Vamos a un futuro donde poco más va a importar que el Poder y el Peligro a la hora de comprar. Hasta la próxima.

Facebook:

www.facebook.com/soylalodelatorre

Twitter:

@lalodelatorreg

Email:

tecnologia@lalodelatorre.com