Connect with us

Tecnología

Por qué la Inteligencia Artificial ‘piensa’ en inglés y qué consecuencias puede tener para la diversidad

Una investigación reveló cómo los modelos de lenguaje procesan los idiomas diferentes del inglés, y desató un debate sobre el anglocentrismo y su impacto social y cultural

Published

on

La inteligencia artificial (IA) se entrelaza cada vez más con nuestras vidas cotidianas, lo cual plantea una cuestión que despierta tanto curiosidad como preocupación: ¿por qué los modelos de lenguaje de gran tamaño (LLM), el cerebro de los chatbots, piensan en inglés incluso cuando interactúan en otros idiomas? Si bien tanto los términos cerebro y piensan son sólo analogías, permiten analizar por qué lo que podría parecer una peculiaridad técnica sin mayores consecuencias es, en realidad, algo realmente complicado. Esta característica de los LLM tiene implicaciones profundas, no solo en la eficiencia de la comunicación global digital sino también en la diversidad cultural y lingüística de nuestra sociedad global.

Cuando se plantean preguntas en chino, francés, alemán o ruso a estos modelos de lenguaje, parece que procesan las consultas en inglés, lo cual podría generar problemas culturales dada la prevalencia de conceptos más comunes en las culturas de habla inglesa. Este fenómeno se puso de manifiesto con el lanzamiento de ChatGPT, que marcó un punto de inflexión en la popularización de los LLM (y, para los hablantes de castellano, inundó el mundo de gerundios mal empleados). Una investigación reciente realizada por Chris Wendler, Veniamin Veselovsky y sus colegas del Instituto Federal Suizo de Tecnología, de Lausana, mostró cómo procesan las consultas los modelos Llama 2 de Meta. Al difundirla, New Scientist ofreció una visión fascinante del funcionamiento interno de estos sistemas y sus posibles sesgos.

¿Cómo “piensan” los modelos en inglés?

Los modelos de lenguaje grande procesan idiomas no ingleses a través de un "subespacio inglés" (Imagen Ilustrativa Infobae)Los modelos de lenguaje grande procesan idiomas no ingleses a través de un «subespacio inglés» (Imagen Ilustrativa Infobae)

Los científicos alimentaron a los modelos Llama 2 con tres tipos de instrucciones en chino, francés, alemán y ruso: una solicitaba repetir la palabra dada; otra pedía traducir de uno de esos idiomas a otro; y la tercera solicitaba completar un espacio en blanco en una oración. Al rastrear cómo los modelos procesaban cada instrucción, descubrieron que casi siempre la ruta de procesamiento a través de las capas pasaba por lo que denominaron el subespacio inglés. Esto indica fuertemente que el inglés es utilizado como un puente para ayudar a entender los conceptos: para que los LLM comprendan y procesen conceptos en varios idiomas, primero traducen estos conceptos al inglés, procesan la información, y luego traducen las respuestas de vuelta al idioma de origen.

¿Por qué es importante esta “anglocentración”?

El dominio del inglés en los modelos de IA plantea preguntas cruciales sobre la diversidad y la equidad. Carissa Véliz, de la Universidad de Oxford, y Aliya Bhatia, del Centro para la Democracia & Tecnología en Washington DC, comentaron a New Scientist cómo el anglocentrismo podría reducir la diversidad y superponer una vista limitada del mundo sobre regiones lingüística y culturalmente distintas. Esto no solo afecta a la precisión con que se generan respuestas en otros idiomas pero podría también llevar a resultados irrelevantes o incluso peligrosos en situaciones críticas.

¿Qué dicen los especialistas?

Existen desafíos logísticos y financieros para crear un modelo de IA global y representativo (Imagen Ilustrativa Infobae)Existen desafíos logísticos y financieros para crear un modelo de IA global y representativo (Imagen Ilustrativa Infobae)

Aunque tales modelos pueden ofrecer un rendimiento fuerte en tareas en varios idiomas, gracias al inglés como lengua pivote, el riesgo de sesgo es significativo. Veselovsky, uno de los investigadores, subrayó a New Scientist que la prevalencia de datos de alta calidad en inglés para entrenar a estos modelos es mayor que en la mayoría de otros idiomas, lo cual puede favorecer inadvertidamente los valores culturales anglocéntricos.

¿Es factible implementar un modelo multilingüe equitativo?

La implementación de un modelo LLM verdaderamente multilingüe plantea desafíos no solamente técnicos, sino también éticos y económicos. Aunque los modelos como Llama 2 de Meta han demostrado capacidad para procesar y responder preguntas en varios idiomas, estos todavía dependen predominantemente del inglés como un “lenguaje puente”.

Diseñar e implementar un modelo que opere de manera nativa en múltiples idiomas sin recurrir al inglés como intermediario implica superar varios obstáculos. Primero, requiere la compilación de un corpus de entrenamiento diverso y representativo que abarque una amplia gama de idiomas y dialectos. Esto, a su vez, conlleva a la necesidad de recabar y procesar enormes cantidades de datos en idiomas menos dominantes en el entorno digital, lo que representa un desafío logístico y financiero considerable.

Los investigadores suizos destacaron la importancia de desarrollar modelos de IA multilingües (Imagen Ilustrativa Infobae)Los investigadores suizos destacaron la importancia de desarrollar modelos de IA multilingües (Imagen Ilustrativa Infobae)

Además, la dependencia del inglés en los LLM refleja patrones de poder y privilegio en el mundo real. Combatir esta tendencia significa enfrentar y cuestionar estos patrones, pero sobre todo hacer un esfuerzo para lograr una representación equitativa de todas las culturas y lenguas.

¿Hacia dónde nos dirigimos?

La detección de un sesgo anglocéntrico en los LLM abre un campo de investigación crucial para el futuro de la inteligencia artificial: cómo garantizar que los avances tecnológicos beneficien equitativamente a todas las culturas y lenguas. Es esencial que las futuras versiones de modelos de lenguaje grande se desarrollen con una cobertura lingüística más equitativa para reflejar y respetar la rica diversidad del panorama lingüístico y cultural humano, destacaron los investigadores suizos.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Tecnología

Paso a paso: la guía definitiva para proteger tus datos y ahorros en caso de que te roben el celular

El robo de un smartphone, además de la perdida material y el costo de reposición del equipo -que puede ir desde los 200.000 hasta más de un millón y medio de pesos- también puede ocasionar otros graves daños con peligrosas consecuencias.

Published

on

By

Los celulares son una parte tan importante de nuestras vidas que muchos ya los consideran una extensión de nosotros mismos. Con ellos nos comunicamos, nos informamos, nos entretenemos, pagamos cuentas, productos y servicios, accedemos al banco, administramos ahorros y hasta podemos comprar y vender acciones y criptomonedas.

Esta dependencia, multifuncionalidad y uso constante también los convierte en uno de los objetivos principales para delincuentes: los celulares son uno de los dispositivos más robados en Argentina.

El robo de un smartphone, además de la perdida material y el costo de reposición del equipo (que puede ir desde los 200.000 hasta más de un millón y medio de pesos), también puede ocasionar otros graves daños con peligrosas consecuencias: criminales podrían acceder a tus cuentas, perfiles, homebanking y vaciar tus ahorros, hacer fraudes y engañar a tus contactos, por ejemplo.

Guía definitiva con los pasos a seguir para proteger tu dinero en caso de que te roben un celular con Android. (Foto: AdobeStock)
Guía definitiva con los pasos a seguir para proteger tu dinero en caso de que te roben un celular con Android. (Foto: AdobeStock)

Por esos motivos, es importante es vital estar prevenido y conocer los pasos a seguir en caso de que te roben el celular. Aquí te compartimos una guía definitiva con lo que tener que hacer ahora mismo y en caso de un siniestro.

Paso a paso para proteger tus datos y ahorros en caso de que te roben tu celular Android

Antes que nada, hay una serie de acciones que tenés que realizar ahora mismo. Son pequeños pasos para que, en caso de que te roben o pierdas el celu, te ahorrará valioso tiempo y trámites, y será mucho más rápido proteger tus datos y dinero.

1. Abrí la app de Teléfono, la que se usa para hacer llamados de línea, y pulsá *#06#. Va a aparecer una ventana con datos y códigos de barra. Hacé una captura de pantalla y guardá esa imagen en la nube, por ejemplo, mandátela a un mail, subila a drive o, en última instancia, compartila por WhatsApp con algún contacto con el que tengas mucha confianza.

2. Activá el PIN de la SIM que usa tu smartphone. Para eso, deberás ir a los Ajustes Configuración del celular, y buscar las opciones de seguridad de la SIM para encontrar Bloquear tarjeta SIM y Cambiar PIN de la tarjeta SIM. Si nunca lo hiciste, la mayoría tiene 1234 por defecto. Si no es ese, y no podés cambiarlo, comunicate con tu proveedor del servicio para que te ayuden. Es muy importante que lo hagas, ya que evitará que usen ese chip en otro celu desbloqueado y accedan a tus cuentas, WhatsApp, etc.

3. En los ajustes del celular, activá las opciones de desbloqueo biométrico (huella o facial).

4. Activa el doble factor de autenticación en WhatsApp y en las redes sociales que utilices (Twitter/X, Facebook, TikTok, etc). Todas tienen esa y otras medidas de seguridad que encontraras en la configuración de tu perfil en cada una de las apps.

5. Si usás alguna billetera virtual, app de banco o plataforma de comercio electrónico, activá las opciones de acceso biométrico y métodos de verificación. Eso servirá en caso de que quieran realizar transferencias y les pedirán que presionen la huella registrada, reconocimiento facial, etc. También podés seleccionar personas de confianza para que puedan acceder a tu perfil en caso de que te roben el celu o lo pierdas.

6. Verificá las contraseñas que usás en las apps y perfiles. Modificá las que sean iguales o lleven usando por mucho tiempo.

7. En los Ajustes o configuración del celu, buscá Encontrar mi dispositivo y activá la función

8. Memorizá al menos un número de teléfono de una persona de confianza que tenga acceso a tus claves en la nube. Apenas que roben, podrás comunicarte y pedirle que realice los siguientes pasos de manera inmediata y ganar tiempo.

Ahora pasemos a las acciones que debés realizar cuando ya te robaron el celular:

1. Desde una computadora u otro dispositivo, con tu cuenta de Google buscá a Find my Device o Encontrar mi dispositivo. Verás un mapa y la ubicación del teléfono. Podrás activar un sonido para que el celular emita, bloquearlo o resetearlo a modo de fábrica para que no puedan ver tus datos, fotos y demás.

2. Llamá a tu compañía de celular y denunciar el IMEI así no lo pueden usar más. El IMEI (International Mobile Equipment Identity) es un código único de 15 dígitos que identifica a cada teléfono móvil a nivel mundial. Se encuentra en la captura que guardaste antes en el paso 1 de esta guía al tipear *#06#. Ellos también te van a guiar para realizar las denuncias correspondientes.

3. Avisá a la persona de confianza que seleccionaste en las plataformas de comercio electrónico o billeteras virtuales para que acceda a tu cuenta y la bloquee o proteja tus fondos. También podés hacerlo vos cuando tengas acceso a una computadora.

4. Ingresá a Meta para desloguearte de todas sus plataformas (WhatsApp, instagram, Facebook) en https://accountscenter.instagram.com/password_and_security/

5. Entrá a Google y cerrá en todos tus servicios: https://myaccount.google.com/device-activity

6. Cerrá las sesiones de tus redes sociales. Todas tienen opciones para bloquear los perfiles en todos los dispositivos en donde estén abiertas.

Continue Reading

TENDENCIAS

Copyright © 1998 FUNDACION GRUPOCLAN prensagrupoclan@gmail.com