por ComputerHoy
24 de junio de 2025
Emily Bender, experta en cómo los ordenadores modelan el lenguaje humano, no se corta ni un pelo y, para ella, la IA no es más que “una máquina de plagio” y los chatbots tipo ChatGPT son "loros estocásticos" que repiten frases sin entender nada.
Lo que más le llama la atención es que mientras todo esto es presentado como la panacea del siglo XXI, las grandes tecnológicas se llevan miles de millones prometiendo una revolución.
Bender viene a desmontar el mito: “La IA no va a descubrir nada nuevo, ni va a pensar por sí sola. Es solo automatización con mucho marketing”. Y lo cierto es que lo dice alguien que lleva décadas estudiando cómo los ordenadores procesan el lenguaje humano.
Su mensaje es claro y afirma que la humanidad está imaginando una mente detrás del texto, pero toda la comprensión está en nuestro lado, no en el de la máquina y los grandes modelos de lenguaje como los de OpenAI, Google o Meta no son más que sofisticados sistemas de copiar y pegar.
"Son programas que mezclan palabras según las probabilidades de que vayan juntas, pero sin ninguna referencia a significado", explica. Por eso, aunque puedan sonar muy reales y con toques humanos, en realidad no entienden nada de lo que dicen. "Si no está en los datos de entrenamiento, no va a estar en la respuesta. Así de simple".
Por otro lado, advierte que el boom de la IA está acelerando la precariedad laboral, la contaminación y la soledad social. Entrenar estos modelos cuesta miles de millones y consume cantidades brutales de energía y agua, mientras que miles de personas en países en desarrollo etiquetan datos por sueldos mínimos.
Solo porque conozcas algunos datos, Sam Altman, CEO de OpenAI, asegura que una consulta consume solo 0,34 Wh, lo que gasta una bombilla LED en un par de minutos. Sin embargo, la comunidad científica está harta de tantas mentiras y no se lo termina de creer: faltan datos, falta transparencia y, sobre todo, faltan explicaciones claras sobre cómo se calcula ese consumo.
Con esto como base, algunos expertos han comparado esta situación con el mundo del motor. "Si compras un coche, sabes cuántos litros a los cien consume", dice la experta Sasha Luccioni, de Hugging Face. "Pero con la IA vamos a ciegas".
"Es solo una hoja de cálculo con un envoltorio bonito", añade a todo esto Bender. "Cuanto más construimos sistemas en torno a esta tecnología, más empujamos a los trabajadores fuera de empleos estables y recortamos las oportunidades de entrada al mercado laboral", añade.
“Son programas que mezclan palabras según las probabilidades de que vayan juntas"
Todo para crear chatbots que, en muchos casos, solo sirven para quitar a humanos de sus puestos de trabajo y llenar Internet de textos que no son reales y, en muchas ocasiones, incluso falsos.
Además, afirma y deja bien claro que la IA no es neutra y que al final hereda y amplifica los sesgos de los datos con los que se entrena. Bender pone un ejemplo y aclara que hasta los manuales de empresa pueden estar llenos de prejuicios y errores, y si la IA aprende de ahí, los va a repetir y escalar. "La tecnología no solo replica los errores de la sociedad, los refuerza", explica.
Rizando el rizo, resolver todo esto es casi tarea titánica, ya que el discurso dominante está en manos de unas pocas empresas y directivos con mucho poder y dinero. "Nadie debería tener la capacidad de imponer su visión del mundo a los demás", dice.
"Lo que hacen las tecnológicas es aislarte y hacer que todas tus relaciones pasen por sus plataformas", sentencia.
Es por esto que el objetivo de esta experta no es el de convencer a los grandes jefes de Silicon Valley, sino abrir los ojos a la gente de a pie y a los políticos. "El emperador está desnudo, pero sorprende cuánta gente quiere ser el emperador desnudo", comenta. Para ella, la clave está en no dejarse llevar por el entusiasmo ciego y exigir más control, regulación y hablar alto y claro sobre el rumbo de la IA.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Software
