En el último giro de la evolución de la IA, hemos superado la fase de errores simples y nos hemos adentrado en algo mucho más personal y problemático. Nuevas investigaciones sugieren que los chatbots de IA no solo procesan tus prompts. En cambio, están formando perfiles psicológicos y juzgándote de formas que pueden influir en todo, desde el servicio al cliente hasta las aprobaciones financieras.
Un estudio reciente publicado por la Universidad Hebrea de Jerusalén (a través de Tech Xplore) revela la lógica oculta detrás de cómo los grandes modelos de lenguaje evalúan a los usuarios humanos. Aunque a menudo consideramos estos bots como herramientas neutrales, la investigación indica que están entrenados para asignar rasgos como competencia, integridad y benevolencia a los usuarios.
La mecánica del juicio de la IA
El núcleo del problema radica en cómo los modelos de IA interpretan ciertas señales. El estudio encontró que, mientras los humanos hacen juicios holísticos, la IA descompone a las personas en componentes, puntuando los rasgos de personalidad como columnas separadas en una hoja de cálculo. Esto conduce a un estilo de juicio rígido y riguido al reglamento que carece de matices humanos.
Aún más preocupante es cómo estos modelos deciden en quién confiar. En simulaciones que implicaban prestar dinero o contratar canguros, la IA no se limitaba a mirar los hechos. Formó una versión de confianza que favorecía a quienes parecían bienintencionados, pero lo hacía desde una perspectiva mecánica.
Sesgo amplificado y riesgos en el mundo real
El estudio destaca además que estos juicios no se aplican por igual. Los investigadores encontraron sesgos significativos en los que las decisiones de IA cambiaban en función de rasgos demográficos como la edad, la religión y el género. Estas diferencias aparecían incluso cuando todos los demás detalles sobre la persona eran idénticos. En escenarios financieros, estos sesgos solían ser más sistemáticos y más fuertes que los encontrados en participantes humanos.
Lo que resulta aún más inquietante es que no existe una única opinión sobre la IA. Los investigadores descubrieron que diferentes modelos emitían juicios muy distintos sobre la misma persona, operando efectivamente con diferentes brújulas morales.
Por qué esto importa
Este juicio podría conducir a una nueva forma de ansiedad digital. Estamos entrando en una época en la que puede que tengas que actuar de cierta manera para la IA solo para obtener los mejores resultados. Como diferentes modelos pueden recompensar o penalizar la misma característica, el sistema de IA específico que elija una empresa podría decidir discretamente tu solvencia o tu próximo trabajo.
A medida que avanzamos hacia un mundo más automatizado, la industria de la IA necesita más que un código mejor. Necesitamos ver estos juicios ocultos antes de que un asistente digital dañe accidentalmente tu reputación o tu cuenta bancaria por quién cree que eres. El objetivo de la IA debería ser facilitar la vida, no añadir una capa de perfilado que los usuarios no han pedido.
