Skip to main content

¿Las apariencias engañan? Este espejo puede determinar si eres o no una persona confiable

Holding a mirror to artificial intelligence

El amplio uso del Face ID del iPhone X parece confirmar que a una gran cantidad de personas no les molesta la idea de que una máquina pueda identificarlas, en función de sus características faciales. Pero, ¿te molestaría si una computadora utiliza tus rasgos faciales para alimentar un sistema de inteligencia artificial (I.A.) que pueda emitir juicios sobre tu edad, tu género o tu raza? ¿O más aún, determinar si eres o no introvertido, agresivo, amable, responsable, o incluso si se puede confiar en ti?

Lo más probable es que algo así, sí sea motivo de preocupación, especialmente si la I.A. en cuestión utiliza esta información de una manera que pueda controlar las oportunidades u opciones que están disponibles para ti.

Imagina, por ejemplo, que la I.A. determine que eres una persona irresponsable, basándose en tu imagen o expresiones, y envíe esos datos a un potencial empleador. Preocupante, ¿no te parece?  Por eso, un nuevo proyecto de investigación de la Universidad de Melbourne en Australia tiene como objetivo explorar este lado complicado -y algo inquietante- de la inteligencia artificial.

Tomando la forma de un espejo biométrico inteligente, el dispositivo creado por el equipo de investigadores australianos utiliza tecnología de reconocimiento facial para analizar las caras de los usuarios, y luego presenta una evaluación en forma de 14 características diferentes que ha «descubierto», basándose en lo que pudo ver.

«Inicialmente, el sistema es bastante secreto en cuanto a qué pueden esperar las personas», dijo a Digital Trends el Dr. Niels Wouters, uno de los investigadores que trabajó en el proyecto. «Nada más decimos, ‘oye, ¿quieres ver lo que las computadoras saben de ti?’, y esto es lo que atrae a las personas. Pero al dar su consentimiento para proceder y tomar su foto, gradualmente se muestra cuán personal puede ser la respuesta».

Wouters nos explicó que algunos elementos problemáticos están presentes desde el principio, aunque no todos los usuarios pueden darse cuenta inmediatamente. Por ejemplo, el sistema solo permite géneros binarios (masculino o femenino), y puede reconocer sólo cinco grupos étnicos genéricos, lo que significa que, según el científico, alguien de la India podría ser confundido con un indígena de algún país centro o sudamericano, o un aborigen australiano como alguien de la raza negra. Luego llega la evaluación posterior, como el nivel de responsabilidad o la estabilidad emocional de una persona, que probablemente provocará una reacción por parte de todos los que usan el dispositivo.

La idea es mostrar los peligros de los conjuntos de datos pre-establecidos con los que se engloba a determinada cantidad de personas sin tomar en cuenta su individualidad, además de mostrar la forma en que el comportamiento problemático o discriminatorio puede codificarse en los sistemas de aprendizaje automático. Esto es algo sobre lo que la Dra. Safiya Umoja Noble hizo un gran trabajo de discusión en su reciente libro Algorithms of Oppression.

«En la actualidad, la discusión en torno a este tipo de cuestiones de la inteligencia artificial está dirigida principalmente por expertos en ética, académicos y tecnólogos», continuó Wouters. «Pero con un número creciente de despliegues de I.A. en la sociedad, las personas deben estar más conscientes de lo que es, qué puede hacer, cómo puede salir mal, y si incluso debería ser el siguiente paso lógico en la evolución que queremos adoptar».

Con la inteligencia artificial cada vez más utilizada para emitir juicios sobre una gran variedad de temas, tanto superficiales como importantes, desde saber si algún tipo de ropa nos queda bien, hasta los usos de reconocimiento de imágenes utilizados por las autoridades, proyectos para determinar su eficacia, confiabilidad y ecuanimidad, como el realizado con este espejo biométrico, serán cada vez más relevantes.

Recomendaciones del editor

Milenka Peña
Ex escritor de Digital Trends en Español
Milenka Peña es periodista, escritora, productora y conductora de radio y televisión, nominada a los Premios Emmy por…
El intrincado plan secreto de Huawei en Estados Unidos
Espionaje

Huawei y otras empresas de telecomunicaciones chinas están sujetas a restricciones en Estados Unidos debido a preocupaciones de seguridad nacional. En 2019, Huawei fue incluida en una lista negra comercial, lo que impide a las empresas estadounidenses hacer negocios con ella sin una licencia especial. Esto ha afectado la capacidad de Huawei para vender sus productos en el mercado estadounidense y ha limitado su acceso a tecnologías clave como el sistema operativo Android de Google.

Sin embargo, eso al parecer no ha sido impedimento para que la compañía china esté haciendo de las suyas en suelo estadounidense.

Leer más
El curso gratis que ofrece OpenAI que te podría hacer ganar mucha plata
openai curso gratis inteligencia artificial

"ChatGPT Prompt Engineering for Developers"  es el nombre del curso que acaba de abrir OpenAI y viene a significar 'Prompt engineering / ingeniería de instrucciones de ChatGPT para desarrolladores'. Se trata de un plan de estudios gratis y lo ha hecho uniéndose a DeepLearning.AI, la compañía de Andrew Ng, también cofundador de la plataforma de cursos Coursera y antiguo máximo responsable de Google Brain y del departamento de IA de Baidu.

Este curso de 1,5 horas tiene como objetivo dotar a los desarrolladores de software con las habilidades necesarias para integrar los grandes modelos de lenguajes (LLMs, como GPT-3.5 y GPT-4) en la creación de aplicaciones.

Leer más
Día de las Madres: el gadget ideal para regalar a mamá
dia de la madre regalos gadgets ofertas kindle scribe

El mes de mayo es especial en varias partes del mundo, sobre todo porque se celebra el Día de las Madres, y si estás pensando en el gadget ideal para regalar a mamá, esta selección te gustará.

Va desde una alisadora de cabello hasta un teléfono inteligente de Motorola. Y tú, ¿cuál piensas que sería el regalo ideal para ella?
Dyson Airstrait

Leer más