Skip to main content

¿Son las simulaciones una solución para evitar accidentes de carros autónomos?

La noticia sobre la primera víctima fatal por un accidente en el cual está involucrado un carro autónomo de Uber, ha despertado una ola de desconfianza hacia este nuevo tipo de tecnología que las grandes empresas de tecnología están probando en varias ciudades de los Estados Unidos.

Como consecuencia, Uber canceló estas pruebas y otras empresas, como Toyota, que están haciendo sus propias pruebas han empezarlo a hacerlo también.

Recommended Videos

Una de las soluciones para evitar más accidentes es que estos autos aprendan en simuladores en lugar de hacerlo en las calles e involucrándose en accidentes como estos. Por eso, nos pusimos en contacto con Danny Atsmon de Cognata, una de las empresas que desarrolla simulaciones para carros autónomos.

Estas plataformas permiten que los autos aprendan en las computadoras antes de ir a la calle. Atsmon indica que los carros autónomos deben conducir 11,000 millones de millas de pruebas, lo cual tomará años y lo que además si quiere lograr con este tipo de simulaciones es que la tecnología logre conducir todas esas millas más rápidamente.

Para tener una perspectiva, según cifras de este empresa, hasta el 2016 todas las compañías que están haciendo estas pruebas han conducido un total de 700,000 millas. Así que falta mucho por delante.

La muerte de un peatón es algo serio, sobre todo cuando se trata de nuevas tecnologías que siguen en periodos de prueba. En estos casos, es fácil culpar a las empresas de tecnología por no tener sus algoritmos lo suficientemente inteligentes con el fin de evitar este tipo de accidentes.

Sin embargo, hay que tener en cuenta que el accidente fue provocado por la mujer, que atravesó la calle donde no debía hacerlo. El carro autónomo de Uber tiene en su algoritmo la regla de que los peatones deben atravesar la calle por el paso de peatones y no en la mitad de la calle.

Todos en algún momento hemos atravesado una calle en sitios donde no debemos hacerlo. De cierta forma, es evidente que si este tipo de máquinas van a interactuar silenciosamente con seres humanos, deben saber que somos irracionales y que cosas así pueden suceder. En teoría, el carro debería haber detectado a la mujer y debería haber frenado a tiempo.

Sin embargo, el video publicado ayer por la policía de Tempe, Arizona, lugar donde sucedió el accidente, deja más preguntas que respuestas. Aún cuando la mujer apareció en frente, no parece haber ningún indicio de que el auto haya intentado frenar. Ella ya había cruzado una gran porción de la calle y es extraño que ningún sensor del auto la haya detectado, más aún cuando iba con una bicicleta.

Imagen utilizada con permiso del titular de los derechos de autor

El problema que parece haber en este caso es que es un auto que, al igual que un niño, está aprendiendo de su entorno. El algoritmo está todavía encontrando nueva información y procesándola. Es prácticamente imposible que los ingenieros tengan absolutamente todos los posibles escenarios catastróficos pensados de antemano.

Por eso, es que Atsmon afirma que el Dynamic Module en su simulación “toma el comportamiento de los conductores y simulan lo que los peatones hacen. Cosas que no deben suceder, suceden. El problema es que hay cientos y cientos de escenarios que puede haber. No significa que no debes culpar al auto sino que este no debería estar involucrado en esta situación en primer lugar”.

Para lograrlo, Atsmon afirma que la única forma de crear escenarios es crear un modelo para cada ciudad. “Cada ciudad es distinta y cada cual tiene su propia conducta tras el volante. Conducir en Palo Alto no es lo mismo que conducir en Shanghai o Bangalore (India)”, afirma Atsmon.

Claramente no todo es perfecto y en este caso suponemos que funciona como una clase: la simulación funciona como una teoría que se pone en práctica en la calle y de cierta forma, al utilizar simulaciones estaríamos poniendo toda la fe en la precisión de estas simulaciones. ¿Cómo garantizar que sean precisas? A la larga, el diseño sigue dependiendo de ingenieros y cómo se construyen estas redes neuronales que aprenden por sí solas.

Juliana Jara
Ex escritor de Digital Trends en Español
Juliana Jara es politóloga egresada de la Universidad ICESI de Cali, Colombia y decidió poco después estudiar una…
¿Por qué World de Sam Altman se asoció con Tinder? ¿Harás un match con el iris de tus ojos?
World Iris

La compañía paralela de Sam Altman, World, tiene la ambiciosa misión desde 2023 de utilizar un orbe para escanear tu iris y crear tu propio World ID, que la compañía describe como un "pasaporte digital".

A cambio de registrarse, obtiene una criptomoneda World (WLD) gratis, a la que puede agregar más tarde o gastar cuando lo desee. Tu ID mundial también te permitirá iniciar sesión y autenticarte en aplicaciones web, móviles y descentralizadas, lo que demuestra de forma anónima que eres un ser humano único y no un bot o un sistema de IA. Esencialmente, el proyecto es un intento de construir una infraestructura financiera y social para abordar los desafíos que plantea el rápido avance de la IA.

Leer más
La IA llega a Visa y Mastercard: llegó el día en que pagarán por ti
Visa IA

Ha llegado el día en que el hombre ha perdido incluso la independencia de manejar sus finanzas, porque el sistema bancario se está colocando al día con la IA, y las compañías líderes en productos de pago, Visa y Mastercard anunciaron su llegada al mundo de la inteligencia artificial.

Visa acaba de presentar Intelligent Commerce, que permite a la IA comprar y pagar en nombre de los consumidores a través de asociaciones con Anthropic, OpenAI y otros, mientras que Mastercard está lanzando «Agent Pay» para integrar los pagos en las conversaciones de la IA.

Leer más
Los semáforos de Seattle están hackeados y te hablan como Elon Musk
Semáforos Elon Musk

Una situación inesperada podrías vivir si intentas cruzar las calles de Seattle y esperas la luz verde en un semáforo, ya que un hackeo masivo (aún sin autor que se haya atribuido el hecho), está colocándole voces de Elon Musk y otros magnates de Silicon Valley a las esquinas.

Las voces están generadas por IA y dejan mensajes crípticos para los transeúntes, como éste:

Leer más