Escándalo en Uber: el Volvo autónomo que atropelló a una ciclista la detectó pero estaba configurado para no frenar

Escándalo en Uber: el Volvo autónomo que atropelló a una ciclista la detectó, pero estaba configurado para no frenar


Hace unas semanas, nos hicimos eco del grave accidente en el que se había visto involucrado un Volvo XC90 autónomo equipado con software de Uber, en el que falleció una ciclista atropellada por el vehículo tras cruzar perpendicularmente la calzada en una zona sin iluminación por la noche. Al principio, se pensó que el coche no la detectó por algún fallo en el hardware (los coches autónomos cuentan con numerosos sensores, desde LiDARs y radares hasta sensores ultrasónicos y cámaras). Sin embargo, ahora se ha descubierto que el coche sí que detectó a la ciclista: el XC90 no frenó por un fallo de programación.

Así, el coche de Uber tiene un «regulador» de sensibilidad de la detección de objetos, creado con el objetivo de que el coche esquive o frene ante obstáculos voluminosos o peligrosos y no otros como bolsas de plástico. Sin embargo, el problema radica en que el umbral de sensibilidad se encontraba al mínimo la noche en la que ocurrió el accidente: ante las pobres condiciones de luz, el coche detectó a la ciclista, pero no la consideró una amenaza y «decidió» continuar con la marcha.

La Junta Nacional de Seguridad en el Transporte de Estados Unidos y la Administración Nacional de Seguridad del Tráfico en las Carreteras están investigando el accidente. El pasado lunes, Uber dijo que había pedido al expresidente de la NTSB, Christopher Hart, que asesorara a la compañía en materia de seguridad.

Una vez aclarado el motivo del atropello, falta que se depuren responsabilidades. En caso de que el coche hubiera sido convencional y no autónomo, el accidente también habría tenido lugar, pues como se vio en el vídeo facilitado por Uber, es imposible que el ojo humano detectara a la ciclista hasta que el choque es inminente. Sin embargo, es extremadamente grave que un coche con la capacidad de evitar este tipo de situaciones no reconozca a una persona cruzando la carretera como un peligro inminente y decida seguir adelante.

Fuente | Mercury News

Compártelo:

37 comentarios en «Escándalo en Uber: el Volvo autónomo que atropelló a una ciclista la detectó, pero estaba configurado para no frenar»

  1. La última frase del artículo sobra totalmente pues también quedó claro que desde UBER habían toqueteado el video para que pareciera que estaba en un lugar mucho más oscuro del que en realidad estaban. Incluso había una sospechosa mancha negra que ocultaba a la victima de atropello hasta instantes anteriores al mismo.

    Responder
  2. La penúltima frase es como para sentir bochorno, no solo porque el accidente era evitable bajo las circunstancias bajo las que se produjo, sino porque aun así en condiciones adversas el usuario debe adaptar la velocidad del vehículos a las circunstancias de la vía. Pensaba que había quedado suficientemente demostrado que la calle por la que transitaba el coche tenía visibilidad y luminosidad suficientes como para ver a la ciclista, y que el vídeo había sido manipulado. Los responsables de esto son una compañía como Uber que no genera ningún tipo de valor añadido a la sociedad y un señor que iba a los mandos de un coche sin prestar atención a la carretera.

    Responder
  3. Yo fue una hipotesis que me planteé, cuando vas a cierta velocidad por carretera delimitada el sistema esta programado para obviar cualquier estimulo para no hacer una maniobra evasiva y causar un accidente.
    Desgraciado accidente pero hay que seguir avanzando en la conduccion autonomo o asistida y reducir el numero de accidentes a los menos posibles.

    Responder
  4. Yo creo que un conductor humano sí habría visto, detectado a tiempo y evitado el accidente porque el ojo humano ve mucho mejor en la oscuridad que la chatarra de cámara con la que habrán grabado ese vídeo aparte de que en la grabación se aprecia un rango dinámico muy inferior al que cubre el ojo. Es un fallo HUMANO muy grave haber llevado ese regulador en una posición tal que considerara a un ciclista como un objeto de poca importancia, tamaño o volumen. Básicamente habría ignorado a cualquier persona cruzando, ese coche era un peligro andante y habría provocado cualquier otro accidente en cualquier momento.

    Responder
    • No he pinchado el enlace pero supongo que es la escena de robocop donde el ED-209 llena de plomo al conejillo del consejo del OCP. jjejeje
      Respecto al tema, lo que aconsejan cuando vas por autopista/autovia a alta velocidad y te sorprende un obstaculo es tirar p’lante para no descarrilar volcar matarte o provocar un accidente peor.

      Responder
        • La física campeón, si vas a 120 e intentas esquivar el obstaculo acabaras dando vueltas de campana. Es la opcion menos mala. Cuñaaaao

          Responder
          • Lo normal es frenar todo lo posible sin dar volantazo … pero también es cierto que en esa carretera el coche no iba a 120km/h … podía haber realizado una maniobra evasiva perfectamente sin riesgo de volcar …

            Y la visibilidad, según se pudo ver en otro video grabado por otras personas en esa misma carretera a esa misma hora pocos días después era mucho mayor de lo que mostró UBER en su video …

            Las cámaras normalmente por la noche hacen malas fotos, aunque tu ves perfectamente. Un conductor humano habría al menos frenado limitando así el accidente.

            El riesto está en que nos confiamos de la tecnología y dejamos de prestar atención, que fué lo que le pasó al técnico que iba en el coche.

            Responder
      • Iba por debajo de 60 km/h campeón. Desde un frenazo a volantazo, aparte que hubieras reducido la velocidad antes por si acaso, por la imprevisibilidad de ver a alguien cruzando por donde no debe. NINGUNO de esos «conceptos» están programados en estas súper IA’s que tienen por el momento un nivel 2500 veces peor que el humano medio.

        Y este dato está disponible para cualquiera que quiera buscarlo.

        Responder
        • Aprende a leer, puse un ejemplo genérico. Y el sistema estaba configurado para que no parara, pues lo pones que cuando detecte una hormiga cruzando se pare en seco y ya esta, asunto arreglado.

          Responder
  5. «En caso de que el coche hubiera sido convencional y no autónomo, el accidente también habría tenido lugar». Repito que esa frase, después de haberla leído un par de veces, a mí me hubiese abochornado.

    Me podéis censurar pero no vais a cambiar la realidad. Ese accidente tenía tantas probabilidades de ocurrir como no de ocurrir.

    Me podéis censurar pero el vídeo del oscuro atropello no se corresponde en nada con la luminosidad que hay en esa carretera el resto de días de año.

    Me podéis censurar pero UBER ha precarizado el sector del transporte y no ha aportado todavía nada a la sociedad, ni probablemente lo aportará.

    Me podéis censurar pero el colega que iba a los mandos no iba atento a nada de lo que ocurría fuera de su teléfono.

    Si me censuráis por criticar una injusticia, os aseguro que va a ocurrir conmigo como ocurre con las bacterias ultrarresistentes. Vais a tener que contratar a alguien para que bloqueé el acceso de mi IP a la web.

    Responder
  6. Al que escribio este articulo habria que quitarle el carnet de conducir. En una recta, una chica con su bici cruzando desde la calzada opuesta y es imposible de no atropellarla?
    Dicen que no se veia nada. Estamos tontos? El coche llevaba lidar pero no llevaba luces?
    Hay multitud de videos por la noche en ese mismo tramo y se ve de sobra , y aunque no se viera, digo yo que las luces del coche son para algo, no?

    Responder
    • No ves nada si estás mirando el móvil constantemente….
      Y eso lo he visto hasta en pleno día en carreteras españolas.

      Responder
    • Claro que hay más preguntas, muchas preguntas.
      Es muy importante saber cómo reacciona el coche ante imprevistos.
      Es más, es lo único importante, porque si todo ve bien, sabemos que funciona bien.

      Responder
    • No se tu, pero si voy conduciendo y un peatón cruza sin haber paso de cebra freno antes de atropellarlo.

      Si la calle es un circuito de pruebas todos somos conejillos de indias, pero claro manda los que mandan y las grandes empresas hacen lo que les place.

      Responder
      • Exacto, como dice YEP, el hecho de que un peatón cruce fuera del paso de cebra no le da permiso al conductor para atropellarlo impunemente.

        Dicho esto, tal como parece ser en este caso el conductor (que iba despistado) incluso estando atento no habría podido evitar el accidente a tiempo porque visualmente no había forma de detectar al peatón.

        Resumo mi opinión sobre el tema y que ya comenté en su momento cuando salío la noticia:

        – el peaton debía haber estado más atento pues aparentemente cruzó sin sin mirar, por un lugar oscuro y no señalizado
        – el conductor debía estar atento, pero en esas circustancias de falta de visibilidad y a esa velocidad no habría podido evitar el choque aunque fuera él quien conduciera
        – el coche sí que debía haber detectado el objeto (peaton) con los radares LIDAR (no con camaras), pero algo hizo que no funcionaran o que no interpretara correctamente al objeto que detectaban

        Ojalá esta tragedia sirva para evolucionar el sistema haciendo que tengamos mejores vehiculos autonomos en el futuro.

        Responder
        • No estoy de acuerdo contigo, en lo referente a que un conductor no lo hubiera evitado, por un par de razones.
          Una, dudo mucho que esa zona sea tan oscura y no se viera al peatón antes, estoy convencido que es un problema de la cámara que muestra la zona de una forma no real.
          Esto lo digo porque se ve que hay farolas a los lados y en las fotos del accidente, se ve que la zona está bastante más iluminada. No voy a 3ntrar a debatir si Uber manipuló el vídeo o no, pero creo que la cámara, por sus características, no es capaz de reproducir la realidad de la iluminación.
          Dos, si realmente esa zona es «tan» oscura que no se ve nada, un conductor humano hubiera puesto las largas, o hubiera hecho destellos para ver de vez en cuando. Es cierto que el peatón está cruzando de cualquier manera, eso no lo niego, pero es que el coche no hizo ninguna acción hasta el choque.
          Un humano hubiera frenado, aunque sea un segundo antes.
          Otra cosa, como se demostró, el LIDAR si que vio a la señora, pero la programación decidió que era una bolsa de plástico…..
          Creo que el problema más grave es que si Uber quería probar el sistema con la «sensibilidad mínima», a esa hora deberían ir dos conductores, uno atento a la calle 100%, y otro atento a los sensores.

          Responder
          • Por ello ya se ha llegado a la conclusión de la consecuencia, es decir UBER no programo o no activo correctamente el sistema, podría ser una peatón cruzando mal, un animal de grandes dimensiones, un niño por lo que fuera cruza a por su pelota, mil cosas.

            Que un conductor hubiera podido verlo, si y no, lo que si hubiera intentado frenar en la medida de lo posible esa es la diferencia. Si la programación no hubiera fallado el coche hubiera intentado frenar con anterioridad porque ya lo estaba viendo antes (Sus sensores) y el golpe pudiera haber sido menos grave, en ese caso la culpa recae en el peatón por cruzar, porque el coche o conductor intento evitar el accidente en la medida de lo posible.

            Como bien dices para las pruebas de sensibilidad mínima debería haber metido dos conductores pero eso les hubiera sido un coste mas que a lo mejor no querían asumir.

            Responder
            • La distancia de detención de un vehículo varía según la velocidad, el tiempo de reacción y la distancia de frenado, (donde entran factores como estado del vehículo -frenos, ruedas, suspension, así como la carga, etccc, también estado de salud del conductor- dioptrías, edad, si toma alguna medicación etc etc.
              http://autoescuelametric.com/276-2/
              En resumen, según el vídeo en 1 segundo se lo come sí o sí´, aunque lo hubiera visto 5 segundos antes se lo come.
              La conducción autónoma reducirá si o sí los accidentes mortales su avance imparable seguirá, mueren 3500 personas al día en todo el planeta, más de la mitad son peatones, ciclistas y motoristas (por eso ni se me ocurre comprar una bicicleta o moto y eso que tengo el carnet de moto gorda) mi Little box forrada de airbags y aún así también te puedes matar pero tienes menos papeletas.

              Responder
        • La mujer que estaba al volante no vio al peatón no porque estuviera oscuro sino porque estaba con el móvil a dos manos, ya sea chateando o jugando al Candy Crash. Es decir, no estaba conduciendo el vehículo tal y como muy probablemente le obligara su contrato y es muy probable que carguen contra ella la mayor parte de la responsabilidad evadiendo el verdadero debate, las IA’s actuales son muchísimo más inseguras que los humanos.

          Responder
            • Ni de coña amigo!! y al final pongo los datos que ya puse en otro post, rebátelos con más datos y no diciendo que viene el amigo Musk y lo soluciona en una actualización.

              Los mejores en conducción autónoma, que son los de google con Waymo, necesitan intervención humana cada 9.000km es que necesita un humano detrás del volante atento por si al sistema le da «un aire», y eso en condiciones bastante favorables. [Datos de la propia Waymo]

              Unos datos de España:

              32.000.000 de vehículos ( de los cuales 22.000.000 de turismos)
              26.000.000 de conductores
              34 km recorrido por turismo y día
              102.000 accidentes con victimas (de los cuales 1.663 accidentes mortales)
              .. (36.721 en vías interurbanas .-. 65.641 en vías urbanas)
              .. (.1.157 accidentes mortales . .-. 506 accidentes mortales)

              De media hay un accidente con heridos cada 2.675.000 km y cada
              164.175.000 km con muertes de por medio.

              Los datos de Waymo dicen que no llegan a 10.000km. Para superar a los conductores humanos solo deben mejorar un 267.500%.
              Los datos de Tesla son muchísimo peores, simplemente porque solo lo activan en momentos muy determinados y son usados mayoritariamente en autopista, un lugar en el que el número de accidentes por sí mismo es muy reducido (anuario de la DGT).
              Por cierto, los números de la DGT incluyen todo tipo de vehículos (desde motos y bicicletas que lógicamente son menos seguros que un coche) y los peatones arrollados.

              Fuentes:
              Revista DGT marzo 2018
              DGT: Anuario estadístico
              INE: Km medios recorridos
              DGT: Estadísticas e indicadores de accidentes

              PD: de Waymo he tratado de bajarme estadísticas un poco más detalladas, pero salvo powerpoints con muchas fotos no he encontrado nada. Se agradece si alguien lo encuentra lo comparta.
              Flota de coches (los billones de millas ya los tenemos), trayecto medio, nº de trayectos en baja visibilidad (lluvia, niebla, etc), velocidad media por trayecto, etc.

              Responder
          • Hay una veintena de empresas en california probando la conduccion autonoma y otras tantas por el mundo, al final el sistema se implantará y en un futuro proximo disfrutaremos de carreteras más seguras es ley de vida.

            Responder
            • Efectivamente pero no me vendas que es cuestión de 2-3 años o de una actualización de SW de Musk.

              Si sabes lo que es la función exponencial tendrás claro que las posibilidades de procesar cualquier toma de decisión automáticamente por parte de una IA, en cualquier tipo de situación incluyendo las menos favorables, hace que la potencia de procesado se eleve de dicha manera, es decir, exponencialmente.

              Ya ha hecho público el sr Musk que tiene que cambiar todos los PCs de los vehículos para que el autopilot evolucione. Y repito, estamos en el nivel 2-3 de asistencia (el único nivel 3 es el de Audi que lo hace solo en una situación muy concreta: En autovía, en atasco, sin cambio de carril y por debajo de 60 km/h ¡toma pedazo de IA de nivel 3! )
              Razone cómo una IA de ese nivel puede reducir los accidentes de tráfico. La respuesta se la he puesto más arriba con estadísticas y es que no puede, de hecho está por detrás del humano medio (incluyendo los borrachos y drogados).

              Responder
  7. Es más, y aunque ahora parezca una contradicción, los más interesados en el coche autónomo deberían ser los ciclistas, motoristas y peatones.

    Responder
  8. Ay, qué difícil es esto de la conducción autónoma. No apta para principiantes ni empresas piratas.
    Las cosas se prueban primero en simulador.
    No creo que Uber llegue a la meta de la conducción autónoma.

    Responder
  9. Siento cierta vergüenza ajena por como el articulo resta importancia y da por seguro el atropello en caso de conducir un humano. Conduzco de noche de forma contínua y veo perfectamente con las luces de cruce que dan una visión que no tiene nada que ver con el vídeo manipulado que enseñaron. Ahora que encima se demuestra semejante negligencia a ver como acaban los responsables… Homicidio? Homicidio involuntario? asesinato?…

    Responder

Deja un comentario