EDICIóN GENERAL
258 meneos
6014 clics
Engañan a un Tesla para que pase de 56 a 140 km/h automáticamente pegando un trozo de cinta a una señal

Engañan a un Tesla para que pase de 56 a 140 km/h automáticamente pegando un trozo de cinta a una señal

Un trozo de cinta de cinco centímetros pegado a una señal. Eso es todo lo que han necesitado unos investigadores de McAfee para conseguir engañar a la cámara de un Tesla Model X y Tesla Model S de 2016 y hacer que aceleren automáticamente. En pocas palabras, los investigadores han pegado un trozo de cinta a una señal de 35 mph, de forma que el "3" pareciera un "8", engañando así al sistema.

| etiquetas: autopilot , conducción autónoma , reconocimiento de señales
Comentarios destacados:                        
#2 #1 una persona sabe que la velocidad maxima es la que es en cada país por tipo de vía, si a mi me ponen una señal con una velocidad de 180 en españa se que es ilegal pasar de 120 ponga lo que ponga una puta señal, que además un humano detectaría posiblemente la cinta. Igual que cuando veo una señal grafiteada.
Es un desastre que un coche no sepa cuál es la velocidad maxima de un país o estado, sabiendo además o pudiendo saber en qué vía está, estado, etc.
También podrían haber engañado a una persona de esta manera.
#1 una persona sabe que la velocidad maxima es la que es en cada país por tipo de vía, si a mi me ponen una señal con una velocidad de 180 en españa se que es ilegal pasar de 120 ponga lo que ponga una puta señal, que además un humano detectaría posiblemente la cinta. Igual que cuando veo una señal grafiteada.
Es un desastre que un coche no sepa cuál es la velocidad maxima de un país o estado, sabiendo además o pudiendo saber en qué vía está, estado, etc.
#2 Eso es verdad. El engaño puede ser disculpable, pero el coche debería tener reglas para cumplir ciertas normas siempre.
#2 #5 Google sabe la velocidad máxima y de hecho la velocidad del tráfico en tiempo real de todas las vías del mundo civilizado. Lo tiene en el Google Maps.

Me cuesta creer que Tesla no llegue a un acuerdo con Google en ese campo.

Pero si, es terrorífico que se pueda engañar con esa facilidad a los sensores.
#48 cuidado! Google tardo tiempo en actualizar las velocidades cuando España paso a 110 de un día para otro, y otro tiempo igual al devolverlo, eso no es inmediato. Personalmente no creo que debamos culpar al coche, salvo un conocimiento de la velocidad máxima del país, acompasado por el conocimiento general de velocidad con el tipo de vía estaría bien, pero no me parece sorpréndete lo que ocurrió. No creo que debamos exigir al menos por el momento una capacidad y pericia comparable al humano, ni la de saber cada ida de pinza de lo que nuestros ayuntamientos ponen en sus calles.
#48 y cada cuanto lo actualizan? que prevalece lo que dice una BBDD que vete tu a saber desde cuando esta actualizado o una señal nueva, por ejemplo por obras en la calzada?
#69 #71 es velocidad máxima caballeros, solo con tener ambos datos (Maps y sensores leyendo señales) y usar el más bajo de ellos nos aseguramos de que el coche no se vuelve una nave espacial.

La redundancia genera seguridad.
#77 y dos dias despues tienes una noticia que dice:

"Engañan a un Tesla para que pase de 120 a 12 km/h automáticamente pegando un trozo de cinta a una señal"
#80 mucho más seguro que lo otro. Además los mismos sensores aceleraría si alguien se le va a estampar por detrás.
#80
BUeno si sabe que la velocidad mínima es la mitad de la máxima para la vía...
#77 Si a mi no me tienes que convencer. Diselo a Elon xD
#89 Elon es un drogadicto gracioso, pero como todos los drogadictos, nada fiable.
#100 Que radical, pa una vez que se fuma un porro el hombre xD
#48 Tesla no usa mapas para el autopilot, usa exclusivamente los sensores del coche. Lo bueno es que no se va a liar si en el mapa pone 120 pero la carretera está en obras con señales de 80. Lo malo es que se lía con absolutamente todo lo demás.
#71
hay una escalera de preferencia en las señales. LO de por defecto de la vía, las del suelo, las verticales, las verticales especiales en obras con fondo amarillo, los agentes ,,, etc... Contra. Que si se le enseña esas cosas a las personas para que no se confundan que vayan ampliando el software con todo lo que se ha de aprender un conductor para sacarse el carnet de conducir...
#2

Habida cuenta de que hay gente que se ido al río por seguir al GPS o cosas similares ... yo no pondría la mano en el fuego por algunas personas (por ejemplo, el otro día, en una glorieta de esas que corta una carretera me encontré con uno que venía de frente ... por el lado de ir. Por suerte, estábamos esperando en el semáforo y se dio cuenta y se salió en cuanto pudo)
#8 Por no hablar de los cafres que se llevan señales llamativas a su casa, con el consiguiente riesgo que eso supone... :troll:  media
#12 Lo que hubiera yo pagado por ese cartel cuando tenía el local de ensayo punkarra :-D
#16 Auguro que en términos absolutos bastante poco dinero xD
#37 Los bricks de El Conquistador con cola se llevaban todo el presupuesto xD
#8 "Me encontré con uno que venía de frente ... por el lado de ir." Qué barbaridad, mira que ir por el lado de ir.
{0x1f602}
#2 En EEUU la velocidad máxima que puede tener una vía son 90mph. Esa señal de 85 podría pasar por buena. Para que la analogía fuera más exacta tendríamos que hablar de poner una señal falsa de 100 o 110km/h en una zona de 50km/h, Podría adivinarse por el contexto, pero no siempre.
#10 Ok, no obstante pone claramente que a un humano no podrías engañarlo igualmente, primero porque solo alargaron un poco el rabo del medio del tres, no es que lo cerraran de arriba a abajo para parecer un ocho.
Solo en Texas la velocidad maxima es 85 en autovía, no en el resto de estados. Lo de 90 no se de donde lo sacas.
No obstante, si no está en Texas y no está en autovía el coche debería ignorar esa señal.
#13 si, tienes razón, es 85. No se por qué tenía en la cabeza que eran 90.
#25 yo recuerdo 90 en Florida pero igual ha cambiado
#25 De hecho 85 es solo en alguna autovía, ni siquiera en todas las de Texas.
#21 menos extraño son carreteras que engañan y de repente aparece una curva que hay que coger a mucho menos o incluso una rotonda. En Pamplona hay una via que parece que se puede ir mas rapido y aparece la rotonda de repente. No debo ser el unico, porque esta llena de lucecitas de peligro para que no se la salten.

Hay un monton de ilusiones visuales que hackean el cerebro humano. Hay una gallega que hace un concurso de ilusiones visuales en USA.
Tambien son medio famosas las cuestas que…   » ver todo el comentario
#13 Al humano lo pueden engañar igual, las señales se miran por muy poco tiempo.
#56 No, a un humano no lo puedes engañar igual, como tampoco lo puedes engañar en una prueba de alcance poniendo una puta tela con la foto de un coche, o un cartón con un muñeco encima haciendo de ciclista y una cuerda tirando de ella.
#10 En el polígono donde yo trabajo han puesto una carretera a 30km/h.
Antes, circulando a 50 kilómetros por hora me adelantan todos. Es una vía ancha, no tiene acera, no tiene entradas o salidas de fábricas, a la derecha hay un pequeño montículo y al otro lado el carril contrario a la circulación. Si ese 30 se 'hackea' a 80 la vía continua siendo lógico porque podría interpretarse que está fuera de la ciudad.
Pero bueno, en el caso del Tesla, que yo sepa, no puede circular de manera autónoma, siempre tiene que ir una persona supervisando (por no llamarlo conducir)
#2 La Inteligencia Artificial es esto. Una puta mierda.
#15 Pffff y que lo digas macho! Que dejen ya de investigar y desarrollar joder! y que pongan esa pasta en otras cosas más importantes, ostia ya! Como el puticlub de mi pueblo, que tiene los colchones mohosos!

España, 2020.
#19 Claro, claro : o es IA o puticlús...

Falso dilema diría yo.
#28 Parece ser que el concepto de "reducción al absurdo" no lo aprendiste bien. No pasa nada, a todos nos ha pasado alguna vez, no hay de qué avergonzarse.
#29 Me da que tu tampoco. Hay un montón de falsos argumentos, como para saberlos todos...
#28 Yo no veo ningún dilema ahí. Puticluses del tirón.
#19 Putas para todos, y de nivel como los sindicatos el PSOE,y el PP.
#15 No te falta razón, hay mucho más de humo que de realidad.
#30 Pero qué atrevida es la ignorancia... :palm:
#35 No, no creo que sea ignorancia. Se de lo que hablo y es más que habitual la imagen de medio equipo llevándose las manos a la cabeza cuando nos enteramos de lo que van vendiendo por ahí los comerciales.
Desgraciadamente ese humo que venden los comerciales es la idea (más cercano a lo que se ve en películas que a la realidad) que suele llegar al público general.
#45 #42 No... me reafirmo. Los que trabajamos en el sector estamos maravillados con lo que a avanzado la ciencia en computación de IA, y lo que está por venir va a revolucionar al mundo de formas que aún está por imaginar.

es.wikipedia.org/wiki/DeepMind

Ale, ya podéis seguir disfrutando de vuestro cubata :shit:

Efecto Dunning-Kruger en su máximo explendor :palm:
#60 Tiene huevos que con lo que has escrito te permitas insultar a la gente. O eres accionista de Tesla o mas crédulo que un fan de apple.

¿Qué cojones tendrá que ver el avance general de la tecnología para negar que el departamento de marketing de tesla nos vende más humo que fuego?

El cubata si me lo bebo no será a tu salud, desde luego no la mental.

Por la sombra.
#60 Vamos a ver, Freddy Krueger, te lo desmigo que prefiero no pensar que tu comprensión lectora es limitada.
No estoy diciendo que no exista un avance significativo en dichas tecnologías, sino que entre su estado de avance real y lo que venden los comerciales hay un mundo. Y lo que al final le llega al público general es lo que les venden.
No critico la tecnología en si misma, sino la idea que el marketing vende de ella (aún sabiendo de sobra su estado real). Creo que se entiende fácilmente.…   » ver todo el comentario
#35 Ignorante o no ha dado en el clavo.
#15 El problema es llamarle inteligencia artificial a esto. Es las expectativas que crea.  media
#108 Tu nivel de cuñado es over 3000.

1 - Estás respondiendo a un hilio que hace respuesta al comentario #15, que habla de IA, no de Tesla.
2 - Pero si quieres, hablemos de Tesla. "el departamento de marketing de Tesla nos vende más humo que fuego" puedes poner algún ejemplo, contrastado, de lo que dices? Un ejemplo en el que Tesla haya dicho "este [producto] puede hacer [cosa], y que luego no haya sido verdad?
3 - Has tenido la oportunidad de conducir un Tesla para poder tener una opinión real sobre lo que criticas con tanta seguridad?

Esto va a ser divertido :popcorn:
#2 Y por GPS debería saber la velocidad en ese punto de la vía.
#2 Y sin embargo el sistema Tesla tiene muchísimos más reflejos que el ser humano para evitar e incluso predecir accidentes. El autopilot aún es un bebé y sin embargo a avanzado a pasos de gigante, pero es gracioso como cada vez que se detecta una posible vulnerabilidad los catetos de turno recorren las callen con antorchas al grito de "¡vaya mierda!" "¡a un humano no le habría pasado!" "¡es un peligro!" "¡las nuevas tecnologías me dan miedo nunca podrán alcanzar lo que hacemos los humanos!"

www.youtube.com/watch?v=RCahWWOSxaw
#23 Los catetos de turno también son útiles para tener los pies en el suelo y contrarestar los que quieren adoptar cualquier cambio sin pensar los peligros / desventajas.
#64 claro, porque eso es lo que de toda la vida ha hecho la ciencia: adoptar cualquier cambio sin pensar los peligros / desventajas.

Con este “mercado”, normal que estemos como 50 años por detrás de Europa :palm:
#78 Yo no he dicho que la proporción catetos / lanzados deba ser un 50-50 xD sólo que tienen su utilidad
#2 Pues es más grave todavía: el coche no tiene por qué saberlo, pero su inteligencia artificial, sí. Cualquier navegador de tres al cuarto de google, se sabe las velocidades de todas las carreteras, las condiciones del tráfico, las incidencias en el trazado, y obviamente, es más que probable que conozca las señales del camino.

Obviamente, Tesla no tiene por qué desplegar toda la infraestructura que a Google le ha costado una fortuna. Pero sí que podría alquilarle el servicio para sus clientes.
#33 ¿Sensacionalista? Un humano leería sin problemas el 35 en esa señal, así que ahí tienen un problema que corregir. Lo otro se llama redondeo, y teniendo en cuenta que hablamos de doblar el límite de velocidad es perfectamente aceptable.
#88 Si tu lo dices....:roll:
#33 goto #91 y oh, por 4km de diferencia menos de un 3% no llega a 140, que sensacionalista.
#33 Es mucho más sensacionalista decir que han convertido un tres en un ocho tras ver la foto.
#2 Es imposible entrenar a una IA, por mucho que se quiera, para que sea eficaz en el 100% de los casos. Esto es un desastre, en efecto.
#55 Igual que a los humanos, por eso tenemos miles de muertos en carretera todos los años. Ahora hay que ver cómo muere más gente, si con humanos o IAs conduciendo.
#62 Te equivocas de disyuntiva. Aunque no fue por dónde fui en la carrera, algo de redes neuronales e IA sí que di, poca cosa pero algo sí, lo justo para que me picase el gusanillo aunque después no fuese a más. Te puedo asegurar que el reconocimiento de imágenes no es una tarea fácil. Y no es lo mismo hacer un reconocimiento de imágenes de un TAC para detectar un tumor, que siendo algo muy serio, no importa si tarda unos minutos más o menos, a reconocer bien una señal de tráfico, que tiene que…   » ver todo el comentario
#73 Yo sí que fuí más lejos, casi 10 años trabajando en I+D con temas relacionados con IA en general y visión por computador en particular.

Para saber qué es "mejor" hay que establecer una métrica. El número de muertos en carretera me parece una buena métrica si hablamos de conducción.

el 100% de las veces, en milésimas de segundo Eso tampoco lo consiguen los humanos.
#74 Tú sí ¿qué?
#73 Perdona la pregunta por, quizás, indiscreta: ¿en qué año dices que diste algo de redes neuronales e IA?
#62 Joder qué falacia, los humanos se matan porque producen temeridades, porque se quedan dormidos..., no porque confundan señales de velocidad. Un dos tres, responda otra vez.
#98 ¿Y quién te dice que te vas a matar con IA al volante si supera los límites que establece una señal? ¿Son los límites que se establecen para humanos los mísmos que tendrían sentido para una IA? Mientras los tiempos de reacción de un humano pasan de los 100ms los de un coche autónomo están por debajo de 1ms.

El objetivo es reducir el número de accidentes y el número de muertos y lesionados en accidentes de tráfico, y los Tesla, que símplemetne tienen un asistente a la conducción basado en…   » ver todo el comentario
#2 nada que no se pueda resolver con un algoritmo.

Si al ver una señal 180 dudas, es porque tienes almacenada información pre existente contradictoria.
Entoces te paras y buscas otras referencias (lo que hacen otros coches, te paras en una gasolinera y preguntas, etc).
#2 pongamos que en una carretera limitada a 100 pasas por un tramo que esta limitado a 50 y un gracioso te cambia la señal y lo pone a 100? o modifica el 50 y pone 80 ¿sabrias identificar el engaño? Pues no.
#72 mira las fotos, ningun ser humano confundiria esos 3 con un 8.
#94 Déjalos... si no se habrán leído la noticia, es Tesla, ¿como osas criticarla?
#2 lo han hecho en un área de pruebas no urbana, no tenemos ni idea de lo que habría hecho el coche en ciudad o carretera así que el experimento demuestra poca cosa, que la cámara no ve la cinta, ya está
#2 El dia menos pensado estos concienzudos investigadores me hackean a mi, dibujan una linea blanca en un puerto de montanya que me envie a un acantilado y de noche o con niebla me despanyan los cabrones.

Nadie esta a salvo de los estupidos.
#2 bueno cuando estuve en Irlanda algún problema tuve con las señales al cambiar de "sur a norte" ;)
#2 ¡Un desastre apocalíptico! ¡Imperdonable! Ah, no, que la persona que está detrás del volante es plenamente responsable de la conducción del vehículo, y el AutoPilot (por ahora) es una ayuda a la conducción, no un sustituto.
#1 sería más difícil porque una persona tiene luces para saber qué ahí no tiene lógica ir a 85mph. Por ejemplo porque no sea autovía.

Y digo difícil pero no imposible porque hay mucho cenutrio suelto.
#3 www.elmundo.es/madrid/2019/12/10/5deff46521efa01b7b8b4580.html

por supuesto que las personas tienen luces si.

cc #4
#3 El Tesla tiene un nivel 2 de conducción autónoma. Es decir, que requiere au humano sujetando el volante y atento por si pasan estas cosas.

Cuando el coche tenga un nivel 4 o 5 entonces sí será un problema.
#1 Quizá, pero algo me dice que el humano habría considerado además el contexto (carretera, entorno, etc). Los sistemas inteligentes han dado un gran avance sin duda pero todavía les queda camino por recorrer, la interpretación del contexto es una de ellas y también una de las más difíciles.

Aun y con todo el tema va por el buen camino. Hace 15 años le dices a alguien que un coche casi conduce solo y no te habría creido.
#4 Las personas tampoco somos perfectas.

La cuestión es saber quién comete más errores, los coches guiados por IA o los guiados por personas.

Noticia de ahora: www.diariodemallorca.es/sucesos/2020/02/19/coche-fuera-control-atropel
#1 la persona es más inteligente valorando si las instrucciones no tienen sentido, por el tipo de vía, por las normas de tráfico y por eso que no tienen las máquinas: sentido común
#6 Las personas interpretamos información en base a las reglas que conocemos, no tenemos nada de especial. Al software le puede faltar tener en cuenta algunas de las variables que las personas manejamos. Pero cuando lo haga nos dejará en la cuneta por velocidad y capacidad de procesamiento.
#1 Primero que sigue poniendo 35 y un humano no leería ahí 85, y segundo que el humano sabe interpretar el entorno y darse cuenta de que esa vía no es para ir a 140km/h.
#1 Hay engaños y efectos ópticos con los que puedes engañar a una persona y no a una inteligencia artificial.
Me acuerdo de esa carretera en la que los árboles estaban colocados de tal forma que, al pasar entre ellos la luz, producían ataques a los epilépticos. Eso nunca le pasaría a una inteligencia artificial.
Además detectando estos fallos se pueden arreglar a la vez en todos los coches, cosa que no se puede hacer con todos los humanos.
#1 bueno si va muy pasado quizás... Pero dudo que alguien sobrio se trague una señal de 140 km por hora en una carretera donde se puede ir a 60....
#1 no de una forma tan burda una persona no confunde un 3 alargado con un 8 ni un trozo de cinta de otro color con un 8.
Yo dudaría si esa señal es legítima, la máquina actúa sin interpretar. ¿Es la duda lo que nos hace humanos?
#9 déjame que lo dude :shit:
#9 en cierto sentido yo diría que si. La duda es una señal que nuestro cerebro utiliza parámetros y reglas de decisión mucho más complejos (e interconectados) que los de una AI de hoy.
El navegador de Google tiene una función que te avisa si superas el límite de velocidad de la vía. Y ese límite está definido por los mapas, no por las señales de tráfico. Eso sí, no tiene en cuenta las señales de velocidad temporales como las de obras, por ejemplo.
Y si le llegan a poner un cero a la derecha viaja al pasado.
#7 viaja al pasado regresa al futuro
#7: Si pusieran un par de trozos más podrían trucar el 5 dejando un 8 para hacer los 88 MPH de #BTTF. :-D
En realidad es facil engañar a los sistemas, lo cual no es demasiado relevante.
Lo verdaderamente relevante es que a causa de los falsos positivos (cosas que suceden continuamente delante de cámaras y sensores, y que con realmente difíciles de interpretar, como viento, lluvia, peatones), la IA siempre actuará del modo mas conservador, con lo que los bloqueos, frenazos y paradas serán continuos.

Por eso esto está muy, muy lejos.
#27 toma en paper original de mcafee.
www.mcafee.com/blogs/other-blogs/mcafee-labs/model-hacking-adas-to-pav
en ningun lugar convierten el 3 en un 8.
Buah, esto con un Tesla de 2016. Ya han dicho que en los de 2020 no sucede, así que los Tesla son como los iPhone, hay que cambiarlos cada uno o dos años. Tener un Tesla de 2016 es de pobres.
#51 O bien aceptar que el coche aún no puede conducir sin vigilancia humana constante.
Me ha parecido curioso esta parte del ultimo párrafo: MobilEye afirma que "... para garantizar la fiabilidad de la información recibida de los sensores de la cámara y ofrecer despidos y seguridad".
Ofrecer despidos.... esta claro que se lo quieren vender a los empresarios para automatizar aun mas la empresa :troll:
#41 Estoy seguro de que en el artículo original usaban la palabra "redundancy" y han usado el google traductor :roll: :roll:
Para que los coches autónomos tenga realmente fiabilidad, es posible que aún tengan que pasar 40 o 50 años. Se trata de manejar cientos de millones de variables en unas carreteras que no están adaptadas a la conducción autónoma.

Otra cosa es que las carreteras se adapten a este tipo de conducción y esto facilite el trabajo. Por ejemplo, si toda señal está geolocalizada, sea fija o temporal y subida en una base de datos mapeada a la que tenga acceso el vehículo en todo momento, se podría prescindir de leer las señales. Es decir, los humanos facilitaríamos el trabajo a la máquina adaptándonos a sus necesidades y no al revés. Siempre será más efectivo adaptarnos nosotros, y más seguro.
#24 yo creo que mil o dos mil años al menos...
#24 Si la disponibilidad de 5G URLLC es una precondicion para que existan autos autonomos, diez años por lo menos ya que esa red ni siquiera se comenzo a verificar en campo.
un tesla, un condensador de fluzo y unas pegatinas..... y a viajar al futu... a la cuneta .
... la semana próxima: Engañan a un Tesla para que se despeñe por un barranco pegando unos trozos de cinta blanca en la carretera
A ver. To tengo un Model 3 y cuando vas en Autopilot adapta la velocidad según las señales y el gps. Nunca me ha pasado lo de esta prueba, pero si no pasar de 70 kmh en una autovía recién inaugurada todavia no cartografiada. Y ahí hay señalea claras de 120, pero el coche en ese tramo no se pone a 120.
#67 claramente el tuyo al ser modelo español es mucho más pillo y difícil de engañar #83
alguien en la sala que nos pueda decir cuál es la pena en este país por manipular con fines delictivos una señal de tráfico, por favor
No sé las demás marcas, pero por ejemplo Mercedes Benz comprueba vía cartografía si la señal que está visualizando corresponde con la de su base de datos
¿Qué te había dicho, Marty? ¡140 kilometros por horaaaaaa! ;)
La pasta y el marketing mandan. Los ciudadanos deberíamos ser más críticos con la adopción temprana de nuevas tecnologías.
que buena excusa para correr más y recurrir multas
Yo siempre intento engañar a mi tostadora pero nunca lo he conseguido.
Muy mal utilizado el verbo ese de "engañar", engañamos a las máquinas y lo siguiente será herir sus sentimientos.
- Yo no hackee el cajero ni aproveché una vulnerabilidad señor juez, lo engañe y el soltó el dinero voluntariamente.
Fallo de la máquina por no preveer que un humano falsificaría la señal.
Si metemos a un ser humano en una ecuación el resultado tiende a ser impredecible.
Desde luego si queremos que los coches conduzcan solos una de las medidas que habría que buscar es que no hubiese humanos conduciendo junto a ellas.
#52 mira las fotos, en ningun lugar un humano confundiria esos 3 con un 8.
#93 Estoy de acuerdo. También te digo que me gustaría ver cuantos humanos han visto el 35 claramente y aun así no lo han cumplido por decisión propia.
«12
comentarios cerrados

menéame