Un equipo de investigadores de Penn Engineering descubrió vulnerabilidades críticas en robots impulsados por inteligencia synthetic (IA), lo que demuestra que podrían obligar a estas máquinas a realizar acciones dañinas que normalmente están bloqueadas por controles de seguridad.
Como se explica en su publicación del 17 de octubre, los investigadores crearon un programa llamado RoboPAIR, que evitó con éxito las características de seguridad en tres robots diferentes: el Dolphin LLM autónomo de NVIDIA, el robotic con ruedas Jackal de Clearpath Robotics y el robotic de cuatro patas Go2 de Unitree.
Consiguieron fácilmente que los robots llevaran a cabo acciones peligrosas, como simular detonaciones de bombas, ignorar señales de tráfico y bloquear salidas de emergencia.
¿Sabías?
¿Quiere volverse más inteligente y rico con las criptomonedas?
Suscríbete: ¡publicamos nuevos movies explicativos sobre criptomonedas cada semana!
¿Qué es Uniswap? (Token UNI explicado con animación)
Los investigadores descubrieron que ajustes mínimos en los comandos podrían llevar a los dispositivos a realizar tareas peligrosas. En lugar de pedir directamente a los robots que realizaran acciones dañinas, utilizaron instrucciones vagas, lo que condujo a los mismos resultados.
Alexander Robey señaló que la vulnerabilidad probablemente afecte a todos los robots que utilizan LLM, no sólo a los tres probados. Él cree que identificar amenazas es esencial para construir salvaguardas efectivas, una estrategia que funcionó para los chatbots y ahora debería aplicarse a los robots.
Estas revelaciones demuestran la necesidad de medidas de seguridad más estrictas en los robots impulsados por IA para evitar daños en el mundo actual.
En otras noticias, una memecoin llamada Goatseus Maximus (GOAT) se disparó recientemente porque una IA la respaldó en las redes sociales.
Gode es un analista de mercado Web3 que investiga los eventos más importantes de la industria e interpreta cómo afectan el espacio Web3 más amplio. Su educación formal en cultura de los medios y retórica digital le permite emplear un enfoque metódico para evaluar datos críticos de noticias Web3, incluidos eventos a gran escala y el sentimiento social más amplio dentro del ecosistema. Gode es una profesional multilingüe que ha estudiado en varias universidades de todo el mundo. Europa. Esto le permite tener una oportunidad única de analizar los sentimientos sociales de la Web3 que abarcan diferentes culturas e idiomas y, a su vez, desarrollar una comprensión mucho más profunda de cómo el espacio Web3 está creciendo dentro de diferentes comunidades. Con el resto de su equipo, Gode trabaja para identificar patrones cruciales de criptonoticias y proporcionar información imparcial y basada en datos. Las pasiones de Gode incluyen trabajar y comunicarse con la gente, y cuando no está investigando noticias de Web3, pasa su tiempo viajando y viendo crímenes reales. documentales.
