El texto habla sobre la competición de hackers que ha tenido lugar en agosto durante la conferencia anual Defcon 2023 en Las Vegas. Los participantes intentaron burlar las salvaguardas de varios programas de inteligencia artificial para identificar sus vulnerabilidades antes de que lo hagan los delincuentes. Los organizadores aprovecharon la creciente alarma por la capacidad de la inteligencia artificial generativa para producir mentiras perjudiciales, influir en las elecciones, arruinar reputaciones, etc. El texto destaca la participación de Google, Nvidia, OpenAI y Meta. Además, el texto menciona que la finalidad de los diseñadores no era simplemente engañar a los modelos de IA para que se comportaran mal, sino que buscaban fallos inesperados.
Una competencia de hackers revela fallas de la IA
– Defcon 2023 ha realizado una competición de hackers intentaron burlar las salvaguardas de varios programas de inteligencia artificial.
– El objetivo era identificar las vulnerabilidades de la inteligencia artificial.
– Los participantes buscaron fallos inesperados y desconocidos en los modelos de IA.
Atención – Este documento solo está accesible a miembros de la comunidad universitaria. Para poder acceder a él botón debe identificarse en el login que encuentra a continuación.
