Blog

Aug 19, 2023

Biden

Tecnología Para la administración Biden, una pregunta se cierne sobre el mayor desarrollo tecnológico en años: ¿Qué tan grande es la amenaza a la seguridad? Mientras el Congreso lucha por precisar qué nuevas leyes aprobar sobre la IA,

Tecnología

Para la administración Biden, una pregunta se cierne sobre el mayor desarrollo tecnológico en años: ¿Qué tan grande es la amenaza a la seguridad?

Mientras el Congreso lucha por precisar qué nuevas leyes aprobar sobre la IA y las agencias federales flexionan sus autoridades existentes sobre una tecnología emergente, la Casa Blanca de Biden se ha convertido en el actor más activo en la política de IA. | Olivier Douliery/AFP/Getty Images

Por Mohar Chatterjee

10/08/2023 16:45 hora del Este

Actualizado: 11/08/2023 08:24 a.m.EDT

Enlace copiado

El viernes, en hoteles de Las Vegas, algunos de los sistemas de inteligencia artificial más poderosos del mundo serán atacados simultáneamente por un pequeño ejército de piratas informáticos que intentarán encontrar sus defectos ocultos.

La Casa Blanca no sólo está consciente del ataque público: lo está respaldando.

En mayo, la administración Biden apoyó un ataque de prueba deliberado y coordinado a sistemas de inteligencia artificial, llamado equipo rojo, que se desarrollará durante tres días en una convención anual de piratas informáticos este fin de semana. Varias empresas líderes en inteligencia artificial, incluidas OpenAI, Google y Meta, acordaron que algunos de sus sistemas de inteligencia artificial más recientes y más potentes fueran atacados para el ejercicio.

El ataque de piratas informáticos pone de relieve lo que se ha convertido en una de las principales preocupaciones de la Casa Blanca sobre los nuevos modelos de IA, potentes y de rápido crecimiento: qué tan seguros son realmente y si podrían representar una amenaza para los ciudadanos estadounidenses o para la seguridad nacional a nivel mundial. escenario.

"Nuestro planteamiento -y esto viene del presidente- es que para aprovechar las oportunidades de la IA, primero debemos gestionar también los riesgos", dijo Alan Mislove, un alto funcionario de la Oficina de Política Científica y Tecnológica de la Casa Blanca que ayudó a los organizadores del desafío de piratería a desarrollar los ejercicios del equipo rojo de este fin de semana. "Para cosas como los grandes modelos lingüísticos, esos riesgos son bastante amplios, en muchos casos pueden ser menos claros que en otros sistemas" y "cubren nuestra sociedad, nuestra economía y la seguridad nacional", dijo.

Mientras el Congreso lucha por precisar qué nuevas leyes aprobar sobre la IA y las agencias federales flexionan sus autoridades existentes sobre una tecnología emergente, la Casa Blanca de Biden se ha convertido en el actor más activo en la política de IA. Redactó un marco de Declaración de Derechos de IA, convocó a directores ejecutivos de tecnología y celebró una serie de conferencias de prensa sobre la amplia gama de amenazas y oportunidades que presenta la tecnología.

Aunque estas amenazas abarcan toda la sociedad, desde la pérdida de empleo hasta la discriminación y la desinformación, muchas de las medidas más tangibles de la Casa Blanca se han centrado en la cuestión de la seguridad. Su nuevo asesor especial para IA, Ben Buchanan, tiene experiencia en seguridad nacional más que en conocimientos técnicos. Cuando la Casa Blanca convocó a los líderes de AI para anunciar una serie de compromisos voluntarios el mes pasado, la “seguridad” encabezó la lista y la seguridad jugó un papel clave en el documento.

La alta prioridad de la seguridad refleja la ansiedad (entre los expertos, los reguladores y la propia industria) de que los nuevos y complejos sistemas de IA presenten una serie de nuevos problemas que no se comprenden del todo, desde su potencial de ser pirateados y mal dirigidos por un adversario, hasta la idea de que podrían exponer los datos de los usuarios a usos más oscuros, como la construcción de armas biológicas.

“Es posible lograr que estos modelos hagan cosas que sus diseñadores y proveedores no anticipan o no quieren que puedan hacer. Entonces sí, creo que hay consideraciones de seguridad reales”, dijo Arati Prabhakar, directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca.

La IA también puede ser una herramienta para mejorar la seguridad: esta semana el Pentágono anunció un desafío de dos años para que los desarrolladores utilicen la IA para reforzar la ciberseguridad estadounidense crítica.

Para el desafío del equipo rojo de este fin de semana, la Casa Blanca se asoció con AI Village en DEF CON, una convención anual donde los organizadores presentan juegos de guerra de piratería y los profesionales de la ciberseguridad revelan los últimos agujeros en las tecnologías ubicuas. Agencias gubernamentales como el Pentágono han recurrido a la comunidad de hackers para encontrar vulnerabilidades de ciberseguridad: en un desafío de piratería DEF CON el año pasado, un participante encontró una falla incapacitante en la microrred eléctrica del ejército después de suministrarle datos meteorológicos falsos.

Pero la versión de este año es inusual tanto por el nivel de aceptación del gobierno como por la participación de la industria. Las empresas de la industria tecnológica tradicionalmente se han mostrado reacias a exponer software propietario a la vista del público para realizar pruebas. Pero este año, a instancias de la Casa Blanca, las empresas de tecnología OpenAI, Anthropic, Google, Hugging Face, NVIDIA, Meta, Cohere y Stability han ofrecido sus grandes modelos de lenguaje para su escrutinio.

Proporcionarán versiones cerradas de sus modelos para que puedan ser atacadas por una variedad de piratas informáticos, desde los asistentes experimentados habituales de la conferencia hasta estudiantes de colegios comunitarios que llegaron en avión específicamente para el desafío.

La idea de la participación de la Casa Blanca en el ejercicio DEF CON nació en una conferencia tecnológica anterior: South by Southwest (SXSW) en Austin, Texas, dijo Prabhakar de OSTP. Después de una reunión inicial en SXSW, los organizadores de AI Village se reunieron con funcionarios de la Casa Blanca para discutir la posibilidad de ampliar su ejercicio de equipo rojo en DEF CON para presentar los modelos de lenguaje grande más populares del mercado. "Pensamos que era una idea fantástica, una excelente manera de sembrar algo que realmente importara", dijo Prabhakar.

Las empresas estuvieron de acuerdo, aunque hay una advertencia: los resultados del ejercicio de formación de equipos rojos de DEF CON no se harán públicos hasta febrero, para que puedan solucionar los agujeros o problemas de seguridad antes de que sean explotados. Con la IA, el proceso es complicado. "No es tan simple como parchear una falla de software", dijo Chris Rohlf, investigador de seguridad de Meta.

Para la industria, lo que está en juego incluye ganarse la confianza del público para una tecnología emergente que ha provocado ansiedad y entusiasmo generalizados. "Demostrar que estos modelos están probados", dijo Rohlf de Meta, "generará confianza en la comunidad a largo plazo". Mientras tanto, Michael Sellitto, jefe de geopolítica y política de seguridad de Anthropic, tiene la esperanza de que el ejercicio provoque una competencia de seguridad en la propia industria tecnológica. "Una de las cosas que realmente queremos ver es una carrera de seguridad hacia la cima", dijo.

A pesar de la fanfarria, no es probable que el ejercicio en sí revele todas las formas en que los sistemas de IA pueden comportarse mal, especialmente porque cada participante tiene un tiempo muy limitado para piratear un modelo de lenguaje grande (del orden de 50 minutos por intento) y el tiempo es limitado. al equipo técnico disponible en el evento, dijo Sellitto de Anthropic.

Mislove, el alto funcionario de la Casa Blanca involucrado en el proceso de planificación del equipo rojo, dijo que la administración Biden ve este ejercicio DEF CON como un modelo para el futuro. En parte, su objetivo es encontrar la mejor manera de ejecutar más ejercicios de equipos rojos a gran escala en IA. El objetivo de la Casa Blanca con DEF CON es sentar un precedente: “Donde queremos llegar es a un futuro en el que muchos partidos adopten ampliamente el equipo rojo”, dijo Prabhakar.

CORRECCIÓN: Debido a un error de la fuente, esta historia originalmente indicaba erróneamente el tiempo que los participantes tendrán para intentar piratear un modelo de lenguaje grande. Obtendrán 50 minutos por intento.

Enlace copiado