La Casa Blanca anunció que apoyará un ejercicio de hackeo masivo para evaluar los chatbots de IA más famosos. La actividad se realizará en agosto de este año en Las Vegas, durante la conferencia de seguridad Defcon, el evento más importante en su tipo en todo el mundo. Google, Microsoft y OpenAI han confirmado que participarán.
"Este ejercicio independiente proporcionará información crítica a los investigadores y al público sobre los impactos de estos modelos", explicó el gobierno de EE.UU. en un comunicado. La idea, además, es que las compañías desarrolladoras puedan tomar medidas para solucionar los problemas que se encuentren en sus modelos.
El anuncio se produjo horas antes de una reunión entre el presidente Joe Biden y los altos representantes de Google, OpenAI y Microsoft. El evento era una posibilidad remota hace tan solo unas semanas, antes de que todas las grandes compañías de IA confirmaran repentinamente que participarían, dijeron a Forbes sus organizadores.
Hasta 4.000 piratas informáticos podrán meterle mano a la tecnología que ha revolucionado al mundo en los últimos meses. Este evento de hackeo masivo abrirá el código para programas de IA como ChatGPT de OpenAI, Bard de Google, Stable Diffusion y Hugging Face de Stability AI. La idea es detectar vulnerabilidades o eludir los mecanismos de seguridad de estas herramientas.
El hackeo masivo, una oportunidad para la IA
El ejercicio de hackeo masivo es algo que la industria de la IA "debe hacer por su propio bien", señaló Sven Cattell, uno de los líderes de la Defcon, a Forbes. Dijo que este ejercicio sobre IA generativa es el más grande realizado hasta ahora.
La actividad pretende ser una oportunidad para que los desarrolladores brinden transparencia, en medio de la incertidumbre que han generado los sistemas de IA generativa. Una incertidumbre impulsada, en muchos casos, por la opacidad con la que han actuado hasta ahora varias de estas compañías.
Cattell y el resto de los organizadores del hackeo masivo esperan que no solo expongan importantes problemas de seguridad y protección de estas IA. La apuesta es a que los piratas informáticos se involucren de tal manera que ayuden a definir el próximo gran salto tecnológico en estos desarrollos.
Una movida en un momento político clave
Además de su apoyo al evento de hackeo masivo de IA, la Casa Blanca también anunció que invertirá 140 millones de dólares en la creación de siete nuevos Institutos Nacionales de Investigación de la IA. Todos se centrarán en el desarrollo de una IA ética y transformadora para el bien público, explicó el gobierno.
La movida del gobierno demócrata de EE.UU. ocurre en la antesala de las próximas elecciones presidenciales, pautadas para noviembre del año que viene. Apenas Biden anunció que iba por la reelección la semana pasada, la IA fue noticia. El Partido Republicano reaccionó al anuncio con un video con imágenes falsas generadas por IA, donde mostraba un futuro distópico gobernado por Biden.
Pero no es solo la Casa Blanca. Gobiernos de todo el mundo se están apurando para comenzar a reglamentar los nuevos desarrollos. En el Parlamento de la Unión Europea, los legisladores están debatiendo los últimos cambios a una amplia ley de IA que restringirá y controlará algunos usos. El gobierno chino, por su parte, también anunció el abril la puesta en marcha de una nueva normativa sobre la materia.
