Esta semana, la Casa Blanca anunció que había obtenido «compromisos voluntarios» de siete importantes empresas de inteligencia artificial para gestionar los riesgos que plantea la inteligencia artificial.
Lograr que las empresas (Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI) acepten cualquier cosa es un paso adelante. Incluyen rivales amargos con diferencias sutiles pero importantes en la forma en que abordan la investigación y el desarrollo de IA.
Meta, por ejemplo, está tan interesada en poner sus modelos de IA en manos de los desarrolladores que ha abierto una gran cantidad de ellos, poniendo su código a disposición de todos. Otros laboratorios, como Anthropic, han adoptado un enfoque más cauteloso y han lanzado su tecnología de forma más limitada.
Pero, ¿qué significan realmente estos compromisos? ¿Y es probable que cambien gran parte de la forma en que operan las empresas de IA, dado que no están respaldadas por la fuerza de la ley?
Dados los riesgos potenciales en la regulación de la IA, los detalles importan. Así que echemos un vistazo más de cerca a lo que se acuerda aquí y evalúemos el impacto potencial.
Compromiso 1: las empresas se comprometen a probar la seguridad interna y externa de sus sistemas de IA antes del lanzamiento.
Cada una de estas empresas de IA ya realiza pruebas de seguridad, a menudo denominadas «equipo rojo», de sus modelos antes del lanzamiento. En un nivel, no es realmente un nuevo compromiso. Y esa es una vaga promesa. No contiene muchos detalles sobre el tipo de prueba requerida o quién realizará la prueba.
Dentro una declaración que acompañe los compromisosla Casa Blanca solo dijo que las pruebas de los modelos de IA «serán realizadas en parte por expertos independientes» y se centrarán en los riesgos de la IA «como la bioseguridad y la ciberseguridad, así como sus efectos sociales más amplios».
Es una buena idea hacer que las empresas de IA se comprometan públicamente a continuar realizando este tipo de pruebas y fomentar una mayor transparencia en el proceso de prueba. Y hay ciertos tipos de riesgos relacionados con la IA, como el peligro de que los modelos de IA puedan usarse para desarrollar armas biológicas, que los funcionarios gubernamentales y militares probablemente estén en una mejor posición para evaluar que las corporaciones.
Me gustaría que la industria de la IA acordara una batería estándar de pruebas de seguridad, como las pruebas de «replicación autónoma» que el Centro de Investigación de Alineación realizado en modelos publicados previamente por OpenAI y Anthropic. También me gustaría que el gobierno federal financie este tipo de pruebas, que pueden ser costosas y requieren ingenieros con gran experiencia técnica. Actualmente, muchas pruebas de seguridad están financiadas y supervisadas por empresas, lo que plantea problemas evidentes de conflicto de intereses.
Compromiso 2: Las empresas se comprometen a compartir información en la industria y con los gobiernos, la sociedad civil y la academia sobre la gestión de riesgos de IA.
Este compromiso también es un poco vago. Varias de estas empresas ya publican información sobre sus modelos de IA, generalmente en artículos académicos o publicaciones de blogs corporativos. Algunos de ellos, incluidos OpenAI y Anthropic, también publican documentos llamados «mapas del sistema», que describen los pasos que han tomado para hacer que estos modelos sean más seguros.
Pero también ocultaron información en ocasiones, citando preocupaciones de seguridad. Cuando OpenAI lanzó su último modelo de IA, GPT-4, este año, rompió con las costumbres de la industria y optó por no revelar la cantidad de datos con los que se entrenó ni el tamaño del modelo (una métrica conocida como «parámetros»). Dijo que se negó a divulgar la información debido a problemas de competencia y seguridad. También resulta ser el tipo de datos que a las empresas de tecnología les gusta mantener alejados de sus competidores.
Según estos nuevos compromisos, ¿se exigirá a las empresas de IA que hagan pública este tipo de información? ¿Qué pasa si esto corre el riesgo de acelerar la carrera armamentista de la IA?
Sospecho que el objetivo de la Casa Blanca es menos obligar a las empresas a revelar sus recuentos métricos que animarlas a intercambiar información sobre los riesgos que plantean (o no plantean) sus modelos.
Pero incluso este tipo de intercambio de información puede ser riesgoso. Si el equipo de inteligencia artificial de Google impidió que se usara un nuevo modelo para diseñar un arma biológica mortal durante las pruebas preliminares, ¿deberían compartir esa información fuera de Google? ¿Sería este el riesgo de dar ideas a los malos actores sobre cómo podrían obtener un modelo menos protegido para realizar la misma tarea?
Compromiso 3: las empresas se comprometen a invertir en seguridad cibernética y protecciones contra amenazas internas para proteger los pesos de los modelos patentados y los primeros en su tipo.
Este es bastante simple y no genera controversia entre los expertos en IA con los que he hablado. «Peso del modelo» es un término técnico para las instrucciones matemáticas que permiten que los modelos de IA funcionen. Los pesos son lo que querrías robar si fueras un agente de un gobierno extranjero (o una empresa rival) que quisiera crear tu propia versión de ChatGPT u otro producto de IA. Y esto es algo que las empresas de IA tienen mucho interés en mantener estrictamente controlado.
Ha habido problemas bien conocidos con las fugas de peso del modelo antes. Los pesos del modelo de lenguaje LLaMA original de Meta, por ejemplo, fueron filtrado en 4chan y otros sitios web solo unos días después del lanzamiento del modelo. Dados los riesgos de filtraciones adicionales, y el interés que otros países podrían tener en robar esta tecnología de las empresas estadounidenses, pedir a las empresas de IA que inviertan más en su propia seguridad parece una obviedad.
Compromiso 4: las empresas se comprometen a facilitar que otros descubran e informen vulnerabilidades en sus sistemas de IA.
No estoy muy seguro de lo que eso significa. Todas las empresas de inteligencia artificial han descubierto vulnerabilidades en sus modelos después de publicarlos, generalmente porque los usuarios intentan hacer cosas malas con los modelos o eludir sus barreras de seguridad (una práctica conocida como «jailbreaking») de formas que las empresas no habían previsto.
El compromiso de la Casa Blanca insta a las empresas a implementar un «mecanismo sólido de informes» para estas vulnerabilidades, pero no está claro qué podría significar eso. ¿Un botón de comentarios en la aplicación, similar a los que permiten a los usuarios de Facebook y Twitter denunciar publicaciones que infringen las reglas? Un programa de recompensas por errores, como el OpenAI comenzó este año para recompensar a los usuarios que encuentran fallas en sus sistemas? ¿Otra cosa? Habrá que esperar para conocer más detalles.
Compromiso 5: las empresas se comprometen a desarrollar mecanismos técnicos sólidos para garantizar que los usuarios sepan cuándo el contenido es generado por IA, como un sistema de marca de agua.
Es una idea interesante pero deja mucho espacio para la interpretación. Hasta ahora, las empresas de IA se han esforzado por diseñar herramientas que permitan a las personas saber si están viendo contenido generado por IA o no. Hay buenas razones técnicas para esto, pero es un problema real cuando las personas pueden hacer pasar el trabajo generado por IA como ellos mismos. (Pregúntele a cualquier maestro de secundaria). Y muchas herramientas que actualmente se promocionan como capaces de detectar salidas de IA realmente no pueden hacerlo con ningún grado de precisión.
No soy optimista de que este problema sea totalmente reparable. Pero estoy feliz de que las empresas se comprometan a trabajar en ello.
Compromiso 6: Las empresas se comprometen a hacer públicas las capacidades, limitaciones y áreas de uso adecuado e inadecuado de sus sistemas de IA.
Otra promesa sensata con mucho margen de maniobra. ¿Con qué frecuencia las empresas deberán informar sobre las capacidades y limitaciones de sus sistemas? ¿Qué tan detallada debe ser esta información? Y dado que muchas empresas que construyen sistemas de IA se han sorprendido por las capacidades de sus propios sistemas después del hecho, ¿cuánto se puede esperar realmente que los describan por adelantado?
Compromiso 7: Las empresas se comprometen a priorizar la investigación sobre los riesgos sociales que pueden plantear los sistemas de IA, lo que incluye evitar prejuicios y discriminaciones perjudiciales y proteger la privacidad.
Comprometerse a “priorizar la investigación” es tan vago como un compromiso. Aún así, estoy seguro de que esta promesa será bien recibida por muchos en la comunidad de ética de la IA, que quieren que las empresas de IA hagan de la prevención de daños a corto plazo como el sesgo y la discriminación una prioridad en lugar de preocuparse por los escenarios del fin del mundo, como hacen los funcionarios de seguridad de la IA.
Si está confundido por la diferencia entre la «ética de la IA» y la «seguridad de la IA», sepa que hay dos facciones enfrentadas dentro de la comunidad de investigación de la IA, cada una de las cuales cree que la otra se centra en prevenir los tipos de daños incorrectos.
Compromiso 8: Las empresas se comprometen a desarrollar e implementar sistemas avanzados de IA para ayudar a abordar los mayores desafíos de la sociedad.
No creo que mucha gente diría que la IA avanzada debería no servir para afrontar los mayores retos de la sociedad. La Casa Blanca enumera la «prevención del cáncer» y la «mitigación del cambio climático» como dos de las áreas en las que le gustaría que las empresas de IA se centren, y no estaré en desacuerdo en eso.
Sin embargo, lo que hace que este objetivo sea un poco complicado es que en la investigación de IA, lo que inicialmente parece frívolo, a menudo resulta tener implicaciones más serias. Parte de la tecnología utilizada en AlphaGo de DeepMind, un sistema de inteligencia artificial entrenado para jugar el juego de mesa Go, ha demostrado ser útil para predecir las estructuras tridimensionales de las proteínas, un descubrimiento importante que ha estimulado la investigación científica básica.
En general, el acuerdo de la Casa Blanca con las empresas de inteligencia artificial parece más simbólico que sustantivo. No existen mecanismos de aplicación para garantizar que las empresas cumplan con estos compromisos, y muchos de ellos reflejan las precauciones que las empresas de IA ya están tomando.
Aún así, es un primer paso razonable. Y aceptar seguir estas reglas muestra que las empresas de IA han aprendido de los fracasos de empresas tecnológicas anteriores, que esperaron para comprometerse con el gobierno hasta que se metieron en problemas. En Washington, al menos cuando se trata de regulaciones tecnológicas, vale la pena llegar temprano.
