Carlos B Fernández. El 30 de octubre, el presidente de los Estados Unidos, Joe Biden, ha emitido una Orden Ejecutiva para gestionar los riesgos de la inteligencia artificial (IA).
La Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence establece nuevos estándares para el desarrollo de una IA segura, la protección de la privacidad de los estadounidenses, la promoción de la equidad y los derechos civiles, la defensa de los consumidores y trabajadores, la promoción de la innovación y la competencia, promover el liderazgo estadounidense en materia de IA y garantizar el uso gubernamental responsable y eficaz de la IA.
La Orden Ejecutiva incluye las siguientes acciones:
1. Nuevos estándares para la seguridad de la IA
• Se va a exigir que los desarrolladores de los sistemas de inteligencia artificial más potentes compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de EE. UU.
De acuerdo con la Ley de Producción de Defensa (Defense Production Act), la Orden requerirá que las empresas que desarrollen cualquier modelo de base que represente un riesgo grave para la seguridad nacional, la seguridad económica nacional o la salud y seguridad públicas nacionales, notifiquen al gobierno federal que están entrenando este tipo de modelos, y deberán compartir los resultados de todas las pruebas de seguridad de Red Team (un tipo de pruebas de amenazas informáticas, en la que se ponen a prueba las capacidades de detección y respuesta de una organización). Estas medidas garantizarán que los sistemas de IA sean seguros y confiables antes de que las empresas los hagan públicos.
• Se van a desarrollar nuevos estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros y confiables.
A estos efectos, el NIST (Instituto Nacional de Estándares y Tecnología norteamericano) establecerá estándares rigurosos de “pruebas de equipo rojo (Red Team)” para garantizar la seguridad antes de su divulgación al público. Por su parte, el Departamento de Seguridad Nacional (Department of Homeland Security) aplicará esos estándares a sectores de infraestructura críticos y establecerá la Junta de Seguridad de IA (AI Safety and Security Board). A su vez, los Departamentos de Energía y Seguridad Nacional también abordarán las amenazas de los sistemas de IA para las infraestructuras críticas, así como los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad que se deriven de las mismas. En conjunto, el Gobierno norteamericano destaca que estas son las acciones más importantes jamás tomadas por cualquier gobierno para avanzar en el campo de la seguridad de la IA.
• Se va a proteger a los ciudadanos norteamericanos contra los riesgos del uso de IA para diseñar materiales biológicos peligrosos mediante el desarrollo de nuevos estándares sólidos para la detección de síntesis biológica.
Las agencias que financian proyectos en el área de las ciencias biológicas establecerán estos estándares como condición para la financiación federal, creando poderosos incentivos para garantizar una detección adecuada y gestionar los riesgos potencialmente agravados por la IA.
• Se va a proteger también a los estadounidenses del fraude y el engaño generados por medio de la IA, estableciendo estándares y mejores prácticas para detectar contenido generado por IA y autenticar el contenido oficial.
A estos efectos, el Departamento de Comercio desarrollará una guía para la autenticación de contenido y la creación de marcas de agua para etiquetar claramente el contenido generado por IA. Las agencias federales utilizarán estas herramientas para que los estadounidenses sepan fácilmente que las comunicaciones que reciben de su gobierno son auténticas.
• Establecer un programa de ciberseguridad avanzado para desarrollar herramientas de inteligencia artificial para encontrar y corregir vulnerabilidades en software crítico, basándose en el modelo del AI Cyber Challenge de la administración Biden-Harris.
En conjunto, estos esfuerzos aprovecharán las capacidades cibernéticas potencialmente revolucionarias de la IA para hacer que el software y las redes sean más seguros.
• Ordenar el desarrollo de un Memorando de Seguridad Nacional que dirija acciones adicionales sobre IA y seguridad, que será desarrollado por el Consejo de Seguridad Nacional y el Jefe de Gabinete de la Casa Blanca.
Este documento garantizará que la comunidad militar y de inteligencia de los Estados Unidos utilice la IA de forma segura, ética y eficaz en sus misiones, y establecerá acciones para contrarrestar el uso militar de la IA por parte de los adversarios.
2. Proteger la privacidad de los estadounidenses
La administración norteamericana considera que, sin salvaguardias, la IA puede poner en riesgo la privacidad de los estadounidenses, ya que no sólo facilita la extracción, identificación y explotación de datos personales, sino que también aumenta los incentivos para hacerlo porque las empresas utilizan datos para entrenar sistemas de IA.
Por tanto, para proteger mejor la privacidad de los estadounidenses frente a los riesgos que plantea la IA, el Presidente pide al Congreso que apruebe una legislación bipartidista sobre privacidad de datos para proteger a todos los estadounidenses, especialmente a los niños, y plantea las siguientes acciones:
• Proteger la privacidad de los estadounidenses priorizando el apoyo federal para acelerar el desarrollo y el uso de técnicas que preserven la privacidad, incluidas aquellas que utilizan IA de vanguardia y que permiten entrenar sistemas de IA preservando al mismo tiempo la privacidad de los datos de entrenamiento.
• Fortalecer la investigación y las tecnologías que preservan la privacidad, como las herramientas criptográficas que preservan la privacidad de las personas, mediante la financiación de una Red de Coordinación de Investigación para avanzar en avances y desarrollo rápidos. La National Science Foundation también trabajará con esta red para promover la adopción de tecnologías de vanguardia para preservar la privacidad por parte de las agencias federales.
• Evaluar cómo las agencias recopilan y utilizan la información disponible comercialmente (incluida la información que obtienen de los intermediarios de datos) y fortalecer la orientación sobre privacidad para que las agencias federales tengan en cuenta los riesgos de la IA. Este trabajo se centrará en particular en la información disponible comercialmente que contenga datos de identificación personal.
• Desarrollar pautas para que las agencias federales evalúen la efectividad de las técnicas de preservación de la privacidad, incluidas las utilizadas en los sistemas de inteligencia artificial. Estas directrices impulsarán los esfuerzos de la agencia para proteger los datos de los estadounidenses.
3. Promoción de la equidad y los derechos civiles
La administración norteamericana considera igualmente que los usos irresponsables de la IA pueden provocar y profundizar la discriminación, los prejuicios y otros abusos en la justicia, la atención sanitaria y la vivienda.
A este respecto, la Administración Biden-Harris ya ha tomado medidas al publicar el Plan para una Declaración de Derechos de la IA (Blueprint for an AI Bill of Rights) y emitir una Orden Ejecutiva que ordena a las agencias combatir la discriminación algorítmica (Executive Order directing agencies to combat algorithmic discrimination), al tiempo que hace cumplir las autoridades existentes para proteger los derechos y la seguridad de las personas. Ahora, el Presidente ordena las siguientes acciones adicionales:
• Proporcionar orientación clara a los propietarios, los programas de beneficios federales y los contratistas federales para evitar que los algoritmos de IA se utilicen para exacerbar la discriminación.
• Abordar la discriminación algorítmica mediante la formación, la asistencia técnica y la coordinación entre el Departamento de Justicia y las oficinas federales de derechos civiles sobre las mejores prácticas para investigar y procesar violaciones de derechos civiles relacionadas con la IA.
• Garantizar la equidad en todo el sistema de justicia penal mediante el desarrollo de mejores prácticas sobre el uso de la IA en la sentencia, la libertad condicional y la libertad vigilada, la libertad y detención preventivas, las evaluaciones de riesgos, la vigilancia, la previsión de delitos y la vigilancia policial predictiva, y el análisis forense.
4. Defender a los consumidores, los pacientes y los estudiantes
La IA puede aportar beneficios reales a los consumidores, por ejemplo, haciendo que los productos sean mejores, más baratos y más ampliamente disponibles. Pero la IA también aumenta el riesgo de herir, engañar o dañar de otro modo a los estadounidenses. Para proteger a los consumidores y al mismo tiempo garantizar que la IA pueda mejorar la situación de los estadounidenses, el Presidente dirige las siguientes acciones:
• Impulsar el uso responsable de la IA en la atención sanitaria y el desarrollo de medicamentos asequibles y que salven vidas. El Departamento de Salud y Servicios Humanos también establecerá un programa de seguridad para recibir informes de daños o prácticas de atención médica inseguras que involucren IA y actuar para remediarlos.
• Dar forma al potencial de la IA para transformar la educación mediante la creación de recursos para ayudar a los educadores a implementar herramientas educativas habilitadas para la IA, como tutorías personalizadas en las escuelas.
5. Apoyo a los trabajadores
La IA está cambiando los empleos y los lugares de trabajo de Estados Unidos, ofreciendo tanto la promesa de una mayor productividad como los peligros de una mayor vigilancia, prejuicios y desplazamiento laboral en el lugar de trabajo. Para mitigar estos riesgos, apoyar la capacidad de los trabajadores para negociar colectivamente e invertir en capacitación y desarrollo de la fuerza laboral que sea accesible para todos, el Presidente establece las siguientes acciones:
• Desarrollar principios y mejores prácticas para mitigar los daños y maximizar los beneficios de la IA para los trabajadores abordando el desplazamiento del empleo, las normas laborales; la equidad, salud y seguridad en el lugar de trabajo; y recopilación de datos. Estos principios y mejores prácticas beneficiarán a los trabajadores al brindarles orientación para evitar que los empleadores compensen insuficientemente a los trabajadores, evalúen las solicitudes de empleo de manera injusta o afecten la capacidad de los trabajadores para organizarse.
• Producir un informe sobre los posibles impactos de la IA en el mercado laboral y estudiar e identificar opciones para fortalecer el apoyo federal a los trabajadores que enfrentan interrupciones laborales, incluidas las provocadas por la IA.
6. Promoción de la innovación y la competencia
La Orden Ejecutiva pretende garantizar que EEUU siga liderando el camino en innovación mundial en materia de IA por medio de las siguientes acciones:
• Catalizar la investigación de IA en todo Estados Unidos a través de una prueba piloto del National AI Research Resource, una herramienta que brindará a los investigadores y estudiantes de IA acceso a recursos y datos clave de IA, y subvenciones ampliadas para la investigación de IA en áreas vitales como la atención médica y el cambio climático.
• Promover un ecosistema de IA justo, abierto y competitivo brindando a los pequeños desarrolladores y empresarios acceso a asistencia técnica y recursos, ayudando a las pequeñas empresas a comercializar avances en IA y alentando a la Comisión Federal de Comercio a ejercer sus autoridades.
• Utilizar las autoridades existentes para ampliar la capacidad de inmigrantes y no inmigrantes altamente calificados con experiencia en áreas críticas para estudiar, permanecer y trabajar en los Estados Unidos mediante la modernización y racionalización de los criterios, entrevistas y revisiones de visas.
7. Impulsar el liderazgo estadounidense en el extranjero
Los desafíos y oportunidades de la IA son globales y la Administración Biden-Harris quiere seguir trabajando con otras naciones para apoyar el despliegue y el uso seguro y confiable de la IA en todo el mundo. Para ello, el Presidente plantea las siguientes acciones:
• Ampliar los compromisos bilaterales, multilaterales y de múltiples partes interesadas para colaborar en la IA . El Departamento de Estado, en colaboración con el Departamento de Comercio, liderará un esfuerzo para establecer marcos internacionales sólidos para aprovechar los beneficios de la IA, gestionar sus riesgos y garantizar la seguridad. Además, esta semana, el vicepresidente Harris hablará en la Cumbre del Reino Unido sobre seguridad de la IA, organizada por el primer ministro Rishi Sunak.
• Acelerar el desarrollo y la implementación de estándares vitales de IA con socios internacionales y en organizaciones de estándares, garantizando que la tecnología sea segura, confiable e interoperable.
• Promover el desarrollo y el despliegue seguro, responsable y que afirme los derechos de la IA en el extranjero para resolver desafíos globales, como promover el desarrollo sostenible y mitigar los peligros para la infraestructura crítica.
8. Garantizar el uso gubernamental responsable y eficaz de la IA
La IA puede ayudar al gobierno a realizar una mejor gestión en favor del pueblo estadounidense. Puede ampliar la capacidad de las agencias federales para regular, gobernar y hacer llegar beneficios a la ciudadanía, y puede reducir costos y mejorar la seguridad de los sistemas gubernamentales. Sin embargo, el uso de la IA puede plantear riesgos, como discriminación y decisiones inseguras. Para garantizar el despliegue gubernamental responsable de la IA y modernizar la infraestructura federal de IA, el Presidente plantea las siguientes acciones:
• Emitir orientaciones sobre el uso de la IA por parte de las agencias, incluyendo estándares claros para proteger los derechos y la seguridad, mejorar la adquisición de IA y fortalecer su implementación.
• Ayudar a las agencias a adquirir productos y servicios de IA específicos de forma más rápida, económica y eficaz, mediante una contratación más rápida y eficiente.
• Acelerar la contratación rápida de profesionales de IA como parte de un aumento de talento en IA en todo el gobierno liderado por la Oficina de Gestión de Personal, el Servicio Digital de EE. UU., el Cuerpo Digital de EE. UU. y la Beca Presidencial de Innovación. Las agencias brindarán capacitación en IA a los empleados de todos los niveles en campos relevantes.
A medida que avancemos en esta agenda a nivel nacional, la Administración trabajará con aliados y socios en el extranjero en un marco internacional sólido para gobernar el desarrollo y el uso de la IA. La Administración ya ha consultado ampliamente sobre los marcos de gobernanza de la IA durante los últimos meses, colaborando con Australia, Brasil, Canadá, Chile, la Unión Europea, Francia, Alemania, India, Israel, Italia, Japón, Kenia, México, Países Bajos, Nueva Zelanda. Zelanda, Nigeria, Filipinas, Singapur, Corea del Sur, los Emiratos Árabes Unidos y el Reino Unido.
Estas acciones apoyan y complementan el liderazgo de Japón en el Proceso de Hiroshima del G-7, la Cumbre del Reino Unido sobre Seguridad de la IA, el liderazgo de la India como Presidente de la Asociación Global sobre IA y los debates en curso en las Naciones Unidas.