Home Gobierno Cumbre de seguridad de la IA: la administración Biden-Harris lanza el Instituto...

Cumbre de seguridad de la IA: la administración Biden-Harris lanza el Instituto de Seguridad de la IA de EE.UU.

El Departamento de Comercio de los Estados Unidos ha creado un nuevo organismo gubernamental para liderar los esfuerzos del gobierno de EE.UU. en materia de seguridad y confianza en la IA: el Instituto de Seguridad de la Inteligencia Artificial de EE.UU. (USAISI).

La vicepresidenta de Estados Unidos, Kamala Harris, hizo el anuncio durante su discurso en la Cumbre de Seguridad de la IA del Reino Unido en Bletchley Park el 1 de noviembre.

USAISI será parte del Instituto Nacional de Innovación y Tecnología de Estados Unidos (NIST). Tendrá la tarea de facilitar el desarrollo de estándares para la seguridad y las pruebas de modelos de IA, desarrollar estándares para autenticar el contenido generado por IA y proporcionar entornos de prueba para que los investigadores evalúen los riesgos emergentes de la IA y aborden los impactos conocidos.

Para lograr su misión, USAISI aprovechará la experiencia externa, incluido el trabajo con socios del mundo académico, la industria, el gobierno y la sociedad civil para promover la seguridad de la IA.

Trabajará con institutos similares en países aliados y socios, incluido el Instituto de Seguridad de IA del Reino Unido, para alinear y coordinar el trabajo en esta esfera.

La creación de USAISI se produce unos días después de la Orden Ejecutiva de Biden sobre IA segura, que mencionaba que se pedirá al NIST que desarrolle nuevos estándares para pruebas exhaustivas del equipo rojo para garantizar la seguridad antes del lanzamiento público de cualquier sistema de IA.

La participación de una delegación estadounidense en la Cumbre de Seguridad de la IA del Reino Unido también fue una oportunidad para que la administración Biden-Harris anunciara varias otras iniciativas que darán forma al enfoque del gobierno hacia la IA responsable.

Éstas incluyen:

-Proyecto de orientación política sobre el uso de la IA por parte del gobierno de EE. UU., incluido el compromiso de incorporar prácticas responsables en el desarrollo, la adquisición y el uso de la IA por parte del gobierno. Este borrador de política se basa en documentos existentes, incluido el Plan para una Declaración de Derechos de IA y el Marco de gestión de riesgos de IA del NIST.

-Una declaración política sobre el uso militar responsable de la IA y la automatización.

-Una nueva iniciativa filantrópica para promover la IA en beneficio del interés público.

-Un esfuerzo para contrarrestar a los estafadores que utilizan modelos de voz generados por IA para atacar a ciudadanos estadounidenses.

-Un llamado a apoyar el desarrollo y la implementación de estándares internacionales que permitan al público identificar y rastrear de manera efectiva contenido digital auténtico producido por el gobierno y contenido generado o manipulado por IA, incluso a través de firmas digitales, marcas de agua y otras técnicas de etiquetado.

Este último anuncio se basa en los compromisos voluntarios de 15 empresas líderes en inteligencia artificial para desarrollar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por inteligencia artificial.