El presidente de los Estados Unidos, Joseph Biden, ha emitido una Orden Ejecutiva para establecer nuevos estándares para la seguridad de la IA.
La orden sigue a acciones anteriores que el Presidente ha tomado en materia de innovación responsable, incluido el trabajo que llevó a 15 empresas tecnológicas líderes a comprometerse a impulsar el desarrollo seguro y confiable de la IA.
La Orden Ejecutiva (EO) tiene como objetivo proteger la privacidad de los estadounidenses, promover la equidad y los derechos civiles, defender a los consumidores y trabajadores, promover la innovación y la competencia y promover el liderazgo estadounidense en todo el mundo.
El anuncio se produce días antes de la Cumbre de Seguridad de la IA del Reino Unido, mientras el Reino Unido busca establecer un entorno regulatorio favorable para el desarrollo de la IA. La EO de Biden apoyará y complementará los esfuerzos del Reino Unido, así como el liderazgo de Japón en el Proceso de Hiroshima del G-7, el liderazgo de la India como presidenta de la Asociación Global sobre IA y los debates en curso en las Naciones Unidas.
La orden reconoce que con el crecimiento de las capacidades de la IA, existen implicaciones para la seguridad de los ciudadanos. El gobierno de EE. UU. ha descrito las siguientes acciones que se deben tomar para proteger a los estadounidenses de los riesgos potenciales de los sistemas de IA:
-Exigir que los desarrolladores de los sistemas de inteligencia artificial más potentes compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de EE. UU.
-Desarrollar estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros y confiables.
-Protéjase contra los riesgos de utilizar IA para diseñar materiales biológicos peligrosos.
-Proteja a los estadounidenses del fraude y el engaño habilitados por la IA estableciendo estándares y mejores prácticas para detectar contenido generado por IA y autenticar el contenido oficial.
-Establecer un programa de ciberseguridad avanzado para desarrollar herramientas de inteligencia artificial para encontrar y corregir vulnerabilidades en software crítico.
-Ordenar el desarrollo de un Memorando de Seguridad Nacional que dirija acciones adicionales sobre IA y seguridad.
Además del enfoque en seguridad y protección, la Orden Ejecutiva también destaca la necesidad de proteger la privacidad. El Presidente ha pedido al Congreso que apruebe una legislación bipartidista sobre privacidad de datos en esta área.
Una encuesta reciente de ISACA a 23.000 profesionales de la confianza digital mostró que el 68% estaba preocupado por las violaciones de privacidad relacionadas con la IA. Mientras tanto, el 77% estaba preocupado por la difusión de desinformación/información errónea.
Los usos irresponsables de la IA pueden provocar y profundizar la discriminación, los prejuicios y otros abusos en la justicia, la atención sanitaria y la vivienda, señaló la Casa Blanca.
La EO tiene como objetivo evitar que los algoritmos de IA se utilicen para exacerbar la discriminación. Se ha descubierto que algunos modelos de lenguaje grandes (LLM) tienen cierto sesgo social debido a la entrada de datos en la etapa de entrenamiento.
Desde hace mucho tiempo se entiende que la IA tiene un impacto en los empleos. La EO establece planes para producir informes sobre los impactos de la IA en el mercado laboral y desarrollar principios y mejores prácticas para mitigar los daños y maximizar los beneficios de la IA para los trabajadores.
El estudio de ISACA encontró que, en general, la IA podría ser un importante creador de empleo en el área de la confianza digital. Chris Dimitriadis, director de estrategia global de la asociación, dijo: “Creemos que el número de puestos de trabajo aumentará porque con cada nueva tecnología emergente, especialmente la IA, se introducen riesgos y con ello se ve una necesidad emergente de profesionales de la confianza digital. para ayudar a la sociedad y las industrias a disfrutar de los beneficios de la IA de forma segura.
