Home Concientización EE.UU. asegura compromisos de IA para la seguridad

EE.UU. asegura compromisos de IA para la seguridad

La Administración Biden-Harris ha dado un nuevo paso para garantizar el desarrollo responsable de la tecnología de inteligencia artificial (IA) al asegurar compromisos voluntarios de las principales empresas de IA.

Como parte de la nueva iniciativa, Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI se han comprometido a priorizar la seguridad y la confianza en sus sistemas de IA.

Para proteger los derechos y la seguridad de los estadounidenses, las empresas se han comprometido con varios principios fundamentales. Realizarán pruebas de seguridad internas y externas de los sistemas de IA antes del lanzamiento, con la ayuda de expertos independientes, para protegerse contra la bioseguridad, la ciberseguridad y los riesgos sociales más amplios.

Además, estas empresas compartirán información sobre la gestión de riesgos de IA con la industria, los gobiernos, la sociedad civil y la academia, fomentando la colaboración y las mejores prácticas. Invertirán en seguridad cibernética y salvaguardias contra amenazas internas para proteger los pesos de los modelos propietarios e inéditos, y los lanzarán solo cuando estén previstos y sean seguros.

Para ganarse la confianza del público, las empresas también desarrollarán mecanismos técnicos como marcas de agua para indicar el contenido generado por IA, lo que reduce los riesgos de fraude. También informarán sobre las capacidades, las limitaciones y el uso apropiado e inapropiado de los sistemas de IA, cubriendo los riesgos sociales y de seguridad, incluida la equidad y el sesgo.

Fuentes del gobierno de los Estados Unidos, aseguraron que hay compromiso para garantizar el liderazgo de Estados Unidos en la innovación responsable de IA. Además de desarrollar una orden ejecutiva, la administración planea buscar una legislación bipartidista para gobernar el desarrollo de IA de manera segura.

La administración también está colaborando con aliados y socios internacionales para establecer un marco global sólido para la gobernanza de la IA.