Home Gobierno El gobierno del Reino Unido destinará 8,5 millones de libras esterlinas para...

El gobierno del Reino Unido destinará 8,5 millones de libras esterlinas para abordar las ciberamenazas de la IA

El Reino Unido ha prometido 8,5 millones de libras (10,8 millones de dólares) para financiar una nueva investigación de seguridad de la IA diseñada para abordar las ciberamenazas, incluidos los deepfakes.

Anunciadas por la secretaria de tecnología, Michelle Donelan, en la Cumbre AI de Seúl, las subvenciones para investigación se centrarán en la “seguridad sistémica de la IA”, es decir, comprender cómo proteger mejor a la sociedad de los riesgos de la IA y aprovechar los beneficios de la tecnología.

El programa de investigación será dirigido por el investigador Shahar Avin en el Instituto de Seguridad de IA del gobierno y se llevará a cabo en asociación con Investigación e Innovación del Reino Unido y el Instituto Alan Turing. Aunque los solicitantes deberán residir en el Reino Unido, se les animará a colaborar con otros investigadores en institutos de seguridad de IA de todo el mundo.

La IA representa una doble amenaza a la estabilidad económica y social. Por un lado, los sistemas de IA podrían ser atacados mediante técnicas como la inyección rápida y el envenenamiento de datos y, por otro, los propios actores de amenazas pueden utilizar la tecnología para obtener una ventaja.

El Centro Nacional de Seguridad Cibernética (NCSC) del Reino Unido advirtió en enero que el uso malicioso de la IA “casi con seguridad” conducirá a un aumento en el volumen y el impacto de los ciberataques en los próximos dos años, particularmente el ransomware.

De hecho, una nueva investigación del especialista en cumplimiento ISMS.online publicada esta semana reveló que el 30% de los profesionales de seguridad de la información experimentaron un incidente relacionado con deepfake en los últimos 12 meses, la segunda respuesta más popular después de la “infección de malware”.

Al mismo tiempo, tres cuartas partes (76%) de los encuestados afirmaron que la tecnología de inteligencia artificial está mejorando la seguridad de la información y el 64% dijo que aumentarán sus presupuestos en consecuencia durante el próximo año.

El director de investigación del AI Safety Institute, Christopher Summerfield, afirmó que la nueva financiación representa un “paso importante” para garantizar que la IA se implemente de forma segura en la sociedad.

“Necesitamos pensar detenidamente cómo adaptar nuestra infraestructura y sistemas a un nuevo mundo en el que la IA esté integrada en todo lo que hacemos”, añadió. “Este programa está diseñado para generar una gran cantidad de ideas sobre cómo abordar este problema y ayudar a garantizar que las grandes ideas se puedan poner en práctica”.

El instituto ya ha estado realizando valiosas investigaciones sobre las amenazas de la IA. Una actualización de mayo publicada el lunes reveló que cuatro de los chatbots de IA generativa más utilizados son vulnerables a intentos básicos de jailbreak.