Semana mundial sobre la seguridad de la IA: se proponen esfuerzos informáticos para impulsar la investigación
 |
| Se celebró una cumbre mundial de alto nivel sobre la seguridad de la IA en las históricas instalaciones de descifrado de códigos de Gran Bretaña en Bletchley Park. Fuente: Chris J. Ratcliffe/Bloomberg vía Getty |
Los gobiernos de Reino Unido y Estados Unidos están realizando esfuerzos para democratizar el acceso a supercomputadoras que ayudarán a los estudios sobre sistemas de inteligencia artificial.
04 noviembre 2023.- Esta semana se dieron dos pasos importantes hacia la supervisión gubernamental de la inteligencia artificial (IA) en Estados Unidos y el Reino Unido. Detrás de ambas iniciativas hay medidas de cada nación para impulsar sus capacidades de investigación de IA, e incluyen esfuerzos para ampliar el acceso a las poderosas supercomputadoras necesarias para entrenar IA.
El 30 de octubre, el presidente estadounidense Joe Biden firmó la primera orden ejecutiva sobre IA de su país, con una enorme serie de directivas para que las agencias federales estadounidenses guíen el uso de la IA y pongan barreras a la tecnología. Y los días 1 y 2 de noviembre, el Reino Unido organizó una cumbre de alto perfil sobre seguridad de la IA, convocada por el primer ministro Rishi Sunak, con representantes de más de dos docenas de países y empresas tecnológicas, incluidas Microsoft y Meta.
La cumbre, celebrada en Bletchley Park, la famosa instalación de descifrado de códigos en tiempos de guerra, produjo la Declaración de Bletchley, que acuerda evaluar y gestionar mejor los riesgos de la poderosa IA "fronteriza": sistemas avanzados que podrían usarse para desarrollar tecnologías de riesgo, como armas biológicas.
"Estamos hablando de IA que aún no existe, de las cosas que saldrán el próximo año", dice Yoshua Bengio, pionero de la IA y director científico de Mila, el Instituto de IA de Quebec en Canadá, que asistió a la cumbre.
Ambas naciones se han comprometido a desarrollar un 'recurso de investigación' nacional de IA, cuyo objetivo es proporcionar a los investigadores de IA acceso en la nube a una potencia informática de gran impacto.
Estos esfuerzos son significativos para una rama de la ciencia que depende en gran medida de una costosa infraestructura informática. Una tendencia importante en los últimos cinco años de investigación en IA es que se puede obtener un mejor rendimiento de los sistemas de IA simplemente ampliándolos. Pero eso es caro.
Entrenar un sistema de inteligencia artificial de vanguardia lleva meses y cuesta decenas o cientos de millones de dólares. En el mundo académico esto es actualmente imposible. Ambas iniciativas de recursos de investigación tienen como objetivo democratizar estas capacidades.
En este momento, todas las capacidades para trabajar con estos sistemas están en manos de empresas que quieren ganar dinero con ellos. Los esfuerzos se centran en que académicos y organizaciones puedan ser financiadas por el gobierno que realmente estén trabajando para proteger al público y para poder comprender mejor estos sistemas.
Todas las bases
La orden ejecutiva de Biden se limita a orientar el trabajo de las agencias federales, porque no es una ley aprobada por el Congreso norteamericano. Sin embargo, la orden tiene un amplio alcance. Lo que se puede ver es que la administración Biden realmente se toma en serio la IA como una tecnología multiuso, tratando de cubrir muchas bases.
Un énfasis importante en la orden es la creación de estándares y definiciones muy necesarios en IA. La gente usará palabras como 'imparcial', 'robusto' o 'explicable'" para describir los sistemas de IA. El problema es que en la IA casi no existen estándares sobre lo que realmente significan estas cosas. Y ese es un gran problema.
La orden exige que el Instituto Nacional de Estándares y Tecnología desarrolle dichos estándares, junto con herramientas (como marcas de agua) y 'pruebas de equipo rojo', en las que los buenos actores intentan hacer un mal uso de un sistema para probar su seguridad, para ayudar a garantizar que los sistemas son “seguros y dignos de confianza”.
La orden ejecutiva ordena a las agencias que financian la investigación en ciencias biológicas que establezcan estándares para protegerse contra el uso de IA para diseñar materiales biológicos peligrosos.
También se alienta a las agencias a ayudar a los inmigrantes calificados con experiencia en inteligencia artificial a estudiar, permanecer y trabajar en los Estados Unidos. Y la Fundación Nacional de Ciencias (NSF) debe financiar y lanzar al menos un motor de innovación regional que dé prioridad al trabajo relacionado con la IA, y en el próximo año y medio establecer al menos cuatro institutos nacionales de investigación de IA, además de los 25 actualmente financiados.
Recursos de investigación
La orden de Biden compromete a la NSF a lanzar, en un plazo de 90 días, un proyecto piloto del Recurso Nacional de Investigación de IA (NAIRR), el sistema propuesto para permitir el acceso a una potente potencia informática con capacidad de IA a través de la nube.
En 2021, Wald y sus colegas de Stanford publicaron un documento técnico con un plan de cómo sería dicho servicio. En enero, un informe del grupo de trabajo de la NAIRR pedía que su presupuesto fuera de 2.600 millones de dólares durante un período inicial de seis años, aunque algunos piensan que debería ser mayor.
Los legisladores tendrán que aprobar la Ley CREATE AI, un proyecto de ley presentado en julio de 2023, para liberar fondos para una NAIRR a gran escala. Los autores del documento opinan que el Congreso norteamericano debe dar un paso al frente y tomarse esto en serio ya que "si no lo hacen, se lo dejaremos a las empresas".
De manera similar, el Reino Unido planea crear un recurso nacional de investigación de IA (AIRR) para proporcionar potencia informática a nivel de supercomputadora a diversos investigadores interesados en estudiar la IA de vanguardia.
El gobierno del Reino Unido anunció planes para el AIRR del Reino Unido en marzo. En la cumbre, el gobierno dijo que triplicaría el fondo de financiación AIRR de £100 millones (USD 124 millones) a £300 millones, como parte de una inversión anterior de £900 millones para transformar la capacidad informática del Reino Unido. Dada su población y su producto interno bruto, la inversión del Reino Unido parece más sustancial que la propuesta de Estados Unidos.
El plan está respaldado por dos nuevos superordenadores: Dawn en Cambridge, que pretende estar funcionando en los próximos dos meses; y el clúster Isambard-AI en Bristol, que se espera que entre en funcionamiento el próximo verano.
Isambard-AI será una de las cinco supercomputadoras con capacidad de IA más importantes del mundo. Estas capacidades significan que los investigadores del Reino Unido podrán entrenar incluso los modelos de frontera más grandes que se estén concibiendo, en un período de tiempo razonable.
Estas medidas están ayudando a países como el Reino Unido a desarrollar la experiencia necesaria para guiar la IA hacia el bien público, afirman los inspiradores del proyecto. Pero también será necesaria legislación que proteja contra futuros sistemas de IA que sean inteligentes y difíciles de controlar.
"Estamos en el camino de construir sistemas que sean extremadamente útiles y potencialmente peligrosos. Ya le pedimos a las farmacéuticas que gasten una gran parte de su dinero para demostrar que sus medicamentos no son tóxicos. Nosotros deberíamos hacer lo mismo".
Fuente: Nature
COMENTARIOS