Qué significa la estricta ley de IA de la UE para la investigación y ChatGPT
 |
| Los representantes de los gobiernos miembros de la UE aprobaron la Ley de IA de la UE este mes. Fuente: Jonathan Raa/NurPhoto vía Getty |
La Ley de IA de la UE es la primera legislación importante del mundo sobre inteligencia artificial y regula estrictamente los modelos de propósito general.
16 febrero 2024.- Los países de la Unión Europea están preparados para adoptar el primer conjunto integral de leyes del mundo para regular la inteligencia artificial (IA). La Ley de IA de la UE impone sus normas más estrictas a los modelos de IA de mayor riesgo y está diseñada para garantizar que los sistemas de IA sean seguros y respeten los derechos fundamentales y los valores de la UE.
"La ley tiene enormes consecuencias en términos de dar forma a nuestra forma de pensar sobre la regulación de la IA y sentar un precedente", dice Rishi Bommasani, que investiga el impacto social de la IA en la Universidad de Stanford en California.
La legislación llega a medida que la IA se desarrolla rápidamente. Se espera que este año se lancen nuevas versiones de modelos de IA generativa, como GPT, que impulsa ChatGPT, desarrollado por OpenAI en San Francisco, California, y los sistemas existentes se están utilizando en estafas y para propagar información errónea. China ya utiliza un mosaico de leyes para guiar el uso comercial de la IA, y la regulación estadounidense está en marcha. En octubre pasado, el presidente Joe Biden firmó la primera orden ejecutiva sobre IA del país, que exige a las agencias federales que tomen medidas para gestionar los riesgos de la IA.
Los gobiernos de los países de la UE aprobaron la legislación el 2 de febrero, y ahora la ley necesita la aprobación final del Parlamento Europeo, uno de los tres poderes legislativos de la UE. Se espera que esto suceda en abril. Si el texto permanece sin cambios, como esperan los observadores políticos, la ley entrará en vigor en 2026.
Algunos investigadores han acogido con satisfacción la ley por su potencial para fomentar la ciencia abierta, mientras que a otros les preocupa que pueda sofocar la innovación.
¿Cuál es el enfoque de la UE?
La UE ha optado por regular los modelos de IA en función de su riesgo potencial, aplicando reglas más estrictas a las aplicaciones más riesgosas y delineando regulaciones separadas para los modelos de IA de propósito general, como GPT, que tienen usos amplios e impredecibles.
La ley prohíbe los sistemas de inteligencia artificial que conllevan un "riesgo inaceptable", por ejemplo aquellos que utilizan datos biométricos para inferir características sensibles, como la orientación sexual de las personas. Las aplicaciones de alto riesgo, como el uso de IA en la contratación y el cumplimiento de la ley, deben cumplir ciertas obligaciones; por ejemplo, los desarrolladores deben demostrar que sus modelos son seguros, transparentes y explicables a los usuarios, y que cumplen con las normas de privacidad y no discriminan.
Para las herramientas de IA de menor riesgo, los desarrolladores aún tendrán que informar a los usuarios cuando estén interactuando con contenido generado por IA. La ley se aplica a los modelos que operan en la UE y cualquier empresa que viole las reglas se arriesga a una multa de hasta el 7% de sus ganancias globales anuales.
Algunos no creen que la ley vaya lo suficientemente lejos, dejando exenciones “enormes” para fines militares y de seguridad nacional, así como lagunas para el uso de la IA en la aplicación de la ley y la migración.
¿Cuánto afectará a los investigadores?
En teoría, muy poco. El año pasado, el Parlamento Europeo añadió una cláusula al proyecto de ley que eximiría a los modelos de IA desarrollados exclusivamente para investigación, desarrollo o creación de prototipos. La UE ha trabajado duro para garantizar que la ley no afecte negativamente a la investigación ya que no no se desea interrumpir la innovación.
El Parlamento Europeo debe dar luz verde definitiva a la ley. Se espera una votación en abril. Fuente: Jean-Francois Badias/AP vía Alamy
Pero es probable que la ley tenga algún efecto, al hacer que los investigadores piensen en la transparencia, en cómo informan sobre sus modelos y en posibles sesgos.
Robert Kaczmarczyk, médico de la Universidad Técnica de Munich en Alemania y cofundador de LAION (Red Abierta de Inteligencia Artificial a Gran Escala), una organización sin fines de lucro destinada a democratizar el aprendizaje automático, teme que la ley pueda obstaculizar a las pequeñas empresas que impulsan investigación y que podrían necesitar establecer estructuras internas para cumplir con las leyes. "Adaptarse como una pequeña empresa es realmente difícil", afirma.
¿Qué significa para modelos potentes como GPT?
Después de un acalorado debate, los formuladores de políticas optaron por regular poderosos modelos de propósito general (como los modelos generativos que crean imágenes, códigos y videos) en su propia categoría de dos niveles.
El primer nivel cubre todos los modelos de propósito general, excepto aquellos utilizados únicamente en investigación o publicados bajo una licencia de código abierto. Estos estarán sujetos a requisitos de transparencia, incluido el detalle de sus metodologías de capacitación y consumo de energía, y deberán demostrar que respetan las leyes de derechos de autor.
El segundo nivel, mucho más estricto, cubrirá los modelos de propósito general que se considera que tienen “capacidades de alto impacto”, que plantean un mayor “riesgo sistémico”. Estos modelos estarán sujetos a “algunas obligaciones bastante importantes”, afirma Bommasani, incluidas estrictas pruebas de seguridad y controles de ciberseguridad. Los desarrolladores deberán publicar detalles de su arquitectura y fuentes de datos.
Para la UE, "grande" equivale efectivamente a peligroso: cualquier modelo que utilice más de 10 25 FLOP (el número de operaciones informáticas) en el entrenamiento se considera de alto impacto. Entrenar un modelo con esa cantidad de potencia informática cuesta entre 50 y 100 millones de dólares, por lo que es un listón muy alto. Debería englobar modelos como GPT-4, el modelo actual de OpenAI, y podría incluir futuras iteraciones del rival de código abierto de Meta, LLaMA. Los modelos de código abierto en este nivel están sujetos a regulación, aunque los modelos de investigación únicamente están exentos.
Algunos científicos están en contra de regular los modelos de IA y prefieren centrarse en cómo se utilizan. "Más inteligencia y más capacidad no significa más daño", dice Jenia Jitsev, investigadora de IA en el Centro de Supercomputación de Jülich en Alemania y otra cofundadora de LAION. Basar la regulación en cualquier medida de capacidad no tiene base científica, añade Jitsev. Utilizan la analogía de definir como peligrosa toda química que utilice un determinado número de horas-persona. "Es tan improductivo como esto".
¿La ley reforzará la IA de código abierto?
Los responsables políticos de la UE y los defensores del código abierto así lo esperan. La ley incentiva que la información de IA esté disponible, sea replicable y transparente, lo que es casi como "leer el manifiesto del movimiento de código abierto".
Algunos modelos son más abiertos que otros y aún no está claro cómo se interpretará el lenguaje del acto, donde los legisladores pretenden que los modelos de propósito general, como LLaMA-2 y los de la startup Mistral AI en París, estén exentos.
El enfoque de la UE de fomentar la IA de código abierto es notablemente diferente de la estrategia de Estados Unidos. El razonamiento de la UE es que el código abierto será vital para que la UE pueda competir con Estados Unidos y China, dicen los expertos.
¿Cómo se va a hacer cumplir la ley?
La Comisión Europea creará una Oficina de IA para supervisar los modelos de propósito general, asesorada por expertos independientes. La oficina desarrollará formas de evaluar las capacidades de estos modelos y monitorear los riesgos relacionados. Pero incluso si empresas como OpenAI cumplen con las regulaciones y presentan, por ejemplo, sus enormes conjuntos de datos, existen dudas sobre si un organismo público tendrá los recursos para examinar adecuadamente las presentaciones. La exigencia de transparencia es muy importante, pero se pensó poco en cómo ejecutar estos procedimientos, creen algunos.
Fuente: Elizabeth Gibney (Nature)
COMENTARIOS