La Comisión Europea ha publicado recientemente una actualización de las preguntas frecuentes (FAQs) sobre el Reglamento de Inteligencia Artificial (IA), a pesar de que el texto definitivo aún no ha sido aprobado por el Parlamento. Esta actualización proporciona claridad sobre varios aspectos clave que afectarán tanto a los proveedores como a los usuarios de modelos de IA.
Uno de los puntos destacados de esta actualización es la consideración de que los modelos de IA de propósito general que se entrenaron con una potencia de cálculo total de más de 10^25 FLOP conllevan riesgos sistémicos. Esto se debe a que los modelos entrenados con grandes cantidades de datos tienden a ser más potentes. La Oficina de Inteligencia Artificial tendrá la capacidad de actualizar este umbral a medida que avancen los desarrollos tecnológicos, y también podrá designar otros modelos como riesgosos sobre la base de otros criterios, como el número de usuarios o el grado de autonomía del modelo.
En consecuencia, los proveedores de modelos con riesgos sistémicos deberán llevar a cabo evaluaciones y mitigaciones de riesgos, notificar incidentes graves, realizar pruebas y evaluaciones de modelos, garantizar la ciberseguridad y proporcionar información sobre el consumo de energía de sus modelos. Esto tendrá implicaciones significativas para proveedores de renombre, como Google con sus modelos GPT-4 o Gemini.
Otro aspecto relevante es la regulación de la identificación biométrica en el contexto policial. La actualización establece que la identificación biométrica policial en tiempo real está prohibida, salvo en casos excepcionales relacionados con una lista específica de 16 delitos, y siempre con autorización judicial o administrativa. Además, la identificación biométrica a distancia de personas investigadas requerirá autorización previa. Esta medida se justifica con la afirmación de que «incluso una tasa de error del 0,1% es mucho si se trata de decenas de miles de personas.»
Estas actualizaciones en las FAQs de la Comisión sobre el Reglamento de IA tendrán un impacto significativo en la forma en que los proveedores de IA operan y en cómo se utilizan los modelos de IA en el contexto policial. Es crucial que tanto los proveedores como los usuarios estén al tanto de estas regulaciones y se preparen para cumplir con los requisitos establecidos.
