martes, noviembre 28, 2023

Gobierno de Estados Unidos emite orden que busca reducir los riesgos del uso de Inteligencia Artificial

Author

Categories

Share

El presidente de los Estados Unidos, Joe Biden, emitió una nueva orden ejecutiva sobre Inteligencia Artificial, la primera acción de este tipo del gobierno americano, que requiere nuevas evaluaciones de seguridad, orientación sobre equidad y derechos civiles e investigación sobre el impacto de la IA en el mercado laboral.

 

Es la primera acción de este tipo del gobierno de EE.UU, que requiere nuevas evaluaciones de seguridad, orientación sobre equidad y derechos civiles e investigación sobre el impacto de la IA en el mercado laboral.

 

Algunos de los componentes clave de la orden ejecutiva emanada de la Casa Blanca son:

 

  • Crear nuevos estándares de seguridad para la IA, incluso exigiendo a algunas empresas de IA que compartan los resultados de las pruebas de seguridad con el gobierno federal, ordenando al Departamento de Comercio que cree directrices para las marcas de agua de IA y creando un programa de ciberseguridad que pueda crear herramientas de IA que ayuden a identificar fallas. en software crítico.
  • Proteger la privacidad del consumidor, incluso mediante la creación de pautas que las agencias puedan utilizar para evaluar las técnicas de privacidad utilizadas en la IA.
  • Promover la equidad y los derechos civiles brindando orientación a los propietarios y contratistas federales para ayudar a evitar que los algoritmos de IA fomenten la discriminación y creando mejores prácticas sobre el papel apropiado de la IA en el sistema de justicia, incluso cuando se utiliza en sentencias, evaluaciones de riesgos y pronósticos de delitos.
  • Proteger a los consumidores en general ordenando al Departamento de Salud y Servicios Humanos que cree un programa para evaluar prácticas de atención médica potencialmente dañinas relacionadas con la IA y creando recursos sobre cómo los educadores pueden utilizar de manera responsable las herramientas de IA.
  • Apoyar a los trabajadores mediante la elaboración de un informe sobre las posibles implicaciones de la IA en el mercado laboral y el estudio de las formas en que el gobierno federal podría apoyar a los trabajadores afectados por una interrupción del mercado laboral.

 

La orden representa “el conjunto de acciones más sólidas que cualquier gobierno del mundo haya tomado jamás en materia de seguridad y confianza en la IA”, dijo el subjefe de gabinete de la Casa Blanca, Bruce Reed, en un comunicado.

 

iProov: es una solución a largo plazo

“Si bien la promoción de la innovación y el crecimiento en las aplicaciones de IA y un mayor enfoque en generar confianza en el desarrollo de casos de uso deben ser calurosamente bienvenidos, la Orden Ejecutiva de Biden es simplemente una declaración de un deseo o esperanza en lugar de una ley”, afirma Campbell Cowie, Jefe de Políticas de iProov, empresa líder mundial en autenticación biométrica facial en línea, que trabaja con gobiernos, bancos y otras empresas para verificar de forma segura la identidad del cliente.

 

Cowie agrega que la reciente propuesta del gobierno para un mayor papel del NIST (Instituto Nacional de Estándares y Tecnología, por sus siglas en inglés) en el establecimiento de estándares de seguridad es un paso en la dirección correcta, pero no existe ningún requisito para que la industria apoye al NIST o se adhiera a sus directrices.

 

“Lo que no se puede ignorar es que se trata de estrategias a largo plazo que en sí mismas muestran una debilidad fundamental al pasar por alto cómo abordamos los riesgos inmediatos a corto plazo, como los deepfakes, la ciberseguridad, el fraude de identidad y la inclusión, a los que las organizaciones deben estar alerta, al momento y para los cuales existen soluciones disponibles en el mercado hoy en día”, finalizó Cowie.

 

Controles sobre los productos de IA

La orden ejecutiva de Biden exige que las grandes empresas compartan los resultados de las pruebas de seguridad con el gobierno de Estados Unidos antes del lanzamiento oficial de los sistemas de inteligencia artificial. También da prioridad al desarrollo de estándares por parte del Instituto Nacional de Estándares y Tecnología para el “equipo rojo” de IA, o pruebas de estrés de las defensas y los posibles problemas dentro de los sistemas. El Departamento de Comercio desarrollará estándares para poner marcas de agua en el contenido generado por IA.

 

La orden también aborda los datos de entrenamiento para grandes sistemas de inteligencia artificial y establece la necesidad de evaluar cómo las agencias recopilan y utilizan los datos disponibles comercialmente, incluidos los datos comprados a intermediarios de datos, especialmente cuando esos datos involucran identificadores personales.

 

La administración Biden también está tomando medidas para reforzar la fuerza laboral de IA.

Author

Share