Lo más visto

¿Se debe regular la inteligencia artificial?

Históricamente, a medida una tecnología se masifica y tiene un impacto en la sociedad, se ha hecho necesario regular su uso y desarrollo.

Enlace copiado
¿Se debe regular la inteligencia artificial?

¿Se debe regular la inteligencia artificial?

Enlace copiado

En cuanto a la inteligencia artificial (AI por sus siglas en inglés) estamos en un punto de inflexión, inmersos en un debate entre los pesimistas sobre su futuro, y los optimistas. Sin embargo, ambos coinciden en la necesidad de que la tecnología sea regulada.

La AI se define como la simulación de procesos de inteligencia humana por parte de máquinas, especialmente sistemas informáticos. Estos procesos incluyen el aprendizaje (la adquisición de información y las reglas para usar la información), el razonamiento (el uso de reglas para llegar a conclusiones aproximadas o definitivas) y la autocorrección. La AI no es inherentemente buena o mala, pero la forma en que la utilicemos podría ser el problema. Por lo tanto, el tema central son los efectos de esta en una escala social, económica y política.

No todas las áreas requieren regulación desde cero, la AI es tan amplia que muchas de las aplicaciones ya tienen marcos de referencia o regulaciones que se deberán actualizar. Por ejemplo, dispositivos médicos, vehículos autónomos y drones por mencionar algunos. Los problemas vienen sobre aplicaciones completamente nuevas. La pregunta, quizá, es ¿Qué aspectos de la AI pueden plantear nuevos problemas? Para responder, será útil tomar de ejemplo un problema real en estos momentos, la tecnología de reconocimiento facial. Esta tecnología utiliza una aplicación de AI llamada "Machine Learning", ML por sus siglas en inglés. El ML es controversial por su potencial sesgo, o por su complejidad de auditar.

ML necesita de grandes cantidades de datos para "aprender", y los patrones que surgen de este aprendizaje, si son del mundo real, pueden reflejar sesgos. Un ejemplo es la aplicación para identificar a los candidatos mejor calificados, de entre miles, a un puesto de trabajo, este podría discriminar inadvertidamente contra ciertas clases de personas. Sin embargo, este problema no es nuevo para los reguladores, y existen experiencias en la identificación y aplicación de políticas para evitar la discriminación de grupos protegidos.

Regresando al reconocimiento facial, las fuerzas policiales en diferentes países la han adoptado. La controversia viene por el uso sesgado o para propósitos menos nobles. Por ejemplo, China utiliza el reconocimiento facial como parte de su vigilancia de los musulmanes uigures en la provincia de Xinjiang, un programa que ya ha sido denunciado por grupos de derechos humanos. Pero, también se utiliza en Estados Unidos, Brasil, India y Reino Unido. La tecnología también tiene otros usos en el sector privado incluyendo uso comercial en puntos de venta.

Ante esto, el CEO de Google, Sundar Pichai, recientemente llamó a una "moratoria" mundial sobre el reconocimiento facial, mientras se cuente con un marco de regulación internacional. Google no ha querido comercializar su tecnología por miedo a un mal uso. Por otro lado, se espera que la Unión Europea haga una propuesta, pronto, sobre regulación de la AI. En ciudades como San Francisco y Oakland en California, también han suspendido el uso por la fuerza pública de esta tecnología.

¿Qué aspectos deberíamos regular y por qué?  Primero, como ya discutimos, el potencial uso sesgado de la tecnología y posibles violaciones a leyes que prohiben la discriminación. Segundo, el uso generalizado de esta tecnología puede violar el derecho a la intimidad y por lo tanto, regulaciones como el Reglamento General Protección de Datos de la UE, la más avanzada del mundo. Y tercero, el uso de la tecnología de reconocimiento facial por parte de gobiernos para la vigilancia masiva que pueda coartar las libertades democráticas.

Tags:

Lee también

Comentarios

Newsletter
X

Suscríbete a nuestros boletines y actualiza tus preferencias

Mensaje de response para boletines