IBM se retira del negocio del reconocimiento facial

IBM se retira del negocio del reconocimiento facial

junio 9, 2020 0 Por Wilson Vega

En una carta a los miembros del Congreso, Arvind Krishna, CEO de IBM, comunicó la intención de la firma de abandonar el negocio de reconocimiento facial de propósito general.

Más aún, en una movida destinada a calentar el debate sobre el asunto, indicó que se opone al uso de dicha tecnología para labores de vigilancia masiva y perfilamiento racial (racial profiling).

En su carta, Krishna dijo: “IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluido el reconocimiento facial, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas o cualquier otro propósito no coherente con nuestros valores y principios de confianza y transparencia”.

.

“La Inteligencia Artificial es una herramienta poderosa que puede ayudar a las autoridades a mantener seguros a los ciudadanos. Pero hay que asegurarse de que sea probada frente al sesgo, especialmente si lo usa la Policía, y que ese sesgo sea medido y reportado”.

Arvind Krishna, CEO de IBM

.

El CEO pidió un “diálogo nacional” sobre cómo y cuándo las agencias de seguridad deberían utilizar la tecnología de reconocimiento facial.

No se decidió a la ligera

Es difícil no ver la decision de IBM en el contexto de los abusos policiales que llevaron a protestas generalizadas en Estados Unidos.

La carta agrega: “La política nacional debería estimular el uso de tecnologías que aporten transparencia a la labor policial, como las body cameras y las modernas técnicas de análisis de datos”.

Que la cabeza de una corporación del peso de IBM denuncie el posible abuso de la tecnología de reconocimiento facial no es menos que significativo.

Por años, el software de reconocimiento facial ha recibido señalamientos por su potencial para violaciones de los derechos humanos. Son numerosos los casos en los se evidencia que la tecnología es menos precisa para identificar a las personas de color.

Fuentes de IBM indicaron que la deliberación que llevó a esta medida tomó meses y que antes de escribir al Congreso -la primera mención pública de la decisión-, la firma comunicó su intención a sus clientes.

Krishna agregó en su carta que “el Congreso debería someter más casos de mala conducta policial a la competencia del tribunal federal y debería hacer modificaciones a la doctrina de inmunidad calificada que impide que las personas busquen daños cuando la policía viola sus derechos constitucionales”.

Agregó: “El Congreso también debería establecer un registro federal de mala conducta policial y adoptar medidas para alentar u obligar a los estados y localidades a revisar y actualizar las políticas de uso de la fuerza”.