Las razones de esto van al coraz\u00f3n de por qu\u00e9 comenzamos nuestro Proyecto de Injusticia Automatizada. La tecnolog\u00eda de reconocimiento facial, como muchos tipos de inteligencia artificial o sistemas de decisi\u00f3n automatizados utilizados por el gobierno, puede empeorar la injusticia racial, limitar nuestros derechos y libertades civiles, como el derecho a la privacidad y la libertad de expresi\u00f3n, y privar a las personas de la justicia fundamental. Si queremos combatir esos da\u00f1os, el reconocimiento facial no puede escapar de nuestro escrutinio, especialmente porque los cuerpos policiales de Nueva Jersey contin\u00faan usando la tecnolog\u00eda a pesar de sus peligros. <\/p>\n
Cuando discutimos el uso del reconocimiento facial por parte de los cuerpos policiales, a menudo nos referimos a una acci\u00f3n llamada identificaci\u00f3n facial: dada una foto fija de la escena de un crimen, como una tomada de una c\u00e1mara de vigilancia, la polic\u00eda compara una cara en la foto con una identidad conocida en una base de datos policial existente, como una colecci\u00f3n digital de fichas o de fotos policiales. La tecnolog\u00eda de reconocimiento facial automatiza ese paso de identificaci\u00f3n a trav\u00e9s de inteligencia artificial. <\/p>\n
Esta acci\u00f3n puede parecer bastante b\u00e1sica, pero para comprender c\u00f3mo el uso de la tecnolog\u00eda de reconocimiento facial agrava vigilancia racista y amenaza nuestras libertades civiles, veamos qu\u00e9 sucede cuando falla el reconocimiento facial y luego consideremos las consecuencias si funcionara demasiado<\/em> bien. <\/p>\n Cuando falla el reconocimiento facial, los errores conducen a un arresto y encarcelamiento injustificado, y las personas de color son las m\u00e1s afectadas. <\/p>\n Ser identificado como un sospechoso potencial puede resultar directamente en arresto y encarcelamiento. Cuando el reconocimiento facial etiqueta un rostro desconocido con una identidad equivocada (un falso positivo<\/em>), eso puede resultar en un arresto y encarcelamiento injustificado. <\/p>\n \"El reconocimiento facial est\u00e1 lejos de ser una ciencia exacta. Los analistas humanos pueden depositar una confianza indebida en la tecnolog\u00eda de reconocimiento facial, creyendo que las coincidencias incorrectas son verdaderas incluso si su propio juicio fuera diferente.\"<\/p>\n Este problema no es hipot\u00e9tico. Los habitantes de Nueva Jersey ya han sido arrestados debido a que el reconocimiento facial sali\u00f3 mal. Un hombre de Paterson llamado Nijeer Parks pas\u00f3 diez d\u00edas en la c\u00e1rcel<\/a> por hurto despu\u00e9s de que la polic\u00eda lo identific\u00f3 err\u00f3neamente utilizando reconocimiento facial, a pesar de que estaba a 30 millas de distancia en el momento del incidente. En este caso, la polic\u00eda subcontrat\u00f3 la b\u00fasqueda a trav\u00e9s de reconocimiento facial al pedirle a los cuerpos policiales de Nueva York que realizaran la b\u00fasqueda utilizando su sistema. Esta pr\u00e1ctica no es regulada lo que hace que la supervisi\u00f3n y que la rendici\u00f3n de cuentas sea a\u00fan m\u00e1s dif\u00edcil de implementar. <\/p>\n \u00bfC\u00f3mo pueden ocurrir tan f\u00e1cilmente estos errores obvios? El reconocimiento facial est\u00e1 lejos de ser una ciencia exacta. Los sistemas y algoritmos como el reconocimiento facial todav\u00eda requieren que los humanos los operen e interpreten sus resultados, lo que lleva a errores y mal uso. Los analistas humanos pueden depositar una confianza indebida en la tecnolog\u00eda de reconocimiento facial, creyendo que las coincidencias incorrectas son verdaderas incluso si su propio juicio fuera diferente. El resultado es un proceso de investigaci\u00f3n propenso a errores que puede conducir a una grave p\u00e9rdida de libertad. <\/p>\n Para agravar esos problemas, las tecnolog\u00edas de reconocimiento facial suelen ser m\u00e1s propensas a cometer errores<\/a> cuando intentan identificar los rostros de gente morena, y lo que significa es m\u00e1s probable que las personas de color enfrenten un escrutinio policial err\u00f3neo<\/a>. La desigualdad en el rendimiento puede ser severa: un algoritmo comercial de reconocimiento facial probado por el gobierno era 40 veces m\u00e1s propenso a errores para las mujeres negras y 79 veces m\u00e1s propenso a errores para las mujeres ind\u00edgenas que para los hombres blancos.1<\/sup> <\/p>\n Incluso si el reconocimiento facial identificara a las personas con perfecta precisi\u00f3n, seguir\u00eda siendo inadecuado para el uso policial en una sociedad libre. <\/p>\n A nuestros derechos y libertades no les ir\u00eda mejor en un mundo donde las tecnolog\u00edas de reconocimiento facial fueran 100 por ciento precisas. Incluso si el reconocimiento facial fuera igualmente preciso para las personas blancas que para las personas Negras, las herramientas policiales y de vigilancia todav\u00eda est\u00e1n dirigidas de manera desproporcionada a las comunidades de color, lo que genera da\u00f1os mayores para esas comunidades. <\/p>\n \"Un algoritmo comercial de reconocimiento facial probado por el gobierno era 40 veces m\u00e1s propenso a errores para las mujeres negras y 79 veces m\u00e1s propenso a errores para las mujeres ind\u00edgenas que para los hombres blancos.\"<\/p>\n Y en un nivel fundamental, la presencia de vigilancia altera la relaci\u00f3n de las personas con sus vecindarios y comunidades. El uso generalizado del reconocimiento facial puede tener un efecto negativo sobre la libertad de expresi\u00f3n y asamblea si las personas temen perder su anonimato cuando participan en actividades pol\u00edticas protegidas por la Primera Enmienda. La amenaza de la vigilancia y el escrutinio del gobierno puede incluso desalentar lo que deber\u00edan ser actividades cotidianas b\u00e1sicas, como ir a una cl\u00ednica de salud o a un templo de adoraci\u00f3n. La necesidad de una prohibici\u00f3n total del reconocimiento facial por parte de los cuerpos policiales. La \u00fanica pol\u00edtica segura para gobernar el reconocimiento facial es la prohibici\u00f3n total de su uso por parte de los cuerpos policiales. <\/p>\n La \u00fanica manera segura de regular el reconocimiento facial es una prohibici\u00f3n total del uso por parte de los cuerpos policiales. <\/p>\n Los habitantes de Nueva Jersey ya est\u00e1n rechazando esta tecnolog\u00eda invasora \u2013 en 2021, Teaneck se convirti\u00f3 en la primera ciudad de Nueva Jersey en prohibir que la polic\u00eda use el reconocimiento facial, en gran parte debido a las preocupaciones sobre el efecto de la tecnolog\u00eda en los derechos civiles. Y en enero de 2020, el fiscal general de Nueva Jersey prohibi\u00f3 el uso de la poderosa e intrusiva herramienta desarrollada por Clearview Al. Exhortamos a los habitantes de Nueva Jersey que pregunten a las autoridades locales sobre el uso del reconocimiento facial y exijan mayor supervisi\u00f3n de esta tecnolog\u00eda peligrosa y poco confiable. <\/p>\n Los sistemas policiales no son el \u00fanico contexto en el que el gobierno utiliza el reconocimiento facial: todo, desde la seguridad escolar hasta los beneficios p\u00fablicos, podr\u00eda verse afectado por la adopci\u00f3n del reconocimiento facial. Es importante que permanezcamos atentos al uso del reconocimiento facial y sigamos pidiendo regulaci\u00f3n y supervisi\u00f3n para defender los derechos y libertades civiles fundamentales. <\/p>\n La ACLU-NJ comenz\u00f3 el Proyecto de Injusticia Automatizada para investigar el uso de inteligencia artificial, sistemas automatizados de toma de decisiones y otros tipos de algoritmos por parte del gobierno de Nueva Jersey. Te invitamos a compartir tu historia<\/a> de c\u00f3mo el uso de sistemas automatizados por parte del gobierno ha afectado tu vida.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" La tecnolog\u00eda de reconocimiento facial, como muchos tipos de inteligencia artificial o sistemas de decisi\u00f3n automatizados utilizados por el gobierno, puede empeorar la injusticia racial, limitar nuestros derechos y libertades civiles, y privar a las personas de la justicia fundamental.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_relevanssi_hide_post":"","_relevanssi_hide_content":"","_relevanssi_pin_for_all":"","_relevanssi_pin_keywords":"","_relevanssi_unpin_keywords":"","_relevanssi_related_keywords":"","_relevanssi_related_include_ids":"","_relevanssi_related_exclude_ids":"","_relevanssi_related_no_append":"","_relevanssi_related_not_related":"","_relevanssi_related_posts":"","_relevanssi_noindex_reason":"","footnotes":""},"categories":[1],"tags":[],"class_list":["post-5328","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"acf":{"header_layout":"standard","header_image":5325,"mobile_header_image":null,"description":"La tecnolog\u00eda de reconocimiento facial, como muchos tipos de inteligencia artificial o sistemas de decisi\u00f3n automatizados utilizados por el gobierno, puede empeorar la injusticia racial, limitar nuestros derechos y libertades civiles, y privar a las personas de la justicia fundamental.\n","authors":[],"components":[{"acf_fc_layout":"youtube","youtube":{"oembed-url":"https:\/\/www.youtube-nocookie.com\/watch?v=do6_ny6h5Mg","cover-image":5807}},{"acf_fc_layout":"text","text":{"text":"En marzo del 2022, el fiscal general de Nueva Jersey hizo una pregunta importante al p\u00fablico: \u00bfc\u00f3mo se debe regular el uso de la tecnolog\u00eda de reconocimiento facial por parte de los cuerpos policiales? En respuesta, la Uni\u00f3n Americana de Libertades Civiles de Nueva Jersey (ACLU-NJ) urgi\u00f3 al fiscal general a considerar una preocupaci\u00f3n m\u00e1s fundamental: \u00bfse le deber\u00eda permitir a los cuerpos policiales utilizar el reconocimiento facial? Nuestra respuesta es un rotundo no, y llamamos a una prohibici\u00f3n total<\/a> del uso de la tecnolog\u00eda de reconocimiento facial por parte de los cuerpos policiales.\n\nLas razones de esto van al coraz\u00f3n de por qu\u00e9 comenzamos nuestro Proyecto de Injusticia Automatizada. La tecnolog\u00eda de reconocimiento facial, como muchos tipos de inteligencia artificial o sistemas de decisi\u00f3n automatizados utilizados por el gobierno, puede empeorar la injusticia racial, limitar nuestros derechos y libertades civiles, como el derecho a la privacidad y la libertad de expresi\u00f3n, y privar a las personas de la justicia fundamental. Si queremos combatir esos da\u00f1os, el reconocimiento facial no puede escapar de nuestro escrutinio, especialmente porque los cuerpos policiales de Nueva Jersey contin\u00faan usando la tecnolog\u00eda a pesar de sus peligros. \n\nCuando discutimos el uso del reconocimiento facial por parte de los cuerpos policiales, a menudo nos referimos a una acci\u00f3n llamada identificaci\u00f3n facial: dada una foto fija de la escena de un crimen, como una tomada de una c\u00e1mara de vigilancia, la polic\u00eda compara una cara en la foto con una identidad conocida en una base de datos policial existente, como una colecci\u00f3n digital de fichas o de fotos policiales. La tecnolog\u00eda de reconocimiento facial automatiza ese paso de identificaci\u00f3n a trav\u00e9s de inteligencia artificial. \n\nEsta acci\u00f3n puede parecer bastante b\u00e1sica, pero para comprender c\u00f3mo el uso de la tecnolog\u00eda de reconocimiento facial agrava vigilancia racista y amenaza nuestras libertades civiles, veamos qu\u00e9 sucede cuando falla el reconocimiento facial y luego consideremos las consecuencias si funcionara demasiado<\/em> bien. "}},{"acf_fc_layout":"heading","heading":{"":null,"text":"\u00bfQu\u00e9 pasa cuando el reconocimiento facial sale mal?\u00a0","anchor":"","sub-heading":"","type":"h2","heading-style":"standard"}},{"acf_fc_layout":"text","text":{"text":"Cuando falla el reconocimiento facial, los errores conducen a un arresto y encarcelamiento injustificado, y las personas de color son las m\u00e1s afectadas. \n\nSer identificado como un sospechoso potencial puede resultar directamente en arresto y encarcelamiento. Cuando el reconocimiento facial etiqueta un rostro desconocido con una identidad equivocada (un falso positivo<\/em>), eso puede resultar en un arresto y encarcelamiento injustificado. "}},{"acf_fc_layout":"pullquote","pullquote":{"":null,"text":"\"El reconocimiento facial est\u00e1 lejos de ser una ciencia exacta. Los analistas humanos pueden depositar una confianza indebida en la tecnolog\u00eda de reconocimiento facial, creyendo que las coincidencias incorrectas son verdaderas incluso si su propio juicio fuera diferente.\"","source":"","width":"half","alignment":"right"}},{"acf_fc_layout":"text","text":{"text":"Este problema no es hipot\u00e9tico. Los habitantes de Nueva Jersey ya han sido arrestados debido a que el reconocimiento facial sali\u00f3 mal. Un hombre de Paterson llamado Nijeer Parks pas\u00f3 diez d\u00edas en la c\u00e1rcel<\/a> por hurto despu\u00e9s de que la polic\u00eda lo identific\u00f3 err\u00f3neamente utilizando reconocimiento facial, a pesar de que estaba a 30 millas de distancia en el momento del incidente. En este caso, la polic\u00eda subcontrat\u00f3 la b\u00fasqueda a trav\u00e9s de reconocimiento facial al pedirle a los cuerpos policiales de Nueva York que realizaran la b\u00fasqueda utilizando su sistema. Esta pr\u00e1ctica no es regulada lo que hace que la supervisi\u00f3n y que la rendici\u00f3n de cuentas sea a\u00fan m\u00e1s dif\u00edcil de implementar. \n\n\u00bfC\u00f3mo pueden ocurrir tan f\u00e1cilmente estos errores obvios? El reconocimiento facial est\u00e1 lejos de ser una ciencia exacta. Los sistemas y algoritmos como el reconocimiento facial todav\u00eda requieren que los humanos los operen e interpreten sus resultados, lo que lleva a errores y mal uso. Los analistas humanos pueden depositar una confianza indebida en la tecnolog\u00eda de reconocimiento facial, creyendo que las coincidencias incorrectas son verdaderas incluso si su propio juicio fuera diferente. El resultado es un proceso de investigaci\u00f3n propenso a errores que puede conducir a una grave p\u00e9rdida de libertad. "}},{"acf_fc_layout":"single-image","single-image":{"":null,"image-group":{"image":2206,"":null,"caption":"","credit":"","link-settings":"none","url":""},"width":"standard","alignment":"left"}},{"acf_fc_layout":"text","text":{"text":"Para agravar esos problemas, las tecnolog\u00edas de reconocimiento facial suelen ser m\u00e1s propensas a cometer errores<\/a> cuando intentan identificar los rostros de gente morena, y lo que significa es m\u00e1s probable que las personas de color enfrenten un escrutinio policial err\u00f3neo<\/a>. La desigualdad en el rendimiento puede ser severa: un algoritmo comercial de reconocimiento facial probado por el gobierno era 40 veces m\u00e1s propenso a errores para las mujeres negras y 79 veces m\u00e1s propenso a errores para las mujeres ind\u00edgenas que para los hombres blancos.1 "}},{"acf_fc_layout":"heading","heading":{"":null,"text":"\u00bfQu\u00e9 pasa si funcion\u00f3 el reconocimiento facial con perfecta precisi\u00f3n?\u00a0","anchor":"","sub-heading":"","type":"h2","heading-style":"standard"}},{"acf_fc_layout":"text","text":{"text":"Incluso si el reconocimiento facial identificara a las personas con perfecta precisi\u00f3n, seguir\u00eda siendo inadecuado para el uso policial en una sociedad libre. \n\nA nuestros derechos y libertades no les ir\u00eda mejor en un mundo donde las tecnolog\u00edas de reconocimiento facial fueran 100 por ciento precisas. Incluso si el reconocimiento facial fuera igualmente preciso para las personas blancas que para las personas Negras, las herramientas policiales y de vigilancia todav\u00eda est\u00e1n dirigidas de manera desproporcionada a las comunidades de color, lo que genera da\u00f1os mayores para esas comunidades. "}},{"acf_fc_layout":"pullquote","pullquote":{"":null,"text":"\"Un algoritmo comercial de reconocimiento facial probado por el gobierno era 40 veces m\u00e1s propenso a errores para las mujeres negras y 79 veces m\u00e1s propenso a errores para las mujeres ind\u00edgenas que para los hombres blancos.\"","source":"","width":"half","alignment":"right"}},{"acf_fc_layout":"text","text":{"text":"Y en un nivel fundamental, la presencia de vigilancia altera la relaci\u00f3n de las personas con sus vecindarios y comunidades. El uso generalizado del reconocimiento facial puede tener un efecto negativo sobre la libertad de expresi\u00f3n y asamblea si las personas temen perder su anonimato cuando participan en actividades pol\u00edticas protegidas por la Primera Enmienda. La amenaza de la vigilancia y el escrutinio del gobierno puede incluso desalentar lo que deber\u00edan ser actividades cotidianas b\u00e1sicas, como ir a una cl\u00ednica de salud o a un templo de adoraci\u00f3n. La necesidad de una prohibici\u00f3n total del reconocimiento facial por parte de los cuerpos policiales. La \u00fanica pol\u00edtica segura para gobernar el reconocimiento facial es la prohibici\u00f3n total de su uso por parte de los cuerpos policiales. "}},{"acf_fc_layout":"heading","heading":{"":null,"text":"La necesidad de una prohibici\u00f3n total del use del reconocimiento facial por parte de los cuerpos policiales\u00a0","anchor":"","sub-heading":"","type":"h2","heading-style":"standard"}},{"acf_fc_layout":"text","text":{"text":"La \u00fanica manera segura de regular el reconocimiento facial es una prohibici\u00f3n total del uso por parte de los cuerpos policiales. \n\nLos habitantes de Nueva Jersey ya est\u00e1n rechazando esta tecnolog\u00eda invasora \u2013 en 2021, Teaneck se convirti\u00f3 en la primera ciudad de Nueva Jersey en prohibir que la polic\u00eda use el reconocimiento facial, en gran parte debido a las preocupaciones sobre el efecto de la tecnolog\u00eda en los derechos civiles. Y en enero de 2020, el fiscal general de Nueva Jersey prohibi\u00f3 el uso de la poderosa e intrusiva herramienta desarrollada por Clearview Al. Exhortamos a los habitantes de Nueva Jersey que pregunten a las autoridades locales sobre el uso del reconocimiento facial y exijan mayor supervisi\u00f3n de esta tecnolog\u00eda peligrosa y poco confiable. \n\nLos sistemas policiales no son el \u00fanico contexto en el que el gobierno utiliza el reconocimiento facial: todo, desde la seguridad escolar hasta los beneficios p\u00fablicos, podr\u00eda verse afectado por la adopci\u00f3n del reconocimiento facial. Es importante que permanezcamos atentos al uso del reconocimiento facial y sigamos pidiendo regulaci\u00f3n y supervisi\u00f3n para defender los derechos y libertades civiles fundamentales. \n\nLa ACLU-NJ comenz\u00f3 el Proyecto de Injusticia Automatizada para investigar el uso de inteligencia artificial, sistemas automatizados de toma de decisiones y otros tipos de algoritmos por parte del gobierno de Nueva Jersey. Te invitamos a compartir tu historia<\/a> de c\u00f3mo el uso de sistemas automatizados por parte del gobierno ha afectado tu vida.<\/em>"}}],"issues":[3645],"related_content":[5302,5303,5300,5301,5312,5313,5329,5332],"documents":null},"yoast_head":"\n\u00bfQu\u00e9 pasa cuando el reconocimiento facial sale mal? <\/h2>\n
![\"Shows](\"https:\/\/www.aclu-nj.org\/app\/uploads\/2023\/01\/aclunj_facial_recognition_data_thumbnail-scaled.png\")
<\/p>\n\u00bfQu\u00e9 pasa si funcion\u00f3 el reconocimiento facial con perfecta precisi\u00f3n? <\/h2>\n
La necesidad de una prohibici\u00f3n total del use del reconocimiento facial por parte de los cuerpos policiales <\/h2>\n