Estos tipos de algoritmos para evaluar el riesgo previo al juicio han sido objeto de un escrutinio riguroso en los \u00faltimos a\u00f1os, y por buena raz\u00f3n, ya que pueden perpetuar el sesgo racial seg\u00fan eval\u00faan el riesgo.
\n<\/p>\n
Cuando alguien es acusado de un delito y arrestado, el juez debe decidir si dicta la prisi\u00f3n preventiva. Si la persona es obligada a permanecer en prisi\u00f3n, va a ser cada vez m\u00e1s dif\u00edcil<\/a> no aceptar un acuerdo de reducci\u00f3n de sentencia<\/a> (y enfrentar las consecuencias posteriores) incluso si los cargos imputados en su contra son injustos. Las personas que est\u00e1n en prisi\u00f3n previo al juicio tambi\u00e9n reciben sentencias mucho m\u00e1s duras<\/a> si son declaradas culpables. Si se les permite luchar contra sus cargos desde su casa, lo m\u00e1s probable es que obtengan un resultado mucho m\u00e1s justo. Esto hace que la decisi\u00f3n de determinar la libertad antes del juicio sea una de las m\u00e1s relevantes para el caso de una persona; y en Nueva Jersey, el sistema jur\u00eddico penal depende de los algoritmos para tomar esa decisi\u00f3n. <\/p>\n En 2017, despu\u00e9s de la abolici\u00f3n de la fianza en efectivo, Nueva Jersey adopt\u00f3 un algoritmo para evaluar el riesgo previo al juicio llamado Public Safety Assessment (Evaluaci\u00f3n de la Seguridad P\u00fablica)<\/em>, o PSA, para informar si la persona debe ser detenida previo al juicio. <\/p>\n \"Las personas que est\u00e1n en prisi\u00f3n previo al juicio tambi\u00e9n reciben sentencias mucho m\u00e1s duras si son declaradas culpables. Si se les permite luchar contra sus cargos desde su casa, lo m\u00e1s probable es que obtengan un resultado mucho m\u00e1s justo.\"<\/p>\n La PSA mide dos aspectos del nivel de \u201criesgo\u201d del acusado en una escala del uno al seis (qu\u00e9 tan probable es que las personas no comparezcan en futuras citas judiciales y hasta qu\u00e9 punto podr\u00edan correr el riesgo de ser arrestadas de nuevo. La PSA tambi\u00e9n proporciona una \u201calerta\u201d si calcula un riesgo elevado de que una persona pueda ser arrestada de nuevo por un delito de violencia. El sistema actual de Nueva Jersey asume que las personas tienen derecho a permanecer en libertad mientras luchan contra sus cargos y s\u00f3lo pueden ser detenidas si un juez, informado por la PSA, considera que no pueden ser puestas en libertad sin riesgos a la comunidad. <\/p>\n Estos tipos de algoritmos para evaluar el riesgo previo al juicio han sido objeto de un escrutinio riguroso en los \u00faltimos a\u00f1os, y por buena raz\u00f3n, ya que pueden perpetuar el sesgo racial seg\u00fan eval\u00faan el riesgo. Las personas de color, que tienen m\u00e1s probabilidades de ser arrestadas<\/a> que las personas blancas y de obtener sentencias mucho m\u00e1s largas por los mismos delitos, con seguridad recibir\u00e1n puntajes de riesgo m\u00e1s altos (un resultado de d\u00e9cadas de racismo sistem\u00e1tico y de un exceso de vigilancia selectiva de las comunidades negra y morena, contexto que la propia evaluaci\u00f3n ignora). <\/p>\n Esto se relaciona directamente con las preguntas m\u00e1s apremiantes del Proyecto de Injusticia Automatizada<\/a>: \u00bfpuede un algoritmo, que s\u00f3lo tiene en cuenta nueve factores<\/a> del acusado, cumplir con el debido proceso garantizado en la constituci\u00f3n? Y adem\u00e1s, \u00bfla vida de una persona deber\u00eda reducirse a un n\u00famero en una p\u00e1gina (una evaluaci\u00f3n no exhaustiva de la realidad) cuando su libertad est\u00e1 en juego? <\/p>\n Nuestra interpretaci\u00f3n de estas preguntas esenciales est\u00e1 fundamentada en lo que hemos visto en Nueva Jersey, que implement\u00f3 la PSA por primera vez en 2017 con el objetivo de eliminar la fianza en efectivo en la mayor\u00eda de los casos penales. \u00bfCu\u00e1l ha sido el impacto de este cambio masivo de la fianza en efectivo? \u00bfY c\u00f3mo la PSA ha afectado a ese panorama? <\/p>\n Desde la eliminaci\u00f3n de la fianza en efectivo y la adopci\u00f3n de la PSA en 2017, Nueva Jersey ha reducido de forma dr\u00e1stica su poblaci\u00f3n carcelaria sin costo alguno para la seguridad p\u00fablica. Los acusados siguieron compareciendo ante el juez sin aumento de la criminalidad<\/a>, y ahora pasan menos tiempo en prisi\u00f3n<\/a>. Esto indica que la abolici\u00f3n de la fianza en efectivo en Nueva Jersey fue todo un \u00e9xito (encarcelar a personas antes de que sean condenadas es cruel e innecesario). <\/p>\n \"Los defensores del algoritmo para evaluar el riesgo previo al juicio ten\u00edan la esperanza de que las decisiones fueran tomadas libres de prejuicios, a diferencia de los jueces humanos, pero eso no es lo que est\u00e1 pasando.\"<\/p>\n Sin embargo, la PSA no ha abordado el sesgo sistem\u00e1tico racial de las personas que est\u00e1n detenidas esperando su juicio. Antes de la reforma de la fianza y la adopci\u00f3n de la PSA, los acusados de la comunidad negra representaban el 54\u202f% de la poblaci\u00f3n carcelaria de Nueva Jersey. En la actualidad, cinco a\u00f1os despu\u00e9s, esa cifra sigue siendo la misma a pesar de que la poblaci\u00f3n carcelaria fue reducida de forma dr\u00e1stica. Los defensores del algoritmo para evaluar el riesgo previo al juicio ten\u00edan la esperanza de que las decisiones fueran tomadas libres de prejuicios, a diferencia de los jueces humanos, pero eso no es lo que est\u00e1 pasando. <\/p>\n La experiencia de Nueva Jersey en usar la PSA enfatiza la necesidad de una regulaci\u00f3n integral y una supervisi\u00f3n de los algoritmos del gobierno y de los sistemas de decisi\u00f3n automatizadas. El gobierno deber\u00eda tener la obligaci\u00f3n de evaluar en todo momento los algoritmos en los que conf\u00eda para entender mejor su impacto en las comunidades marginadas, (y estos sistemas no deber\u00edan estar protegidos del escrutinio p\u00fablico y de la responsabilidad). Algunos estudios ya han analizado el funcionamiento de la PSA, pero entender su impacto y los efectos de los sistemas como \u00e9ste es un proyecto esencial que necesita apoyo. <\/p>\n S\u00f3lo cuando est\u00e9 acompa\u00f1ado de una infraestructura s\u00f3lida de supervisi\u00f3n que regule su uso, podr\u00edamos empezar a considerar la incorporaci\u00f3n de algoritmos para las decisiones que afectan cosas tan importantes que pueden impactar la vida de una persona, como los derechos civiles de las personas y sus libertades civiles. <\/p>\n Nosotros tenemos derecho a saber que el gobierno nos est\u00e1 tratando de forma justa y con dignidad. Las nuevas tecnolog\u00edas como los algoritmos y los sistemas de decisi\u00f3n automatizados no son la excepci\u00f3n. <\/p>\n","protected":false},"excerpt":{"rendered":" Estos tipos de algoritmos para evaluar el riesgo previo al juicio han sido objeto de un escrutinio riguroso en los \u00faltimos a\u00f1os, y por buena raz\u00f3n, ya que pueden perpetuar el sesgo racial seg\u00fan eval\u00faan el riesgo.<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_relevanssi_hide_post":"","_relevanssi_hide_content":"","_relevanssi_pin_for_all":"","_relevanssi_pin_keywords":"","_relevanssi_unpin_keywords":"","_relevanssi_related_keywords":"","_relevanssi_related_include_ids":"","_relevanssi_related_exclude_ids":"","_relevanssi_related_no_append":"","_relevanssi_related_not_related":"","_relevanssi_related_posts":"","_relevanssi_noindex_reason":"","footnotes":""},"categories":[7,7],"tags":[],"class_list":["post-5332","post","type-post","status-publish","format-standard","hentry","category-sin-categoria"],"acf":{"header_layout":"standard","header_image":2534,"mobile_header_image":null,"description":"Estos tipos de algoritmos para evaluar el riesgo previo al juicio han sido objeto de un escrutinio riguroso en los \u00faltimos a\u00f1os, y por buena raz\u00f3n, ya que pueden perpetuar el sesgo racial seg\u00fan eval\u00faan el riesgo.\n","authors":[],"components":[{"acf_fc_layout":"youtube","youtube":{"oembed-url":"https:\/\/www.youtube-nocookie.com\/watch?v=_PB1qit64Wo","cover-image":5839}},{"acf_fc_layout":"text","text":{"text":"Cuando alguien es acusado de un delito y arrestado, el juez debe decidir si dicta la prisi\u00f3n preventiva. Si la persona es obligada a permanecer en prisi\u00f3n, va a ser cada vez m\u00e1s dif\u00edcil<\/a> no aceptar un acuerdo de reducci\u00f3n de sentencia<\/a> (y enfrentar las consecuencias posteriores) incluso si los cargos imputados en su contra son injustos. Las personas que est\u00e1n en prisi\u00f3n previo al juicio tambi\u00e9n reciben sentencias mucho m\u00e1s duras<\/a> si son declaradas culpables. Si se les permite luchar contra sus cargos desde su casa, lo m\u00e1s probable es que obtengan un resultado mucho m\u00e1s justo. Esto hace que la decisi\u00f3n de determinar la libertad antes del juicio sea una de las m\u00e1s relevantes para el caso de una persona; y en Nueva Jersey, el sistema jur\u00eddico penal depende de los algoritmos para tomar esa decisi\u00f3n. "}},{"acf_fc_layout":"heading","heading":{"":null,"text":"Sobre la Evaluaci\u00f3n de la Seguridad P\u00fablica (PSA)\u00a0","anchor":"","sub-heading":"","type":"h2","heading-style":"standard"}},{"acf_fc_layout":"text","text":{"text":"En 2017, despu\u00e9s de la abolici\u00f3n de la fianza en efectivo, Nueva Jersey adopt\u00f3 un algoritmo para evaluar el riesgo previo al juicio llamado Public Safety Assessment (Evaluaci\u00f3n de la Seguridad P\u00fablica)<\/em>, o PSA, para informar si la persona debe ser detenida previo al juicio. "}},{"acf_fc_layout":"pullquote","pullquote":{"":null,"text":"\"Las personas que est\u00e1n en prisi\u00f3n previo al juicio tambi\u00e9n reciben sentencias mucho m\u00e1s duras si son declaradas culpables. Si se les permite luchar contra sus cargos desde su casa, lo m\u00e1s probable es que obtengan un resultado mucho m\u00e1s justo.\"","source":"","width":"half","alignment":"right"}},{"acf_fc_layout":"text","text":{"text":"La PSA mide dos aspectos del nivel de \u201criesgo\u201d del acusado en una escala del uno al seis (qu\u00e9 tan probable es que las personas no comparezcan en futuras citas judiciales y hasta qu\u00e9 punto podr\u00edan correr el riesgo de ser arrestadas de nuevo. La PSA tambi\u00e9n proporciona una \u201calerta\u201d si calcula un riesgo elevado de que una persona pueda ser arrestada de nuevo por un delito de violencia. El sistema actual de Nueva Jersey asume que las personas tienen derecho a permanecer en libertad mientras luchan contra sus cargos y s\u00f3lo pueden ser detenidas si un juez, informado por la PSA, considera que no pueden ser puestas en libertad sin riesgos a la comunidad. "}},{"acf_fc_layout":"heading","heading":{"":null,"text":"Las preocupaciones sobre los algoritmos como la PSA\u00a0","anchor":"","sub-heading":"","type":"h2","heading-style":"standard"}},{"acf_fc_layout":"text","text":{"text":"Estos tipos de algoritmos para evaluar el riesgo previo al juicio han sido objeto de un escrutinio riguroso en los \u00faltimos a\u00f1os, y por buena raz\u00f3n, ya que pueden perpetuar el sesgo racial seg\u00fan eval\u00faan el riesgo. Las personas de color, que tienen m\u00e1s probabilidades de ser arrestadas<\/a> que las personas blancas y de obtener sentencias mucho m\u00e1s largas por los mismos delitos, con seguridad recibir\u00e1n puntajes de riesgo m\u00e1s altos (un resultado de d\u00e9cadas de racismo sistem\u00e1tico y de un exceso de vigilancia selectiva de las comunidades negra y morena, contexto que la propia evaluaci\u00f3n ignora). \n\nEsto se relaciona directamente con las preguntas m\u00e1s apremiantes del Proyecto de Injusticia Automatizada<\/a>: \u00bfpuede un algoritmo, que s\u00f3lo tiene en cuenta nueve factores<\/a> del acusado, cumplir con el debido proceso garantizado en la constituci\u00f3n? Y adem\u00e1s, \u00bfla vida de una persona deber\u00eda reducirse a un n\u00famero en una p\u00e1gina (una evaluaci\u00f3n no exhaustiva de la realidad) cuando su libertad est\u00e1 en juego? \n\nNuestra interpretaci\u00f3n de estas preguntas esenciales est\u00e1 fundamentada en lo que hemos visto en Nueva Jersey, que implement\u00f3 la PSA por primera vez en 2017 con el objetivo de eliminar la fianza en efectivo en la mayor\u00eda de los casos penales. \u00bfCu\u00e1l ha sido el impacto de este cambio masivo de la fianza en efectivo? \u00bfY c\u00f3mo la PSA ha afectado a ese panorama? "}},{"acf_fc_layout":"heading","heading":{"":null,"text":"La experiencia de Nueva Jersey con la PSA\u00a0","anchor":"","sub-heading":"","type":"h2","heading-style":"standard"}},{"acf_fc_layout":"text","text":{"text":"Desde la eliminaci\u00f3n de la fianza en efectivo y la adopci\u00f3n de la PSA en 2017, Nueva Jersey ha reducido de forma dr\u00e1stica su poblaci\u00f3n carcelaria sin costo alguno para la seguridad p\u00fablica. Los acusados siguieron compareciendo ante el juez sin aumento de la criminalidad<\/a>, y ahora pasan menos tiempo en prisi\u00f3n<\/a>. Esto indica que la abolici\u00f3n de la fianza en efectivo en Nueva Jersey fue todo un \u00e9xito (encarcelar a personas antes de que sean condenadas es cruel e innecesario). "}},{"acf_fc_layout":"pullquote","pullquote":{"":null,"text":"\"Los defensores del algoritmo para evaluar el riesgo previo al juicio ten\u00edan la esperanza de que las decisiones fueran tomadas libres de prejuicios, a diferencia de los jueces humanos, pero eso no es lo que est\u00e1 pasando.\"","source":"","width":"half","alignment":"right"}},{"acf_fc_layout":"text","text":{"text":"Sin embargo, la PSA no ha abordado el sesgo sistem\u00e1tico racial de las personas que est\u00e1n detenidas esperando su juicio. Antes de la reforma de la fianza y la adopci\u00f3n de la PSA, los acusados de la comunidad negra representaban el 54\u202f% de la poblaci\u00f3n carcelaria de Nueva Jersey. En la actualidad, cinco a\u00f1os despu\u00e9s, esa cifra sigue siendo la misma a pesar de que la poblaci\u00f3n carcelaria fue reducida de forma dr\u00e1stica. Los defensores del algoritmo para evaluar el riesgo previo al juicio ten\u00edan la esperanza de que las decisiones fueran tomadas libres de prejuicios, a diferencia de los jueces humanos, pero eso no es lo que est\u00e1 pasando. \n\nLa experiencia de Nueva Jersey en usar la PSA enfatiza la necesidad de una regulaci\u00f3n integral y una supervisi\u00f3n de los algoritmos del gobierno y de los sistemas de decisi\u00f3n automatizadas. El gobierno deber\u00eda tener la obligaci\u00f3n de evaluar en todo momento los algoritmos en los que conf\u00eda para entender mejor su impacto en las comunidades marginadas, (y estos sistemas no deber\u00edan estar protegidos del escrutinio p\u00fablico y de la responsabilidad). Algunos estudios ya han analizado el funcionamiento de la PSA, pero entender su impacto y los efectos de los sistemas como \u00e9ste es un proyecto esencial que necesita apoyo. \n\nS\u00f3lo cuando est\u00e9 acompa\u00f1ado de una infraestructura s\u00f3lida de supervisi\u00f3n que regule su uso, podr\u00edamos empezar a considerar la incorporaci\u00f3n de algoritmos para las decisiones que afectan cosas tan importantes que pueden impactar la vida de una persona, como los derechos civiles de las personas y sus libertades civiles. \n\nNosotros tenemos derecho a saber que el gobierno nos est\u00e1 tratando de forma justa y con dignidad. Las nuevas tecnolog\u00edas como los algoritmos y los sistemas de decisi\u00f3n automatizados no son la excepci\u00f3n. "}}],"issues":[3645],"related_content":[5302,5303,5323,5328,5312,5313,5300,5301],"documents":null},"yoast_head":"\nSobre la Evaluaci\u00f3n de la Seguridad P\u00fablica (PSA) <\/h2>\n
Las preocupaciones sobre los algoritmos como la PSA <\/h2>\n
La experiencia de Nueva Jersey con la PSA <\/h2>\n