Ressources en psychocriminologie, psychologie forensique et criminologie
Header

FRANCE CULTURE, émission les chemins de la philosophie  (09/05/2019) Algorithmes : Serons-nous bientôt jugés par des ordinateurs ?

Quels effets les algorithmes ont-ils sur la justice ? Comment le numérique a-t-il révolutionné notre langage et notre écriture, les liens qui structurent notre société ? Et qu’est-ce que cette nouvelle forme d’intelligence engendre de nouveau d’un point de vue juridique et philosophique ?

L’invité du jour :

Jean Lassègue, philosophe et épistémologue, chargé de recherche CNRS et chercheur associé à l’IHEJ, l’Institut des Hautes Etudes sur la Justice

Texte lu par Hélène Lausseur :

  • Extrait de l’ouvrage de Paul Ricoeur, Le Juste IL’acte de juger, éditions Esprit, 1995

Sons diffusés :

  • Extrait du film Imitation Game, de Morten Tyldum, 2014
  • Extrait du film Minority Report, de Steven Spielberg, 2002
  • Extrait d’un journal de France Culture en mai 2015 (des policiers de Paris testent des logiciels prédictifs)
  • Extrait de la fiction France Culture Le Maladie imaginaire, de Verell Ferguson, oeuvre radiophonique de 1973
  • Chanson de fin : Alexandre London, Jury, Judge, Executioner

 

« La justice aux mains des machines ? » – Antoine Garapon à la MSH-ULB

Dans le cadre de son cycle « Aux frontières de l’humain », la Maison des Sciences Humaines de l’ULB recevait Antoine Garapon pour une intervention intitulée : « La justice aux mains des machines ? Algorithmes, intelligences artificielles et justice prédictive ».

Antoine Garapon est Secrétaire général de l’Institut des Hautes Etudes sur la Justice (France) et professeur invité à la Maison des Sciences Humaines de l’ULB. Enregistré le lundi 19 mars 2018.

L’expérience Stanford : anatomie d’un mensonge

En 1971 – aux Etats-Unis – un professeur de psychologie réalise une expérience de recherche spectaculaire. Son but : étudier les effets de l’enfermement en milieu carcéral en recréant les conditions d’une véritable prison au sein même de la prestigieuse université Stanford. Invité Thibaut le Texier.

Au terme de 6 jours d’expérimentation, les étudiants gardiens se sont transformés en bourreaux. Et la conclusion qu’en tire le chercheur est terrifiante, je cite : « Un individu ordinaire – placé dans un certain contexte propice aux violences – peut devenir à son tour le pire des tortionnaires ! »

Pourtant entachée de graves problèmes éthiques, l’expérience Stanford – c’est son nom – s’impose vite comme une référence dans le domaine de la psychologie sociale… Avec elle, son expérimentateur le Professeur Philip Zimbardo, devient une figure respectée dans les milieux universitaires. On l’invite sur les plateaux télévisés et on s’arrache ses livres dans le monde entier !

Problème : comme le démontre le chercheur en sciences sociales Thibault le Texier, l’expérience Stanford était en réalité plus proche du cinéma que de la science… En effet : ses conclusions avaient été écrites à l’avance comme l’aurait été le script d’un scénario hollywoodien… Et tout au long de l’étude de graves irrégularités remettent en cause sa rigueur scientifique…

Invité Thibaut le Texier

Au terme de plusieurs années de recherche, Thibaut le Texier est l’auteur d’une enquête de référence sur cette affaire. Intitulé Histoire d’un mensonge : enquête sur l’expérience de Stanford, son livre est paru aux éditions La Découverte en avril dernier. Thibault le Texier est chercheur en sciences sociales, associé au groupe de recherche en économie et gestion à l’université de Nice Sophia Antipolis.

Autre ressource :

voir aussi sur ce sujet l’article paru dans les inrocks : https://www.lesinrocks.com

ou encore l’article de Virginie Althaus : « Thibault Le Texier, Histoire d’un mensonge. Enquête sur l’expérience de Stanford »: https://journals.openedition.org/lectures/25127

 

Une conférence enregistrée en février 2014   l’université de Nantes.  Roland Gori est professeur émérite de Psychopathologie clinique à l’Université d’Aix Marseille, psychanalyste membre d’Espace analytique

« L’imposteur est aujourd’hui dans nos sociétés comme un poisson dans l’eau : faire prévaloir la forme sur le fond, valoriser les moyens plutôt que les fins, se fier à l’apparence et à la réputation plutôt qu’au travail et à la probité, préférer l’audience au mérite, opter pour le pragmatisme avantageux plutôt que pour le courage de la vérité, choisir l’opportunisme de l’opinion plutôt que tenir bon sur les valeurs, pratiquer l’art de l’illusion plutôt que s’émanciper par la pensée critique, s’abandonner aux fausses sécurités des procédures plutôt que se risquer à l’amour et à la création. Voilà le milieu où prospère l’imposture ! Notre société de la norme, même travestie sous un hédonisme de masse et fardée de publicité tapageuse, fabrique des imposteurs. L’imposteur est un authentique martyr de notre environnement social, maître de l’opinion, éponge vivante des valeurs de son temps, fétichiste des modes et des formes.

L’imposteur vit à crédit, au crédit de l’Autre. Soeur siamoise du conformisme, l’imposture est parmi nous. Elle emprunte la froide logique des instruments de gestion et de procédure, les combines de papier et les escroqueries des algorithmes, les usurpations de crédits, les expertises mensongères et l’hypocrisie des bons sentiments. De cette civilisation du faux-semblant, notre démocratie de caméléons est malade, enfermée dans ses normes et propulsée dans l’enfer d’un monde qui tourne à vide. Seules l’ambition de la culture et l’audace de la liberté partagée nous permettraient de créer l’avenir. » A travers cette conférence, organisée dans le cadre des conférences de l’Université permanente de l’Université de Nantes, Roland Gori revient sur les idées fortes de son dernier ouvrage « La Fabrique des imposteurs ».

Evidence‐Based Practices in the Criminal Justice System

Prepared by the NIC Information Center
Date created January 2013, Updated August 2017

What Is the Evidence? Evidence‐based policy and practice is focused on reducing offender risk,
which in turn reduces new crime and improves public safety. Of the many available approaches to
community supervision, a few core principles stand out as proven risk reduction strategies. Though
not all of the principles are supported by the same weight of evidence, each has been proven to
influence positive behavior change. To organize the research, these core principles have been
compiled… into the 8 Principles of evidence‐based practice in corrections (Clawson & Guevara,
2010).

This bibliography is not a complete list of “EBP” citations, but a mere selection based on questions
we receive at the Information Center. Please feel free and even inclined to contact us with additions
to this bibliography, as we plan to continuously update it:  support@nicic.gov

https://s3.amazonaws.com/static.nicic.gov/Library/026917.pdf

https://nicic.gov/evidence-based-practices-criminal-justice-system-annotated-bibliography

Un risque à ne pas négliger dans l’implantation des outils d’évaluation criminologiques: celui de la possible’utilisation en présentenciel,  dans la détermination des sanctions, à l’image du COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), outil de 4e génération implanté dans plusieurs états US.

COMPAS

Presentation COMPAS

Defense Attorneys Question Northpointe’s COMPAS Offender Needs/Assessment Tool

By Cynthia Price
Legal News (mai 2014)

https://www.linkedin.com/pulse/defense-attorneys-question-northpointes-compas-offender-paul-hyland

A training held by the State Appellate Defender Office (SADO) last Friday turned at times into a forum to air concerns about the Correctional Offender Management Profiling for Alternative Sanctions (COMPAS).

The trainers took advantage of Thomas M. Cooley Law School’s ability to simulcast presentations in their four Michigan campus locations to offer the free training, entitled “Use of COMPAS at Sentencing: What every Defense Attorney Needs to Know.” Presenter Jacqueline McCann, assistant defender with SADO, was at the Auburn Hills campus. Marla McCowan, SADO’s Criminal Defense Resource Center Manager, opened up the session from Grand Rapids, while others facilitated the venues in Lansing and Ann Arbor.

This meant that there was a fairly sizeable group of defense attorneys in attendance to find out more about Department of Corrections use of the COMPAS assessment tool in pre-sentencing investigation (PSI) reports.

Many of those attorneys registered opposition to such a use.

According to McCowan, McCann is SADO’s expert on “everything that has to do with sentencing law.” She has extensive experience arguing at the Court of Appeals and the Michigan Supreme Court, particularly about interpretations of statutory sentencing guidelines, and wrote the Defender Sentencing Book and the Defender Sentencing Guidelines Manual Annotated.

Also present at the Auburn Hills site was Sonja B. Starr, a University of Michigan Law School professor whose article, “Evidence-Based Sentencing and the Scientific Rationalization of Discrimination,” is just a few weeks away from publication in the Stanford Law Review. McCowan confessed, “We have pretty brazenly stolen from that paper.”

McCann noted at the outset that the term “evidence-based” in reference to such assessment tools may be counterintuitive. “What it is not is about the evidence in your case,” she said. “What it does refer to is the empirical research on factors predicting criminal recidivism or violent behavior.”

COMPAS is a computer software tool, involving a set of questions (137 in the case of adult males) that a probation agent must ask each offender as part of completing the PSI. The answer to those questions are then processed through a computer by the for-profit company who licenses COMPAS, Northpointe Inc.

According to Northpointe’s website, “COMPAS is composed of 22 different scales that empirical research has identified as predictive of future behavior. The 22 scales are grouped into five main categories: criminal involvement, relationships/life-styles, personality/attitudes, family, and social exclusion. COMPAS assesses three categories of risk: recidivism, violence, and failure to appear at a court hearing.”

As McCann pointed out Friday, even  Northpointe never claimed that COMPAS was intended for use in guiding sentencing. Its main purpose, as is clear from its title, is to help corrections personnel with decision-making regarding how to handle offenders.

Corrections departments, both nationwide and in Michigan, have been using similar assessments for years. The Michigan Prisoner Re-Entry Initiative, in 2004, started administering such instruments to guide decisions on what prisoners were likely to succeed.

Where such a tool becomes problematic is when it is applied to decisions that are, by statute, supposed to be decided on a case-per-case basis.

While the use of the COMPAS results is specifically precluded from consideration in determening the length of a sentence, the fact that the data will be included in every PSI raises red flags for SADO?and defense attorneys.

The Criminal Law Section of the State Bar of Michigan has also registered  is concerns about COMPAS. In a letter to the presidents of the Michigan Judges Association and the Prosecuting Attorneys Association of Michigan, the section chair, Judge David Hoort of Ionia County, expressed the section’s  misgivings about the reliability of COMPAS and possible constitutional and state-law objects.

Whether the PSI will include the information in its conclusions and recommendations or the probation agent will simply attach the results is as yet unclear. McCann said that she had witnessed one instance in a pilot project where the agent summarized the results in the body of the report, but the DOC has not issued any official rules yet.

Regardless, the SADO presentation called out a number of issues.

People v. Eason states, “[D]ue process is satisfied so long as the information the sentencing judge considers has sufficient indicia of reliability,” and SADO questions whether that is the case with COMPAS. Northpointe claims it is 64 to 80 percent accurate, which its evaluators determined by comparing, for example, an individual who fails to appear in court to COMPAS?predictions of whether he or she would fail to appear. Michigan sentencing guidelines mandate individualized sentencing, not sentencing based on generalizations, and the “evidence-based” approach categorizes people by generalized groups, making it in appropriate for judicial decision-making, several present felt. Moreover, a different test is given to different offender groups, pulling out women and youth. This, as well as the implicit biases involved in asking questions about whether the offender comes from a background of poverty, raises constitutional issues.

Professor Starr said that the notion that the tests encroach on people’s right to equal treatment and due process under the law was a significant finding of her research. “There really haven’t been constitutional challenges brought yet,” she said, “mostly because the 20 states that have this have adopted it so recently.”

The summary of her highly critical article states, “This paper critiques, on legal and empirical grounds, the growing trend of basing criminal sentences on actuarial recidivism risk prediction instruments that include demographic and socioeconomic variables. I argue that this practice violates the Equal Protection Clause and is bad policy: an explicit embrace of otherwise-condemned discrimination, sanitized by scientific language.”

Starr also wondered if the questionnaire impinged on the freedom from self-incrimination.

The presenter and participants alike surmised that one of the reasons the Department of Corrections has changed its original effective date, from June 1 to one as-yet-undetermined, was the negative feedback it received so far.

One man said he felt that attorneys should be allowed to be present while the questionnaire is administered. McCann said attorneys should at the very least be able to access the questions prior to their being asked.

The training was made possible by a grant from the Michigan Commission on Law Enforcement Standards.

Camille ALLARIA, docteure en sociologie au LAMES – Aix en Provence

Chloé Branders (doctorante en criminologie au CRID&P – Université catholique de Louvain (UCL)) à la journée d’étude « Prison et méthode de recherche », organisée par Claire de Galembert (ISP), Anaïs Henneguelle (IDHES) et Caroline Touraut (DAP – chercheuse associée à l’ISP). La journée s’est tenue à l’ENS de Cachan, le 3 décembre 2015.2016) La prison dans la tête : enquêter sur la surveillance électronique des prisonniers

[videojs mp4= »https://criminocorpus.org/media/filer_public/5f/c3/5fc32d28-86f7-4c4f-a003-d81ff29d460a/1_camille-allaria.mp4″ poster= »http://psychocriminologie.free.fr/wp-content/uploads/prison_dans_la_tete.png »]