Argument by Numbers: The Normative Impact of Statistical Legal Tech Argumenter par les chiffres : l’impact normatif des « legal techs » statistiques

Abstract

The introduction of statistical ‘legal tech’ raises questions about the future of law and legal practice. While technologies have always mediated the concept, practice, and texture of law, a qualitative and quantitative shift is taking place: statistical legal tech is being integrated into mainstream legal practice, and particularly that of litigators. These applications – particularly in search and document generation – mediate how practicing lawyers interact with the legal system. By shaping how law is ‘done’, the applications ultimately come to shape what law is. Where such applications impact on the creative elements of the litigator’s practice, for example via automation bias, they affect their professional and ethical duty to respond appropriately to the unique circumstances of their client’s case – a duty that is central to the Rule of Law. The statistical mediation of legal resources by machine learning applications must therefore be introduced with great care, if we are to avoid the subtle, inadvertent, but ultimately fundamental undermining of the Rule of Law. In this contribution we describe the normative effects of legal tech application design, how they are potentially (in)compatible with law and the Rule of Law as normative orders, particularly with respect to legal texts which we frame as the proper source of ‘lossless law’, uncompressed by statistical framing. We conclude that reliance on the vigilance of individual lawyers is insufficient to guard against the potentially harmful effects of such systems, given their inscrutability, and suggest that the onus is on the providers of legal technologies to demonstrate the legitimacy of their systems according to the normative standards inherent in the legal system.

Keywords:

• automation bias,
• legal technology,
• machine learning,
• creativity,
• Rule of Law

Résumé

L’introduction des “legal techs” statistiques amène avec elle des questions sur le futur du droit et celui de la pratique juridique. Alors que depuis toujours les technologies affectent le concept, la pratique et la texture du droit, nous pouvons constater désormais un changement qualitatif et quantitatif : les legal techs statistiques sont intégrées dans la pratique juridique courante, particulièrement en matière de litiges. Ces applications – en particulier celles qui automatisent la recherche juridique et la génération de documents – influencent la façon dont les avocat.e.s praticien.ne.s interagissent avec le système juridique. En définissant comment le droit se « fait », ces applications finissent par définir ce qu’est le droit. Ces dernières impactent la créativité des avocat.e.s en litige dans leur pratique, par exemple à travers l’automatisation des biais, et affectent par là-même leur devoir professionnel et éthique qui consiste à offrir une réponse appropriée aux circonstances particulières du cas de leur clientèle – c’est un devoir qui est central à l’État de Droit. La gestion statistique des ressources juridiques à travers des application d’apprentissage automatique doit donc être introduite avec une attention particulière afin d’éviter d’ébranler de manière certes subtile et involontaire, mais aussi fondamentale, l’État de droit. Dans cette contribution, nous décrivons les effets normatifs des applications en legal tech, ainsi que leur potentielle (in)compatibilité avec le droit et l’État de droit comme ordres normatifs, particulièrement au regard des textes juridiques que nous considérons être la source du droit préservé (lossless law), du droit qui n’est pas amputé par les approches statistiques. Nous concluons qu’afin d’éviter les potentiels effets néfastes des systèmes statistiques en droit, notamment liés à leur impénétrabilité, il n’est pas suffisant de compter sur la seule vigilance des avocat.e.s. Nous suggérons donc qu’il revient aux fournisseurs des technologies juridiques de prouver la légitimité de leurs systèmes, sur la base des standards normatifs inhérents au système juridique.

Mots-clés :

• automatisation des biais,
• technologies juridiques,
• apprentissage automatique,
• créativité,
• État de Droit