Algorithmic decision making: a study in private law on the relation between humans and machines
La décision de l'algorithme. Étude de droit privé sur les relations entre l'humain et la machine.
Résumé
In France, decision-making algorithms have been regulated for almost 50 years. However, given the constant development of these tools and their ever-broadening use, the effectivity of this control has come into question. In particular, the law seems to focus on the protection of the person subjected to an automated decision. In doing so, it neglects one of the most important issues at stake : the protection of the authors of the decision themselves. This thesis argues that it is only through a subtle balance between the protection of the authors and the subjects of a given decision that the law might be able to properly regulate decision-making algorithms. Using this approach, the two classic categories of decision-making algorithms namely algorithms serving as the only basis for a decision versus algorithms serving as a simple help for the decision - can be reinterpreted. At the same time, rules regulating the conception and the use of such algorithms can be reinforced. The interdiction of all decision-making algorithms in certain domains can be seen as a proper protection of the human decision. Other mechanisms, such as the right to obtain human intervention, or to contest the decision, arc specifically designed to protect the person subjected to a decision based on an algorithm.
Depuis 1978, le droit encadre les algorithmes décisionnels, c’est-à-dire les algorithmes aidant ou remplaçant la décision humaine. Pourtant, le développement effréné de ces outils et leur diffusion dans tous les domaines questionnent la pertinence de ces règles ; En particulier, il apparaît que l’encadrement des algorithmes décisionnels s’oriente aujourd’hui vers la protection du destinataire de la décision, soit la personne soumise à la décision prise sur le fondement de l'algorithme. Ce faisant, une part essentielle des enjeux sont oubliés : la protection de l’auteur de la décision et du caractère humain de la décision. La réintégration à sa juste valeur de la protection de l’auteur de la décision, sans oublier celle du destinataire, permet alors de donner toute sa force au droit des algorithmes. Ainsi, les deux catégories classiques d’algorithmes de prise de décision et d’algorithmes d’aide à la décision peuvent être réinterprétées. De la même manière, les règles de conception et d’utilisation des algorithmes décisionnels peuvent également être lues sous la double fonction de la protection de l’auteur et du destinataire de la décision. Dans le premier cas, c’est la faculté même de décider qui est protégée. L’interdiction des algorithmes de prise de décision dans certains domaines ou l’encadrement strict de la légalité de ces outils en sont deux illustrations. Dans le second cas, c’est le droit de ne pas être soumis à une décision prise par une machine qui doit être mis en avant. On retrouve alors de nombreux mécanismes issus du droit du pouvoir tels que la faculté de demander le réexamen de la décision ou l'obligation de motivation.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|