Stolper, Inesa

Recent developments in artificial intelligence (AI) have introduced systems that analyze legal information, identify correlations across documents, and support decision-making. New possibilities for automation present opportunities and challenges for the administration of justice. These possibilities raise complex questions about the compatibility of the deployment of AI in courts with fair trial guarantees under the European Convention on Human Rights (ECHR). This article examines whether and under what conditions the use of AI systems in courts may create legitimate doubts as to a court’s impartiality within the meaning of Article 6 (1) of the ECHR. Drawing on the case law of the European Court of Human Rights, a distinction was made between the subjective and objective elements of impartiality, and an analysis was carried out of how the use of AI in the decision-making process might affect each of them. The paper argues that the use of AI in courts is a question of confidence in the justice system, and perceived impartiality may stem from limited transparency about the role of AI in decision-making, insufficient oversight, and excessive reliance on AI outputs.   Najnowsze osiągnięcia w dziedzinie sztucznej inteligencji (AI) zaowocowały powstaniem systemów, które analizują informacje prawne, rozpoznają powiązania między dokumentami oraz wspierają proces podejmowania decyzji. Nowe możliwości automatyzacji stwarzają zarówno szanse, jak i wyzwania dla wymiaru sprawiedliwości. Rodzą one złożone pytania dotyczące zgodności wdrażania sztucznej inteligencji w sądach z gwarancjami rzetelnego procesu sądowego wynikającymi z europejskiej Konwencji praw człowieka (EKPC). W niniejszym artykule zbadano, czy i na jakich warunkach stosowanie systemów AI w sądach może budzić uzasadnione wątpliwości co do bezstronności sądu w rozumieniu art. 6 ust. 1 EKPC. Opierając się na orzecznictwie Europejskiego Trybunału PrawCzłowieka, dokonano rozróżnienia między subiektywnymi a obiektywnymi elementami bezstronności oraz przeanalizowano, w jaki sposób na każdy z nich może wpływać udział AI w procesie podejmowania decyzji. W artykule stwierdzono, że wykorzystanie sztucznej inteligencji w sądach jest kwestią zaufania do systemu wymiaru sprawiedliwości, a postrzegany brak bezstronnościmoże wynikać z ograniczonej przejrzystości co do roli AI w procesie decyzyjnym, niewystarczającego nadzoru oraz nadmiernego polegania na wynikach generowanych przez sztuczną inteligencję.

The integration of Artificial Intelligence (AI) into the judicial system presents both opportunities and challenges. AI can expedite proceedings, reduce costs, and broaden access to justice by serving as a decision-making assistant or an autonomous decision-maker. The article is structured into three main parts: an overview of AI technologies and their classification, a detailed examination of AI‘s role as an assistant in judicial decision-making, and a consideration of AI as an autonomous decision-maker.The analysis revealed that while AI can significantly assist in legal proceedings by offering preliminary judgments or legal advice, its capacity as an autonomous decision-maker is complex.A robust legal foundation respecting procedural norms and Article 6 of the European Convention on Human Rights (ECHR) is crucial. This legal framework should define AI‘s operational boundaries within the judiciary to prevent in-fringement on the right to a fair trial. Moreover, in line with Article 22 of the General Data Protection Regulation (GDPR), there must be opportunities for human intervention and the ability to contest AI-generated decisions, safeguarding a human-centric approach to justice.The issue of bias in AI, reflecting pre-existing prejudices in training data, underscores the importance of careful programming, dataset selection, and ongoing oversight to avoid perpetuating discriminatory practices. AI‘s potential in simulating legal reasoning in straightforward cases suggests a cautious yet optimistic engagement with technology, advocating for its selective application in scenarios where public hearings are unnecessary.The paper concludes that while AI presents a promising tool for enhancing judicial processes, its use must be approached with caution. It advocates for a balanced, multi-faceted approach to AI integration, emphasizing ongoing evaluation, legal regulation, and the selective application of AI technologies.