Generatieve AI en de civiele rechter: op weg naar verantwoord gebruik?

Generatieve AI (GenAI) biedt nieuwe mogelijkheden voor ondersteuning van civiele rechters, maar kent ook wezenlijke beperkingen. Grote taalmodellen (LLM’s) als ChatGPT genereren tekst op basis van statistische patronen, niet op basis van begrip of verifieerbare bronnen, en zijn daarmee ongeschikt voor feitenonderzoek of juridische oordeelsvorming. Dit artikel analyseert hoe GenAI op een verantwoorde manier kan worden ingezet in alle fasen van de civiele procedure, zonder afbreuk te doen aan rechterlijke autonomie, transparantie en rechtsstatelijke waarborgen. Risico’s als automation bias, hallucinaties en niet-herleidbare uitkomsten onderstrepen de noodzaak van strikte randvoorwaarden, menselijke controle en in het bijzonder AI-geletterdheid onder rechters.