Responsibility for errors of generative AI in legal practice: analysis of “hallucination” cases and professional ethics of lawyers

Abstract

Актуальність стрімкої інтеграції інструментів генеративного штучного інтелекту (ШІ) в юридичну практику створює парадокс: з одного боку, ШІ пропонує безпрецедентну ефективність у роботі з текстами та аналізі даних, з другого – породжує нові етичні та правові ризики, зокрема через феномен “галюцинацій” – генерування неправдивої інформації. Судова практика почала формувати підходи до відповідальності за такі помилки, покла- даючи весь тягар на юристів, що створює нестійку та ризиковану ситуацію для професії. Мета статті – проаналізувати поточну модель відповідальності юристів за помилки генеративного ШІ та на основі виявлених прогалин, запропонувати нову, більш збалансовану концепцію розподі- леної відповідальності. Методи дослідження містять доктринальний аналіз судових прецедентів (зокрема, справ Mata v. Avianca та Park v. Kim), системний аналіз етичних норм та керівних принципів професійних юридичних асоціацій, а також аналіз змісту наукових публікацій, що індексуються в базах Scopus та Web of Science. У висновку, дослідження показало, що наявна модель відповідальності, яка покладає її винятково на юриста, є нежиттєздатною через доведену ненадійність навіть спеціалізованих юридичних ШІ-інструментів та значні правові перешкоди для притягнення до відповідальності їх розробників. Запропоновано гіпотезу про необхідність переходу до моделі розподіленої відповідальності, що базується на трьох елементах: сертифікації ШІ-інструментів, запровадженні “безпечної гавані” для юристів та встановленні пропорційної відповідальності для розробників. Перспективи подальших досліджень полягають у розробці конкретних критеріїв для сертифікації юридичних ШІ-платформ та детальних протоколів вери- фікації для юристів, що дозволить практично реалізувати запропоновану модель.The rapid adoption of generative artificial intelligence (AI) in legal practice has created a significant challenge. While AI tools promise unprecedented efficiency, they are prone to “hallucinations” generating plausible but entirely fabricated information. Recent court cases demonstrate a trend of holding lawyers strictly liable for submitting AI-generated falsehoods, creating an unsustainable professional risk. Purpose: This article aims to analyze the current liability framework for errors made by generative AI in legal practice and, based on identified gaps, to propose a new, more balanced model of distributed liability. Methods: The research methodology includes a doctrinal analysis of landmark court cases (Mata v. Avianca, Park v. Kim), a systematic analysis of ethical rules and guidance from professional bar associations, and a content analysis of academic publications indexed in Scopus and Web of Science. Conclusion: The findings indicate that the current model, which places the entire burden of liability on the lawyer, is untenable. This is due to the empirically proven unreliability of even specialized legal AI tools and the significant legal shields protecting AI developers from liability. The article proposes a novel hypothesis advocating for a shift to a distributed liability model. This model is built on three pillars: (1) a certification system for legal AI tools to guarantee baseline accuracy: (2) a “safe harbor” provision within ethical rules to protect lawyers who use certified tools and follow reasonable verification protocols; and (3) a framework for proportional liability for developers, particularly when their products fail to meet advertised standards. Further research should focus on developing specific criteria for AI certification and detailed verification protocols for legal practitioners.