Traktuj każde przywołanie orzeczenia wygenerowane przez narzędzie AI jako niezweryfikowane, dopóki wskazany prawnik nie otworzy źródła i nie potwierdzi, że mówi ono to, co twierdzi projekt pisma. Zapisz to jako zasadę, wybieraj narzędzia, które linkują do źródeł, przeszkol zespół i rejestruj, kto sprawdził każde przywołanie, zanim cokolwiek zostanie złożone. To nie jest porada prawna.
#Najważniejsze wnioski
- Fałszywe przywołania biorą się z niezweryfikowanych projektów, a nie z jednej nieuważnej osoby; rozwiązaniem jest zasada kontroli, której przestrzegają wszyscy.
- Sądy w kilku jurysdykcjach nakładały sankcje na prawników lub kierowały sprawy do organów samorządu zawodowego, gdy złożyli przywołania orzeczeń, które nie istniały.
- Nawet specjalistyczne narzędzia do badań prawnych dają błędne lub źle osadzone w źródłach odpowiedzi, więc płatne narzędzie nie zastępuje sprawdzenia.
- Partner lub starszy prawnik, który podpisuje pismo, odpowiada za research młodszych prawników, z AI czy bez niej.
- Liczy się szkolenie krótkie, praktyczne i oparte na waszych własnych zadaniach badawczych, a nie ogólny kurs AI.
#Jak fałszywe orzeczenia trafiają do pisma procesowego?
Schemat jest dobrze znany. Młodszy prawnik pod presją prosi chatbota o orzecznictwo, dostaje uporządkowaną listę z nazwami spraw, sądami i cytatami i wkleja ją do projektu. Nikt nie otwiera orzeczeń, bo wyglądają na prawdziwe. Starszy prawnik sprawdza argumentację, a nie przypisy. Druga strona albo sędzia próbuje znaleźć te orzeczenia i nie może.
W sprawie Mata v. Avianca przed sądem federalnym w Nowym Jorku prawnik użył ChatGPT do researchu i powołał się na sprawy, które nie istniały (CNBC, maj 2023). Nie był to ostatni taki przypadek.
#Co sądy robią z przywołaniami wygenerowanymi przez AI?
W Anglii wyrok High Court w sprawie Ayinde dotyczył pism zawierających fikcyjne orzeczenia i zasygnalizował, że fałszywe przywołania prawdopodobnie skończą się co najmniej zawiadomieniem organu nadzoru i obciążeniem kosztami zbędnie poniesionymi (Linklaters, czerwiec 2025).
Bliżej regionu wytyczne sądów DIFC dotyczące dużych modeli językowych wymagają od stron wczesnego ujawnienia treści wygenerowanych przez AI i zweryfikowania ich poprawności (DIFC Courts, grudzień 2023). Sprawdź zasady każdego sądu, przed którym występujesz.
#Czy płatne narzędzia do badań prawnych są wolne od halucynacji?
Bezpieczniejsze, ale nie bezpieczne. Badanie Stanforda wykazało, że wiodące narzędzia do badań prawnych nadal dawały błędne lub źle osadzone w źródłach odpowiedzi w więcej niż co szóstym zapytaniu testowym; źle osadzone oznacza, że przywołane źródło nie potwierdza danego twierdzenia (Stanford HAI, maj 2024). Prawdziwe orzeczenie przywołane na poparcie tezy, której nie potwierdza, trudniej wychwycić niż zmyślone.
#Co powinna zawierać zasada weryfikacji przywołań?
- Żadne orzeczenie nie trafia do projektu, dopóki ktoś nie otworzy go w źródle pierwotnym lub oficjalnym zbiorze orzeczeń.
- Sprawdzający potwierdza, że sprawa istnieje, sygnatura jest poprawna, cytat jest dosłowny, a orzeczenie popiera przedstawioną tezę.
- Nazwisko sprawdzającego jest zapisywane przy każdym orzeczeniu w aktach sprawy.
- Publiczne chatboty nie są używane do researchu w sprawach klientów, a fakty dotyczące klientów nigdy nie są do nich wklejane.
- Prawnik podpisujący pismo potwierdza przed złożeniem, że kontrola została przeprowadzona, a zasady sądu dotyczące ujawniania użycia AI są przestrzegane.
To działa bez żadnego nowego oprogramowania. Na początek wystarczy wspólna lista kontrolna w aktach sprawy i jedna linijka w procedurze zatwierdzania pisma.
#Jakie szkolenie naprawdę temu zapobiega?
Ogólna sesja o świadomości AI nie zapobiega. Skuteczna jest krótka praktyka na własnych zadaniach badawczych: poproś narzędzie o orzecznictwo, a potem znajdź błędy w jego odpowiedzi. Ludzie pamiętają fałszywe orzeczenie, które sami wyłapali. Sesja powinna obejmować zasadę weryfikacji, zasady sądów, które dotyczą waszego zespołu, oraz to, czego nie wklejać do jakiego narzędzia.
Tylko 39% użytkowników AI powiedziało, że firma zapewniła im szkolenie z AI (Microsoft i LinkedIn, Work Trend Index, maj 2024). W zespole prawnym ta luka ujawnia się w przypisach.
#Jaka jest w tym rola Stennir?
Szkolenia z AI Stennir prowadzą Program operatora AI dla zespołów prawnych w grupach dla konkretnych ról, na waszej prawdziwej pracy badawczej i redakcyjnej, po arabsku i angielsku, z trenerami praktykami, z pomiarem użycia przed i po oraz raportem z wdrożenia na koniec. Doradztwo AI spisuje zasady zarządzania wokół tego: które narzędzia są zatwierdzone do jakich zadań, kto weryfikuje i co trafia do dziennika.
Jeśli warto zbudować wsparcie researchu, wdrożenia AI mogą skonfigurować narzędzie, które zwraca orzeczenia wyłącznie ze źródeł, które subskrybujecie, z linkiem do każdego z nich. Zobacz też, jak szkolić pracowników, którzy już używają ChatGPT z danymi firmy.
We are
Stennir szkoli zespoły prawne w weryfikowaniu wyników AI na ich własnej pracy i spisuje zasady, kto sprawdza co.
We aren't
Stennir nie jest dostawcą badań prawnych i nie sprawdza za was przywołań ani nie wydaje opinii prawnych.
#Co powinien teraz zrobić partner zarządzający lub dyrektor prawny?
Spisz zasadę weryfikacji na jednej stronie i dodaj linijkę o kontroli przywołań do procedury zatwierdzania pism. Potem przeszkol osoby, które piszą projekty. Zobacz, jak zespoły compliance i prawne korzystają z AI, na stronie AI dla compliance, wypełnij bezpłatną ocenę gotowości albo umów 30-minutową rozmowę.
#Najczęstsze pytania
Czy powinniśmy zakazać narzędzi AI w researchu prawnym?
Zakaz zwykle przenosi użycie na prywatne konta, których nie widzicie. Lepsza zasada wskazuje zatwierdzone narzędzia, zakazuje wklejania faktów dotyczących klientów do publicznych chatbotów i wymaga, by każde orzeczenie otworzyła i sprawdziła wskazana osoba. Dzięki temu zostaje szybkość pracy z AI, a znika powód, dla którego przywołania pozostają niesprawdzone.
Kto odpowiada za fałszywe przywołanie w projekcie młodszego prawnika?
Prawnik, który podpisuje pismo, a być może także przełożeni, zależnie od zasad wykonywania zawodu w waszej jurysdykcji. Sądy analizowały postępowanie starszych prawników, a nie tylko osoby, która przygotowała projekt. Dlatego kontrola należy do procedury zatwierdzania, z zapisanym nazwiskiem.
Czy Stennir prowadzi to szkolenie po arabsku?
Tak. Stennir prowadzi Program operatora AI po arabsku i angielsku, na własnych zadaniach badawczych i redakcyjnych zespołu, z ćwiczeniami na arabskich źródłach prawnych tam, gdzie mają zastosowanie. Inne języki są dostępne na życzenie. Użycie jest mierzone przed i po, a raport z wdrożenia trafia do osoby, która zleciła szkolenie.
Co może pójść nie tak nawet przy zasadzie weryfikacji?
Ludzie mogą zaznaczyć pole bez otwierania źródła albo sprawdzić, że sprawa istnieje, ale nie to, czy popiera tezę. Wyrywkowa ponowna kontrola złożonych dokumentów, zapisywanie nazwisk przy każdym orzeczeniu i szkolenie także na przywołaniach źle osadzonych w źródłach, a nie tylko zmyślonych, zamykają większość tej luki.
