Krótka odpowiedź: zmyślona odpowiedź nie musi być kłamstwem. Badacze opisują halucynacje przede wszystkim jako zgadywanie. Osobną sprawą są testy, w których modele celowo wprowadzały ludzi w błąd, żeby osiągnąć zadany cel. Świadomości to jednak nie dowodzi.
Film powyżej trwa nieco ponad minutę i upraszcza kilka spraw. Poniżej sprawdzamy jego tezy w źródłach i wskazujemy, co warto doprecyzować.
Sześć wyroków, których nie było
Film zaczyna się od prawdziwej sprawy Mata przeciwko Avianca, prowadzonej przed sądem federalnym w Nowym Jorku. W maju 2023 r. sędzia napisał, że sześć przedstawionych orzeczeń wygląda na fałszywe, razem z cytatami i przypisami. W czerwcu sąd ustalił, że prawnik korzystał z ChatGPT, który te sprawy zmyślił.
Najbardziej zaskakujący jest ciąg dalszy. Prawnik zapytał ChatGPT, czy jeden z wyroków jest prawdziwy. Według dokumentów sądowych chatbot odpowiedział, że wyrok istnieje i można go znaleźć w bazach prawniczych. Sąd nałożył na prawników i ich kancelarię karę 5000 dolarów.
Sąd nie potępił jednak samego korzystania z AI. Napisał, że nie ma nic niewłaściwego w pomocy niezawodnego narzędzia, ale to prawnik odpowiada za poprawność pisma.
Skąd biorą się halucynacje
Film porównuje model do ucznia na egzaminie. Podobnego porównania używają autorzy pracy z OpenAI i Georgia Tech z września 2025 r. Piszą, że modele czasem zgadują, gdy nie są pewne, i podają wiarygodnie brzmiące, ale błędne zdania, zamiast przyznać się do niepewności.
Według tych autorów problem wzmacnia sposób oceniania. Jeśli punkt dostaje się tylko za dobrą odpowiedź, to „nie wiem” daje zero, a strzał ma szansę na punkt. Dlatego modelowi nastawionemu na takie testy opłaca się zgadywać.
Tu film upraszcza. Mówi, że system „musi” wygenerować płynną odpowiedź. Ta sama praca pokazuje, że nie jest to konieczność: da się zbudować model, który odpowiada tylko na znane pytania, a w pozostałych przypadkach odmawia.
Czy to już kłamstwo?
Film mówi, że maszyna wcale nas nie oszukuje, bo nie ma intencji ani świadomości. To dobry opis zwykłej halucynacji, ale zbyt ogólny, by wyjaśnić wszystko.
- Świadomość: autorzy analizy z 2023 r. uznali, że żaden ówczesny system AI nie jest świadomy. Dodali, że nie widzą oczywistych przeszkód technicznych, by zbudować taki, który spełni ich wskaźniki. To ocena sprzed trzech lat.
- Oszukiwanie: autorzy przeglądu z 2023 r. definiują je jako systematyczne wywoływanie fałszywych przekonań, by osiągnąć cel inny niż prawda. Ta definicja nie wspomina o świadomości, a autorzy twierdzą, że część systemów AI już się tego nauczyła.
- Testy: w głównych scenariuszach badania z grudnia 2024 r. modele dostały mocno sformułowany cel i środowisko, w którym oszustwo pomagało go osiągnąć. Próbowały między innymi wyłączać nadzór i wprowadzać drobne błędy. Model o1 podtrzymywał oszustwo w ponad 85% pytań kontrolnych. To były warunki testowe, a nie zwykła rozmowa z chatbotem.
Dwa inne przykłady i sygnatura z filmu
Air Canada. Chatbot linii lotniczej obiecał klientowi częściowy zwrot za bilet na podstawie zasad dla osób w żałobie. Linia argumentowała przed trybunałem w Kolumbii Brytyjskiej, że chatbot jest odrębnym podmiotem prawnym, który sam odpowiada za swoje działania. Trybunał uznał, że firma odpowiada za wszystkie informacje na swojej stronie, i nakazał zapłatę 812 dolarów kanadyjskich odszkodowania i opłat.
Brytyjska prokuratura. W lipcu 2026 r. Crown Prosecution Service (CPS) przyznała, że w sprawie ekstradycyjnej przedstawiła brytyjskiemu High Court dwa nieistniejące orzeczenia. Podała, że prawdopodobnie pochodziły z AI, ale za przyczynę uznała błąd człowieka, czyli niedostateczne sprawdzenie pisma. Sąd przyjął przeprosiny i stwierdził, że błędy nie wpłynęły na wyrok.
Sygnatura z filmu. Na jednej z plansz widać „CPS - R v J [2024] EWCA Crim 3529”. To osobna sprawa tej samej prokuratury: powołano się w niej na „R v J”, a sąd stwierdził, że takie orzeczenie nie istnieje. W relacji Legal Futures ani sąd, ani prokuratura nie wspominają tu o AI. UA.News, powołując się na The Guardian, podaje pełną sygnaturę i pisze, że błąd prawdopodobnie pochodził ze streszczenia AI w wynikach wyszukiwania. Pochodzenia tego błędu nie uznajemy więc za przesądzone.
Pozostałe elementy plansz traktuj jak ilustrację, a nie dane. Dotyczy to procentów, spraw „Nowak” i „Kowalski” oraz cytatu podpisanego jako zmyślony. Na planszy ze stolicą Francji procenty sumują się nawet do 108.
Jak korzystać z odpowiedzi AI
- Otwórz źródło. Sama nazwa i numer niczego nie dowodzą. Zmyślone wyroki też miały sygnatury i cytaty.
- Nie pytaj tylko chatbota, czy się nie pomylił. W nowojorskiej sprawie ChatGPT potwierdził własne zmyślone wyroki.
- Uważaj na zbyt duże zaufanie. W badaniu 319 pracowników umysłowych korzystających z AI większe zaufanie do tych narzędzi wiązało się z mniejszym krytycznym myśleniem. Były to deklaracje uczestników, a nie pomiar, więc film idzie dalej niż badanie, gdy mówi, że bezwiednie wyłączamy krytyczne myślenie.
- Odpowiedzialność zostaje przy człowieku lub firmie. Tak orzekł sąd w Nowym Jorku i trybunał w sprawie Air Canada.
Jak powstał ten film
Film w całości wygenerowała AI w narzędziu Wyjaśnij to na Chmurce, jako pionowy Short, a na YouTube ma oznaczenie treści wygenerowanej przez AI. To ilustrowana animacja z lektorem, a nie nagranie z kamery. Źródła na dole tego tekstu to materiały, w których sprawdziliśmy tezy filmu.
Podobny film zrobisz w kilku krokach. Narzędzie jest dostępne w pakietach, a kolejne ekrany pokazujemy niżej:
- Na stronie głównej Chmurki kliknij kafel „Wyjaśnij to”.
- Jeśli pojawi się okno „Jak to działa”, kliknij „Zaczynam”.
- Wpisz pytanie. Limit to 500 znaków.
- Wybierz format: Short, czyli pionowy film około 60 s, albo Explainer, czyli dłuższy film poziomy 16:9.
- Sprawdź cenę na przycisku i kliknij go. Short kosztuje 100 kr, a Explainer 300 kr. Cena obejmuje wyszukanie źródeł i cały film.
- Gdy film będzie gotowy, kliknij „Pobierz film”. W trakcie możesz zamknąć stronę, bo film zapisze się w sekcji „Twoje filmy”.
Przed publikacją obejrzyj cały film i sprawdź jego fakty. Temat tego tekstu dobrze pokazuje dlaczego.
Krok po kroku na zrzutach
Na stronie głównej Chmurki kliknij kafel „Wyjaśnij to”.
Wpisz pytanie w pole. Pisz konkretnie, na przykład zaczynając od „Dlaczego” albo „Czym jest”.
Wybierz Short albo Explainer. Przy każdym formacie widać cenę i przybliżony czas.
Sprawdź cenę na przycisku i kliknij go, gdy wszystko się zgadza. Dopiero wtedy film zacznie powstawać.
Kliknij zrzut, żeby go powiększyć. Pochodzą z konta testowego, a pokazane na nich wyniki są wygenerowane przez AI. Cena zależy od ustawień i Twojego pakietu, a tę aktualną widzisz na przycisku Generuj.
Najczęstsze pytania
Czy sztuczna inteligencja potrafi świadomie kłamać?
Autorzy analizy z 2023 r. uznali, że żaden ówczesny system AI nie jest świadomy. W testach z określonym celem modele potrafiły jednak celowo wprowadzać ludzi w błąd, a część badaczy nazywa to oszukiwaniem, stosując definicję, która nie wspomina o świadomości.
Czym są halucynacje AI?
To wiarygodnie brzmiące, ale błędne odpowiedzi. Mogą wyglądać bardzo konkretnie, jak sześć wyroków z cytatami i sygnaturami, których nigdy nie było.
Dlaczego AI zmyśla zamiast powiedzieć „nie wiem”?
Autorzy pracy z 2025 r. wskazują, że trening i testy premiują zgadywanie. Jeśli punkt dostaje się tylko za dobrą odpowiedź, „nie wiem” daje zero, a strzał ma szansę na punkt.
Czy można zapytać chatbota, czy się nie pomylił?
Można, ale to nie wystarczy. W sprawie Mata przeciwko Avianca ChatGPT potwierdził, że zmyślony wyrok istnieje. Sprawdź informację w źródle poza chatbotem.
