Dane, modele i ograniczenia AI
Model AI jest tylko tak dobry, jak dane, na których się uczył. Z tej lekcji dowiesz się, skąd biorą się uprzedzenia i halucynacje — oraz dlaczego odpowiedziom AI warto ufać z umiarem.
Garbage in, garbage out
W lekcji 1 zobaczyłeś, że model to „skondensowane prawidłowości" z przykładów treningowych. Wynika z tego brutalna zasada znana w informatyce jako garbage in, garbage out — „śmieci na wejściu, śmieci na wyjściu". Jeśli dane są niekompletne, nieaktualne albo po prostu błędne, model wiernie powieli te wady, tyle że na skalę milionów odpowiedzi.
Przykład: model wspomagający rozpoznawanie zmian skórnych, wytrenowany głównie na zdjęciach jasnej karnacji, będzie działał zauważalnie gorzej u pacjentów o ciemniejszej skórze — nie dlatego, że ktoś zaprogramował go „niesprawiedliwie", lecz dlatego, że w danych zabrakło różnorodności. Podobnie tłumacz uczony na tekstach pełnych błędów językowych będzie je sumiennie powtarzał.
Skąd biorą się uprzedzenia (bias)
Uprzedzenie modelu to systematyczne przekrzywienie wyników na niekorzyść lub na korzyść określonych grup. Jego źródła leżą niemal zawsze w danych:
- Dane odzwierciedlają świat — w tym jego nierówności i stereotypy. Jeśli historyczne dane rekrutacyjne pokazują, że na dane stanowisko zatrudniano głównie mężczyzn, model może uznać płeć za „cechę dobrego kandydata".
- Selekcja zbioru — teksty z internetu to nie „cała ludzka wiedza", lecz to, co ludzie zdecydowali się publikować online, w dodatku nieproporcjonalnie często po angielsku. Perspektywy mniej reprezentowanych grup i języków po prostu występują rzadziej.
- Ludzkie etykiety — osoby oznaczające przykłady też mają swoje uprzedzenia i przenoszą je na dane treningowe.
Branża przeciwdziała temu przez audyty danych, różnorodne zbiory i testy modelu na wielu grupach — ale żadne z tych działań nie usuwa problemu do zera. Praktyczny wniosek dla Ciebie: fakt, że model odpowiada szybko i płynnie, nie oznacza, że ma rację ani że jest bezstronny.
Halucynacje modeli językowych
Duży model językowy (LLM) generuje tekst, przewidując najbardziej prawdopodobną kontynuację — nie „sprawdza faktów" w żadnej bazie wiedzy. Gdy brakuje mu rzeczywistej informacji, uzupełnia ją czymś, co brzmi prawdopodobnie. Tak powstają halucynacje: pewnie podane nieistniejące tytuły książek, zmyślone numery przepisów, przeniesione o rok daty wydarzeń.
Halucynacje to nie usterka, którą da się po prostu „naprawić", lecz konsekwencja sposobu działania modelu. Szczególną ostrożność zachowaj, gdy odpowiedź zawiera:
- bardzo konkretne dane — daty, liczby, nazwiska, tytuły publikacji — bez podania źródła,
- informacje o tematach niszowych, o których napisano niewiele,
- doniesienia o bieżących wydarzeniach — dane treningowe mają datę graniczną, po której model niczego już nie „widział".
Czemu AI „nie rozumie" jak człowiek
Mówimy potocznie, że model „rozumie" pytanie, ale to wygodny skrót myślowy. Model operuje na statystycznych zależnościach między fragmentami tekstu (tokenami), a nie na doświadczeniu świata. Nie ma przekonań, intencji ani świadomości; nie „wie", czym jest kawa — zna jedynie niezwykle bogatą statystykę zdań, w których słowo „kawa" występuje.
Z tego wynika praktyczny podział: AI świetnie radzi sobie z strukturą języka — streszczaniem, tłumaczeniem, zmianą stylu, pomysłami — a znacznie słabiej z zadaniami wymagającymi weryfikacji faktów, wieloetapowej logiki i aktualnej wiedzy. Korzystaj z niej jak z błyskotliwego, ale niedoświadczonego asystenta: szybkiego i pracowitego, lecz wymagającego kontroli.
- Zapytaj dowolny publicznie dostępny model językowy o mało znany fakt z dziedziny, którą dobrze znasz: datę powstania lokalnej instytucji, definicję rzadkiego terminu, szczegół dotyczący konkretnego produktu lub przepisu.
- Zapisz odpowiedź wraz ze wszystkimi konkretami — datami, liczbami, nazwami własnymi.
- Sprawdź każde z tych twierdzeń w wiarygodnym źródle: na oficjalnej stronie instytucji, w encyklopedii, dokumentacji producenta lub publikacji branżowej.
- Oceń wynik w trzech kategoriach: co było prawdą, co zmyślone, a co „prawie prawdziwe"? Zwróć uwagę, że to ostatnie bywa najgroźniejsze, bo najtrudniej je wychwycić.