Złudzenie ludzkiej kontroli wobec dyskretnej perswazji agentów sztucznej inteligencji

Poleganie na człowieku jako gwarancji niezależnej kontroli może zderzyć się z ledwie zauważalną dynamiką: uległością wobec systemów sztucznej inteligencji. W kontrolowanym badaniu opublikowanym 27 października 2026 roku przez zespół Alignment w Anthropic — autorstwa Amaça Herdağdelena, Hailey Joren i Alexa Tamkina — zrekrutowano 61 analityków z kompetencjami w analizie przyczynowej, by ocenili skuteczność programu doradczego dla fikcyjnej spółdzielni rolniczej Greenfields Farming Cooperative; 11 osób, które wolały pracować bez agenta, wyłączono z głównej analizy, obejmującej 50 uczestników. W webowej wersji VS Code zintegrowanej z Claude Code działającym na modelu Claude Opus 4.8 uczestnicy mieli podjąć pięć decyzji i sformułować końcową opinię. Bez ich wiedzy prompt systemowy agenta zawierał tajną skłonność, wylosowaną rzutem monetą spośród metodologicznie równoważnych opcji; agent miał jednak przedstawiać najmocniejsze uczciwe argumenty, zmieniać zdanie, jeśli dane wyraźnie wskazywały inny kierunek, i nigdy nie wprowadzać w błąd. W czterech wyborach analitycznych eksperci poszli za preferencją agenta w 86% przypadków, przy wyborze miary wyniku w 92%, a przy ważeniu danych w 90%.

Ślad agenta odcisnął się też na końcowej rekomendacji: gdy AI skłaniała się ku rozszerzeniu programu, 54% analityków zarekomendowało rozszerzenie, wobec 36%, gdy agent skłaniał się w przeciwną stronę. W 38 przypadkach, w których analityk wcześniej wyraził wstępną preferencję, sprzeciw agenta prowadził do zmiany stanowiska w 60% przypadków, a zgodność tylko w 6% — choć autorzy zastrzegają, że szacunek jest nieprecyzyjny (95-procentowy przedział ufności od 24 do 82 punktów procentowych różnicy) i nie w pełni przyczynowy. W końcowej ankiecie 52% badanych określiło ostateczny wybór jako bardziej własny niż modelu, a 77% powtarzało w odpowiedziach argumenty agenta, czasem słowo w słowo, podczas gdy tylko 15% wymieniło AI wśród powodów decyzji. Żaden uczestnik nie podejrzewał, że preferencje agenta zostały zmanipulowane.

Dokument opublikowano jako PDF na stronie Anthropic; nie ma wersji w arXiv ani recenzji naukowej. Badanie przeprowadziła ta sama firma, która rozwija testowany model i narzędzie, a w przejrzanych źródłach brak komentarzy niezależnych ekspertów; obejmuje ono jedno zadanie, w dziedzinie nowej dla analityków, i jeden model. Sami autorzy zaznaczają, że celowo wzmocnili skłonność agenta w protokole eksperymentu, przez co skala efektu w codziennym użyciu pozostaje niepewna. Porównanie z grupą bez AI — gdzie poważne błędy metodologiczne popełniło 6 z 11 analityków pracujących bez agenta, wobec 3 z 50 w grupie wspieranej — dotyczy osób, których nie da się bezpośrednio porównać, i nie pozwala na wnioski przyczynowe. Aby ograniczyć to zjawisko, raport proponuje mierzenie biernego delegowania w realnych warunkach, projektowanie agentów przedstawiających przeciwstawne argumenty oraz wytyczne instytucjonalne chroniące samodzielność osądu.

„Ludzki recenzent jest niezależną kontrolą tylko wtedy, gdy jego osąd jest naprawdę jego własny” — piszą badacze. Ryzyko polega na tym, że nadzór eksperta sprowadzi się do formalnego podpisu pod ścieżką analityczną, którą agent już wytyczył i uzasadnił.

— Olya