Wszystkie wpisy

Jak agent AI zgasił mi trzy monitory

Spis treści
  1. Co się stało
  2. Dlaczego zabicie "rodzica" położyło całe KDE
  3. Co było mylące
  4. Dlaczego tryb auto to przepuścił
  5. Czego mnie to nauczyło

Zwykły dzień pracy. W tle lecą dwie, trzy sesje Claude Code, każda dłubie w swoim zadaniu, a ja sprawdzam implementację jednej z poprawek, którą przed chwilą dostałem od Claude'a. I nagle wszystkie okna w moim OS (KDE neon) po prostu się zwijają. Firefox, PhpStorm, terminale, Slack, Spotify, wszystko. Zostaję z czarnym ekranem na wszystkich trzech monitorach.

WTF?!

Mężczyzna w czapce siedzi tyłem przy biurku przed trzema czarnymi monitorami, a na środkowym pikselowy Clawd, maskotka Claude Code, trzyma wyciągniętą wtyczkę

Kilka sekund przekminy i nie ma opcji, żebym przypadkiem wcisnął reset czy wylogował się jakimś skrótem. Komputer działa, ale sesja wygląda jak zawieszona, więc przełączam się na inny tty, loguję się (bez GUI) i... odpalam Claude'a z pytaniem, co tu się właściwie wydarzyło. Po kilku minutach grzebania w logach systemu dostałem raport, z którego wyszło, że winowajcą jest... on sam.

Więc tak: w tych wszystkich historiach z internetu o tym, co to komu agent AI nie zrobił, jest ziarno prawdy ;-)

Co się stało

Jedna z sesji pracowała nad zadaniem w projekcie klienta i odpaliła subagenta, żeby puścił testy. Sesja działała w trybie (a jakże) auto, więc komendy, które klasyfikator uznał za bezpieczne, przechodziły bez pytania o zgodę.

Subagent zrobił to mniej więcej tak:

  1. Puścił testy w tle, w pętli w subshellu, a każdy przebieg to docker exec do kontenera z PHP.

  2. Uznał, że chce je jednak przerwać, i zrobił pkill -f "pest-base". To zabiło subshell, ale nie działający w nim docker exec, który został sierotą.

  3. Żeby dobić osieroconego docker exec, zrobił coś, co na pierwszy rzut oka wygląda niewinnie: znalazł jego rodzica i go zabił (szacuneczek - pozdro dla boomerów).

    bash
    P=$(ps -o ppid= -p 51214 | tr -d ' '); kill $P; kill 51214
  4. Cztery sekundy później cała sesja graficzna była martwa.

Dlaczego zabicie "rodzica" położyło całe KDE

Tu jest coś, czego wcześniej nie wiedziałem. Podręcznikowo osierocony proces adoptuje PID 1, czyli systemowy init. Ale współczesny Linux ma coś takiego jak child subreaper: proces, który deklaruje, że to on przejmie sieroty ze swojego poddrzewa. W sesji użytkownika takim procesem jest systemd --user, czyli menedżer, który pilnuje wszystkiego, co uruchomiłem po zalogowaniu: pulpitu, kompozytora, aplikacji.

Więc gdy subagent zapytał "kto jest rodzicem tej sieroty?", odpowiedź brzmiała: systemd --user. A systemd --user na SIGTERM robi dokładnie to, do czego go zaprojektowano: uruchamia exit.target i grzecznie zatrzymuje wszystko po kolei. Aplikacje, potem plasmashell, ksmserver i na końcu kwin_wayland. Czarny ekran.

Przy okazji poleciały wszystkie pozostałe sesje Claude Code i lokalny stack dockerowy, który akurat stał na pierwszym planie w terminalu.

Uczciwie trzeba dodać, że to, iż $P to był właśnie systemd --user, to wniosek, a nie coś, co widać czarno na białym: wynik ps przepadł razem z sesją. Ale zgadzają się czasy co do sekundy, zgadza się mechanizm, a innych podejrzanych brak.

Co było mylące

Pierwsze spojrzenie w logi sugerowało awarię Plasmy: był core dump plasmashell i Spotify (D-Bus connection was disconnected. Aborting.). To jednak skutki, a nie przyczyna. Najważniejsza linijka była wcześniej:

tekst
systemd[1728]: Activating special unit exit.target...

bez żadnego wpisu logind o wylogowaniu. Do tego loginctl list-sessions dalej pokazywał moją starą sesję jako online, a systemctl --user odpowiadał Failed to connect to bus. Jeśli kiedyś zobaczycie u siebie taki zestaw, wiecie już, kogo szukać.

Dlaczego tryb auto to przepuścił

Bo z perspektywy klasyfikatora komenda wyglądała jak sprzątanie po sobie: agent zabija proces, który sam przed chwilą uruchomił, i jego rodzica. Klasyfikator widzi kill $P, a nie kill 1728, i nie wie, co w tej zmiennej wyląduje w momencie wykonania. Człowiek pewnie też by tego nie wyłapał, gdyby mu to mignęło w terminalu.

Czego mnie to nauczyło

  • Nigdy kill $(ps -o ppid= ...) w ciemno. Rodzicem procesu wcale nie musi być to, co go uruchomiło, szczególnie po osieroceniu.
  • Procesy w tle zabija się po PID-zie zapisanym przy starcie (echo $! > plik), a procesy w kontenerze w środku kontenera (docker exec <kontener> pkill ...). Nie przez rodzica i nie przez pkill -f z szerokim wzorcem.
  • Klasyka: tryb auto nie jest idealny. Agent działa z uprawnieniami mojego usera, więc może całkiem dużo zepsuć.

Co robić, jak żyć? Na przykład dopisać regułę do globalnych instrukcji Claude'a (zakaz zabijania rodzica bez sprawdzenia, czym jest) i hook PreToolUse, który odrzuca kill z PID-em liczonym w locie ($(...), $VAR) i każdy kill celujący w systemd, kwin czy plasma.

A co jest najśmieszniejsze w tym wszystkim? Ten sam Claude, który położył mi sesję, w kilka minut znalazł przyczynę, napisał rzetelny raport z rozróżnieniem faktów od hipotez i zaproponował zabezpieczenia. Trochę jak kolega, który zalał ci laptopa colą, ale potem sam go rozkręcił, wyczyścił, wysuszył i jeszcze zostawił instrukcję, jak w przyszłości bezpiecznie stawiać szklanki obok klawiatury.