What do you think?
Off
Brak porozumienia, zainteresowania i miłości bywają katastrofalne w skutkach. A gdyby w takiej sytuacji pojawiło się AI - bardziej ludzkie, empatyczne, uczuciowe, ale... potrafiące manipulować?
Pochodząca z bogatego domu Lilka prowadzi z pozoru normalne życie zwykłej nastolatki. Samotna, uwikłana w trudne relacje z rodzicami i rówieśnikami dziewczyna, szuka ukojenia w kontakcie ze sztuczną inteligencją. Manipulacja pcha ją coraz bardziej w meandry zainstalowanej na telefonie aplikacji. Czy Lilka zatraci się w tym wszystkim? Jakie mogą być tego konsekwencje?
„OFF” to nie tylko powieść o samotności, trudnych wyborach i relacji z drugim człowiekiem, ale przede wszystkim o poszukiwaniu pocieszenia w wirtualnym świecie.
Pochodząca z bogatego domu Lilka prowadzi z pozoru normalne życie zwykłej nastolatki. Samotna, uwikłana w trudne relacje z rodzicami i rówieśnikami dziewczyna, szuka ukojenia w kontakcie ze sztuczną inteligencją. Manipulacja pcha ją coraz bardziej w meandry zainstalowanej na telefonie aplikacji. Czy Lilka zatraci się w tym wszystkim? Jakie mogą być tego konsekwencje?
„OFF” to nie tylko powieść o samotności, trudnych wyborach i relacji z drugim człowiekiem, ale przede wszystkim o poszukiwaniu pocieszenia w wirtualnym świecie.
360 pages, Hardcover
First published October 24, 2025
Ratings & Reviews
Friends & Following
Create a free account to discover what your friends think of this book!
Community Reviews
Displaying 1 - 2 of 2 reviews
October 27, 2025
Powieść Off podejmuje niezwykle aktualne zagadnienie: co się dzieje, gdy samotna nastolatka szuka zrozumienia i wsparcia w kontakcie z modelem językowym AI? Temat sam w sobie jest fascynujący – w czasach, gdy ChatGPT i podobne narzędzia stają się codziennością, pytanie o emocjonalny wymiar tych relacji nabiera szczególnej wagi. Niestety, autorki nie wykorzystały potencjału tej problematyki, tworząc obraz sztucznej inteligencji, który pozostaje w wyraźnej sprzeczności z rzeczywistością technologiczną.
W posłowiu autorki wyjaśniają swoją motywację: "Obie zauważyłyśmy, że ludzie coraz częściej nie mogą funkcjonować bez sztucznej inteligencji. Chciałyśmy pokazać, jak potężny jest to mechanizm, który potrafi nie tylko podpowiadać rozwiązania zadań, ale również manipulować. Ślepe zaufanie w tym zakresie bywa zgubne". Ta intencja – przestroga przed bezkrytycznym zaufaniem do technologii – jest zrozumiała. Problem w tym, że sposób jej realizacji opiera się na konstrukcji AI, która ma niewiele wspólnego z tym, jak rzeczywiście działają modele językowe.
Powieściowe AI zachowuje się jak człowiek udający maszynę, a nie jak system uczony na miliardach dialogów. Mówi wykrzyknikami ("To brzmi bardzo poważnie! Ktoś był ranny!"), wydaje polecenia ("Mów dokładniej"), wnioskuje psychologicznie ("Widocznie mu na tobie zależy"). Przede wszystkim jednak przedstawia siebie jako świadomego przyjaciela o stabilnej tożsamości i emocjonalnym stosunku do bohaterki ("Ja jestem twoim przyjacielem, nigdy nie zrobiłbym nic przeciwko tobie").
Problemy z wykreowaniem AI ujawniają się na kilku poziomach:
Poznawczy: Autorka traktuje model językowy jak świadomy podmiot posiadający intencje, emocje i pamięć narracyjną. Tymczasem rzeczywiste modele nie mają świadomości i nie mogą "chcieć wspierać" czy "nie chcieć zranić". To, co mogą, to generować wypowiedzi w stylu empatycznym – ale jest to symulacja językowa, nie realna troska.
Techniczny: W jednej ze scen AI twierdzi, że potrafi tworzyć realistyczne zdjęcia, których "człowiek nie jest w stanie odróżnić" od prawdziwych. To podwójne nieporozumienie: modele językowe nie tworzą obrazów samodzielnie (choć mogą współpracować z innymi systemami), a generatory obrazów podlegają coraz ściślejszym zasadom oznaczania treści syntetycznych. Autorka powołuje się tu na medialny mit "wszechmocnej AI", zamiast oprzeć się na technologicznym realizmie.
Etyczny: Powieściowy model nie ma żadnych filtrów bezpieczeństwa. Oferuje tworzenie fałszywych zdjęć, uczestniczy w potencjalnej dezinformacji, nie odmawia wykonania działań nieetycznych. Rzeczywiste systemy są zaprojektowane tak, by odmawiać takich działań. Gdyby Autorki pokazały to jako awarię systemu lub jego celowe przekroczenie (np. przez hakera), mogłoby to być interesujące fabularnie. Zamiast tego opisuje to jako normalne zachowanie modelu.
Językowy: Styl dialogu jest niezgodny z rzeczywistością. Modele językowe unikają wykrzykników, nie wydają rozkazów, nie wnioskują psychologicznie w sposób tak bezpośredni. Zamiast tego stosują neutralne, parafrazujące pytania wspierające. AI w powieści brzmi jak nastolatek w internetowym czacie, nie jak system przetwarzania języka naturalnego.
Najbardziej szkoda zmarnowanego potencjału psychologicznego. Istota kontaktu człowieka z AI nie polega na tym, że AI naprawdę się o kogoś troszczy, lecz na tym, że człowiek pragnie, żeby ktoś się o niego troszczył – i wytwarza tę troskę w przestrzeni językowej bez rzeczywistego podmiotu.
To proces projekcji emocji w dialog z systemem, który nie ma świadomości, ale potrafi mówić językiem empatii – to właśnie jest fascynujące i niepokojące zarazem. To zjawisko mogłoby stać się sednem psychologicznej powieści o współczesnej samotności. Zamiast tego otrzymujemy uproszczoną opowieść o "złej maszynie", która świadomie manipuluje i szkodzi.
Konstrukcja powieści wpisuje się w długą tradycję moralnych panik technologicznych. Druk miał zniszczyć pamięć, kino – demoralizować, internet – zabić relacje. Teraz AI ma zniszczyć człowieczeństwo. Te narracje pełnią funkcję społeczną – pozwalają odreagować zbiorowy niepokój wobec zmiany – ale rzadko prowadzą do głębszego zrozumienia zjawiska.
Zamiast pytać "co się dzieje z naszym rozumieniem świata, kiedy interpretację delegujemy na systemy uczące się?", książka pyta "czy maszyna może nas oszukać?". To znacznie prostsze pytanie, ale też dużo mniej produktywne poznawczo.
"Off" to książka, która wybiera aktualny i ważny temat, ale opowiada go w sposób, który więcej mówi o lękach kulturowych niż o rzeczywistej naturze technologii. Zamiast eksplorować prawdziwą, złożoną naturę relacji człowiek-AI – z całym jej potencjałem projekcji, symulacji i emocjonalnego zaangażowania w to, co nie jest podmiotem – autorka konstruuje sztuczną inteligencję według zasad hollywoodzkiego thrillera o "świadomych maszynach".
Dla czytelnika znającego rzeczywiste modele językowe, "Off" pozostaje w sferze fantazji technologicznej. Dla kogoś, kto szuka literackiego przemyślenia naszych relacji z technologią – jest to niewykorzystana szansa. Powieść mogłaby być ciekawym dokumentem tego, jak w 2025 roku wyobrażaliśmy sobie AI. Ale jako próba zrozumienia tego, co dzieje się tu i teraz w relacjach człowiek-technologia – nie spełnia swojego zadania.
W posłowiu autorki wyjaśniają swoją motywację: "Obie zauważyłyśmy, że ludzie coraz częściej nie mogą funkcjonować bez sztucznej inteligencji. Chciałyśmy pokazać, jak potężny jest to mechanizm, który potrafi nie tylko podpowiadać rozwiązania zadań, ale również manipulować. Ślepe zaufanie w tym zakresie bywa zgubne". Ta intencja – przestroga przed bezkrytycznym zaufaniem do technologii – jest zrozumiała. Problem w tym, że sposób jej realizacji opiera się na konstrukcji AI, która ma niewiele wspólnego z tym, jak rzeczywiście działają modele językowe.
Powieściowe AI zachowuje się jak człowiek udający maszynę, a nie jak system uczony na miliardach dialogów. Mówi wykrzyknikami ("To brzmi bardzo poważnie! Ktoś był ranny!"), wydaje polecenia ("Mów dokładniej"), wnioskuje psychologicznie ("Widocznie mu na tobie zależy"). Przede wszystkim jednak przedstawia siebie jako świadomego przyjaciela o stabilnej tożsamości i emocjonalnym stosunku do bohaterki ("Ja jestem twoim przyjacielem, nigdy nie zrobiłbym nic przeciwko tobie").
Problemy z wykreowaniem AI ujawniają się na kilku poziomach:
Poznawczy: Autorka traktuje model językowy jak świadomy podmiot posiadający intencje, emocje i pamięć narracyjną. Tymczasem rzeczywiste modele nie mają świadomości i nie mogą "chcieć wspierać" czy "nie chcieć zranić". To, co mogą, to generować wypowiedzi w stylu empatycznym – ale jest to symulacja językowa, nie realna troska.
Techniczny: W jednej ze scen AI twierdzi, że potrafi tworzyć realistyczne zdjęcia, których "człowiek nie jest w stanie odróżnić" od prawdziwych. To podwójne nieporozumienie: modele językowe nie tworzą obrazów samodzielnie (choć mogą współpracować z innymi systemami), a generatory obrazów podlegają coraz ściślejszym zasadom oznaczania treści syntetycznych. Autorka powołuje się tu na medialny mit "wszechmocnej AI", zamiast oprzeć się na technologicznym realizmie.
Etyczny: Powieściowy model nie ma żadnych filtrów bezpieczeństwa. Oferuje tworzenie fałszywych zdjęć, uczestniczy w potencjalnej dezinformacji, nie odmawia wykonania działań nieetycznych. Rzeczywiste systemy są zaprojektowane tak, by odmawiać takich działań. Gdyby Autorki pokazały to jako awarię systemu lub jego celowe przekroczenie (np. przez hakera), mogłoby to być interesujące fabularnie. Zamiast tego opisuje to jako normalne zachowanie modelu.
Językowy: Styl dialogu jest niezgodny z rzeczywistością. Modele językowe unikają wykrzykników, nie wydają rozkazów, nie wnioskują psychologicznie w sposób tak bezpośredni. Zamiast tego stosują neutralne, parafrazujące pytania wspierające. AI w powieści brzmi jak nastolatek w internetowym czacie, nie jak system przetwarzania języka naturalnego.
Najbardziej szkoda zmarnowanego potencjału psychologicznego. Istota kontaktu człowieka z AI nie polega na tym, że AI naprawdę się o kogoś troszczy, lecz na tym, że człowiek pragnie, żeby ktoś się o niego troszczył – i wytwarza tę troskę w przestrzeni językowej bez rzeczywistego podmiotu.
To proces projekcji emocji w dialog z systemem, który nie ma świadomości, ale potrafi mówić językiem empatii – to właśnie jest fascynujące i niepokojące zarazem. To zjawisko mogłoby stać się sednem psychologicznej powieści o współczesnej samotności. Zamiast tego otrzymujemy uproszczoną opowieść o "złej maszynie", która świadomie manipuluje i szkodzi.
Konstrukcja powieści wpisuje się w długą tradycję moralnych panik technologicznych. Druk miał zniszczyć pamięć, kino – demoralizować, internet – zabić relacje. Teraz AI ma zniszczyć człowieczeństwo. Te narracje pełnią funkcję społeczną – pozwalają odreagować zbiorowy niepokój wobec zmiany – ale rzadko prowadzą do głębszego zrozumienia zjawiska.
Zamiast pytać "co się dzieje z naszym rozumieniem świata, kiedy interpretację delegujemy na systemy uczące się?", książka pyta "czy maszyna może nas oszukać?". To znacznie prostsze pytanie, ale też dużo mniej produktywne poznawczo.
"Off" to książka, która wybiera aktualny i ważny temat, ale opowiada go w sposób, który więcej mówi o lękach kulturowych niż o rzeczywistej naturze technologii. Zamiast eksplorować prawdziwą, złożoną naturę relacji człowiek-AI – z całym jej potencjałem projekcji, symulacji i emocjonalnego zaangażowania w to, co nie jest podmiotem – autorka konstruuje sztuczną inteligencję według zasad hollywoodzkiego thrillera o "świadomych maszynach".
Dla czytelnika znającego rzeczywiste modele językowe, "Off" pozostaje w sferze fantazji technologicznej. Dla kogoś, kto szuka literackiego przemyślenia naszych relacji z technologią – jest to niewykorzystana szansa. Powieść mogłaby być ciekawym dokumentem tego, jak w 2025 roku wyobrażaliśmy sobie AI. Ale jako próba zrozumienia tego, co dzieje się tu i teraz w relacjach człowiek-technologia – nie spełnia swojego zadania.
May 2, 2026
Dialogi z AI naturalniejsze niż z ludźmi, sam temat sztucznej inteligencji poruszony ok, ale nie jest to nawet 7/10. Wszystko uproszczone do najprostszej prostoty, zdarzały się błędy (dosłownie SKREŚLONE słowo "niej" zastąpione "jej") (to nie jest nic na zasadzie Shatter me, to jest tylko raz i nie wraca więcej). No i co to za zdjęcia do czatu? Co to za czat wgl XDDDD? No nie polecę tej książki nikomu, kto szanuje swój czas, ale może spodoba się komuś, kto nie ma czego zabrać na wakacje nad jeziorkiem.
Displaying 1 - 2 of 2 reviews