გუშაგი ჩიტები

by Robert Sheckley

მსოფლიოს რჩეული მოთხრობები #19
შესულია:
1. გუშაგი ჩიტები
2. უსახელო მთა
3. აზრის სურნელი
4. უდაბნოს ყვავილი
5. პრემია რისკისთვის
6. ბრძოლა
7. აბსოლიტური იარაღი
8. წაღები

Genres: Science Fiction, Short Stories, Fiction, Ebooks, Audiobook, American, Dystopia

160 pages, Paperback

First published February 1, 1953

About the author

One of science fiction's great humorists, Sheckley was a prolific short story writer beginning in 1952 with titles including "Specialist", "Pilgrimage to Earth", "Warm", "The Prize of Peril", and "Seventh Victim", collected in volumes from Untouched by Human Hands (1954) to Is That What People Do? (1984) and a five-volume set of Collected Stories (1991). His first novel, Immortality, Inc. (1958), was followed by The Status Civilization (1960), Journey Beyond Tomorrow (1962), Mindswap (1966), and several others. Sheckley served as fiction editor for Omni magazine from January 1980 through September 1981, and was named Author Emeritus by the Science Fiction and Fantasy Writers of America in 2001.

Reviews

[Roya · Rating 4 out of 5]

ایده‌ی این داستان کوتاه خیلی جذاب و نو بود‌. مخصوصا برای 70 سال پیش!
ارجاع‌تون میدم به ریویوی "رزی" که هم ترجمه‌ی خیلی خوبش رو بخونید و هم ریویوی دقیقش رو😼✨️

لینک ریویوی رزی:

https://www.goodreads.com/review/show...

[رزی - Woman, Life, Liberty · Rating 5 out of 5]

فکر کنید یه روز قضاوت‌های اخلاقی رو به ماشین‌آلات بسپریم، مثلاً بذاریم ماشین‌ها جلوی قتل رو بگیرن. دنیای ایده‌آلی می‌شه... یا نه؟

ترجمه‌ی جدیدمو خییییییلی دوست دارم و اگه انگورش کنید بسیار ناراحت می‌شم.👈👉
این‌جور بود که یه جای رندوم خلاصه‌ش رو خوندم و عاشقش شدم و گفتم من اینو بااااید ترجمه کنم.
هفتاد سال پیش نوشته شده ولی الانم باهاش هم‌ذات‌پنداری می‌کنی و از سرنوشت هوش مصنوعی می‌ترسی (می‌دونم ترس کلیشه‌ای‌ایه! ولی به رابرت شکلی اعتماد کنید! و به من البته!).

📚📚📚
فایل ترجمه‌هام رو اینجا می‌ذارم:
https://t.me/TranslationZahra
📚📚📚


اگر کتاب «روزی که فضایی‌ها آمدند» اثر رابرت شکلی رو خونده باشید با مغز خلاق و طنز بامزه‌ش آشنایید. خب اینجا هم همون‌قدر هوشمندانه می‌نویسه. داستانش قشنگ می‌تونه یه اپیزود جذاب از سریال «Black Mirror» یا «The Twilight Zone» باشه. امیدوارم که در ترجمه روح اثر رو منتقل کرده باشم.

بعد از خوندنش بیاید نقد این پایین رو بخونید و بعد با هم فن‌گرلی/فن‌بویی/فن‌نون‌بربری‌ای کنیم. الان نه! اسپویله.

چند نکته‌ی تحلیلی به‌ویژه در ارتباط با کاربرد ماشین در دنیای امروز:



واگذار شدنِ اخلاق
رابرت شکلی از شخصیت «گلسن» که به ماشین‌ها بدبینه استفاده می‌کنه که زاویه‌دیدش و مضمون و پیام اخلاقی رو به خواننده منتقل کنه: «ماشین‌آلات پاسخ مشکلات انسانی نیستند». ما نمی‌تونیم اخلاقیات انسانی رو به ماشین‌ها واگذار کنیم. خودروی خودران رو فرض کنید که در موقعیت خطرناکی قرار می‌گیره و باید تصمیم بگیره که جون عابر رو نجات بده یا سرنشین رو. یا مثلاً الگوریتم تصمیم بگیره بیمه‌ی کسی که در محله‌ی خطرآفرین‌تر زندگی می‌کنه گرون‌تر بشه و جوابش فقط می‌شه این: «سیستم گفت». ما در لحظات بحرانی مسئولیت تصمیم‌گیری رو به ماشین واگذار کردیم که بارش رو از دوش خودمون برداریم و نهایتاً هیچ‌کس رو نداریم که سرزنش و اصلاح کنیم.

یادگیریِ شبکه‌ای
تجربه‌ی هر پرنده‌ی نگهبان به شبکه منتقل می‌شه؛ و خطاهاشون هم به همین صورت تکثیر می‌شه. این مدل اشتباه‌های محلی رو به‌سرعت به خطای جهانی تبدیل می‌کنه. در مدل زبانی‌ای مثل چت جی‌پی‌تی که روی داده‌ها آموزش می‌بینه، داده‌ی آلوده کل شبکه رو آلوده می‌کنه. خطا یا بایاس به تمام کاربران نشون داده و تکرار می‌شه.

مسئله تعریف هدف
مشکل لزوماً خود فناوری نیست. مشکل اصلی اینه که معیار و تعریف ما چیه و چه دستوری به ماشین می‌دیم. در این داستان، تعریف بد و مبهم «قتل» راه‌حل بدی به دنبال داشت. مدارهای یادگیری باعث شدن دامنه‌ی تعاریف «قتل» گسترش پیدا کنه و فاجعه پیش بیاد. این مورد رو هم در رسانه‌های امروزی می‌تونیم ببینیم، چیزی که خلاصه‌ای از قانون گودهارت بهمون توضیحش می‌ده: «وقتی یک شاخص اندازه‌گیری تبدیل به هدف شود، دیگر شاخص خوبی نخواهد بود.» -چون سیستم حول اون معیار رفتار می‌کنه. مثال ملموس امروزی: هدف اولیه‌ی بعضی از شبکه‌های اجتماعی مثل تیک‌تاک این بود که ویدیویی به اشتراک گذاشته و پسندیده بشه و اگه لایک‌هاش زیاد باشه در اینترنت پخش بشه. اما مردم حالا برای دیده شدن ویدیوشون با الگوریتم بازی می‌کنن: ویدیوهای بی‌محتوا، کلیک‌بیت و محتواهای خشم‌برانگیز و قطبی‌ساز پاداش می‌گیرن و اگرچه نتیجه‌ش چیزی مثل فاجعه‌ی داستان نیست، باز هم پیامدهای منفی و ناخواسته‌ای داره.

مرگ‌های سنجیده
تناقض جالبیه: مرگ‌ها باعث می‌شن جریان حیات ادامه داشته باشه. ما لفظ «قتل» رو محکوم می‌کنیم اما قتل روزمره در طبیعت رو نادیده می‌گیریم؛ از دروی محصولات گرفته تا کشتار دام و شکار. در این داستان ماشین‌ها نتونستن اهمیت مرگ مجاز، ضروری، ساختارمند و هدفمند رو درک کنن. مسئله‌ای مثل «قتل» فقط حوزه‌ی کاری مهندس نرم‌افزار نیست؛ سیاست‌گذاران باید با بوم‌شناسان و کشاورزان و جامعه‌شناسان و... هم کار کنن. دخالت در سیستم پیچیده‌ی طبیعت حتی با نیت خیر تعادل کل شبکه رو به هم می‌زنه.

مسابقه‌ی تسلیحاتی
راه‌حل انسان‌ها به فاجعه‌ی پرندگان نگهبان تکرار اشتباه قبلی‌شون بود؛ راه‌حلی تهاجمی‌تر با همون خطر تکراری. هربار سطح خطر رو بالا می‌بریم. هر قدممون به سمت راه‌حل، محرکی برای چیز خطرناک‌تریه و جامعه در مسابقه‌ای از راه‌های نظامی روزافزون گرفتار می‌شه.
مثال‌های ملموس امروزی:
بدافزار‌ها و آنتی‌ویروس‌ها مدام در واکنش به هم هوشمندتر و پیچیده‌تر می‌شن.
تولیدکنندگان محتوا مدام روش‌های جدیدی برای دور زدن فیلتری که قوی‌تر می‌شه پیدا می‌کنن.
سلاح‌ها و ضدسلاح‌ها مدام در پیشرفت‌اند و هر پیشرفت واکنش متقابلی ایجاد می‌کنه.

عمل در برابر ترک عمل
پرندگان نگهبان فقط به کنش‌های فعالانه (کشتن) توجه می‌کنن و کنش‌های منفعلانه (مرگ از گرسنگی) براشون بی‌اهمیته؛ در حالی که در جامعه نه فقط اقدام‌های تهاجمی بلکه غفلت‌ها هم به مردم آسیب می‌زنن. در سیاست‌گذاری باید به پیامدهای غیرمستقیم و نتایج سیستمی هم اهمیت بدیم که پشت پرده باعث مرگ و خرابی نشیم: مثلاً در شبکه‌های اجتماعی پست‌هایی که فعالانه نفرت‌پراکنی می‌کنن ممنوعن اما تنبیه (حذف و ریپورت) سطحیه و به عوامل ساختاری که باعث تهیه‌ی اون پست‌ها شده توجهی نداره و علاوه بر اون اجازه می‌ده اطلاعات غلط به‌طور گسترده‌ای منتشر بشه چون اقدام فعالانه‌ی منفی‌ای نیست.




آره خلاصه. رابرت شکلی هفتاد سال پیش چیزی رو پیش‌بینی کرده که امروز با الگوریتم‌های رسانه‌ای و هوش مصنوعی برامون ملموس شده و سوالاتی می‌پرسه که هنوز هم جواب قطعی ندارن:
- آیا اخلاق می‌تونه به الگوریتم تبدیل بشه؟
- چه کسی تعیین می‌کنه معیار ما برای امر غیراخلاقی مجاز چیه؟
- آیا ماشین خودمختار علیه ما عمل خواهد کرد؟ یا الان هم داره می‌کنه؟
- اگر ماشین چیزی فراتر از تعریف و هدف ما بشه، آیا هنوز ادامه‌ی اراده‌ی ماست یا موجود جدیدیه؟
- اگر الگوریتم یا ماشین خطا کنه مسئولیتش گردن کیه - طراح، کاربر، ماشین؟
- موجودی که درکش از اخلاق فقط در قالب داده و محاسبه‌ست قابل اعتماده؟

پی‌نوشت: گودریدز من روانیه یا واسه شما هم پایین ریویوهاتون گزینه لایک وجود نداره؟

[Lyn · Rating 3 out of 5]

Good SF.

Robert Sheckley was coming up with good sci-fi before it was cool … well, cooler than it is now … more mainstream than it is now.

Anyway.

In this short we find a company that produces watchbirds, a kind of drone that is programmed to seek out those whose DNA and pheromones broadcast that he is about to commit murder. They zap him to prevent the crime. The watchbirds then share their learning with all the other watchbirds on the network. The developing AI then adjust and amend their definition of murder with fun but more or less predicable results.

A playful homage to Asimov’s robots and impressive when you consider he first published this in 1990 before droids were as recognized as today.

[Sara · Rating 3 out of 5]

داستان به صورت ترکیبی من رو یاد ماینوریتی ریپورت و آی‌.روبات انداخت.
با توجه به زمان نگارشش چیز جالبی بود.
شهریور ۱۴۰۴

[Milad Rami · Rating 3 out of 5]

3.5/5 ⭐

«پرنده نگهبان» از اون داستان‌هاست که یه ایده‌ی خیلی ساده رو می‌ذاره جلوت، ولی همون ایده تو چند صفحه تبدیل می‌شه به یه هشدار جدی درباره‌ی اعتماد بی‌قیدوشرط به تکنولوژی. رابرت شکلی با همون طنز ظریف همیشگیش نشون می‌ده که وقتی ماشین‌ها بخوان به جای ما تصمیم بگیرن، مشکل از جایی شروع می‌شه که اخلاق تبدیل بشه به یک سری خط‌کش خشک و بی‌فهم.
داستان خیلی کوتاهه اما دقیق: نه شعار می‌ده، نه پیچیده بازی درمیاره؛ فقط یه آینه جلوت می‌گیره تا ببینی کنترل کامل، حتی اگه از طرف یه «پرنده‌ی مهربون» باشه، همیشه چیز خوبی نیست.

فایل ترجمه‌ رو از اینجا دانلود کنید:
https://t.me/TranslationZahra

[Peter Tillman · Rating 5 out of 5]

Free copy online: https://www.gutenberg.org/ebooks/29579

[Jamie · Rating 3 out of 5]

Amusing cautionary tale of artificial intelligence gone awry, due both to the unintended consequences of a self-learning AI and the necessarily limited, and thus flawed programming provided by humans. Reminiscent of Jack Williamson's classic The Humanoids, which I can only guess was an influence, as well Asimov's famous three laws of robotics. Though in this case the people didn't quite get the laws right, possibly because it may be an impossible task.

[Janelle · Rating 3 out of 5]

An interesting story about technology and the perils of introducing one pest (the watchbird) to eliminate another (murder). It kind of reminded me of a futuristic version of the cane toad dilemma in Australia.

[Ihor Kolesnyk · Rating 4 out of 5]

різний за складом оповідань збірник, але є дуже хороші речі.

[Luka Fadiurashvili · Rating 4 out of 5]

"უდაბნოს ყვავილი" არის პატარა შედევრი.

[Al Lock · Rating 5 out of 5]

This story is particularly noteworthy today with the expansion of drone technology, but more importantly is the warning it serves for those who think technology can provide solutions to human problems.

[Richelle Priscilla · Rating 5 out of 5]

A very good and very short understanding of the dangers of our own egos when allowing machines to do our job.

[Артюхин Алексей · Rating 5 out of 5]

And who are the judges?

I remember Robert Sheckley's short story "The Watchbird" well for its originality. A peculiar and even outlandish plot, which, however, quite has a place to be. To prevent murders, special watchbirds are created that work for the benefit of society, preventing any attempts to assassinate people. Self-learning mechanisms are evolving. Why were they allowed to do this? It's a difficult question, which, by the way, after a few pages you don't even ask, because it's damn interesting to see what happens next in the story.
And according to the plot, without going into details, a new picture is seen. The watchbirds suddenly decide that it would be necessary to expand the concept of "murder", going beyond the usual interpretation of this word, when only the deprivation of human life by man was suitable for it. And now the killing of animals, insects, and plants is prohibited. It's not difficult to immediately build a picture in your head when people won't be able to get food by any means. And this is a harbinger of a large-scale catastrophe, which will be the extinction of humans.
I dare not tell you any more, because the work is worth reading for yourself. Sheckley reveals his fantastic world of watchbirds in a very interesting way. Page after page. You move in this whirlpool, knowing full well that the people in the story have become hostages of their own creatures. There's only a terrible future ahead.
The story poses acute problems of human existence. After all, this work is exaggerated. It is intended to show the sometimes frequent stupidity of people, but it does so on an absolute scale, when the events taking place in the book literally negate the future of humans as a species. This is a kind of warning from there, from the middle of the 20th century, that cars can be dangerous to people. Especially if you make fatal mistakes when creating and programming them. It is necessary to understand that every decision necessarily entails certain consequences. And the more important and meaningful such a decision is, the more global the results can be. More global, first of all, in a negative way.
Humanity should never forget that "the road to hell is paved with good intentions." And this story clearly demonstrates that you can find yourself in a losing situation, from which there will be no way out, but not for individuals, but for the whole of humanity.
Sheckley's story is really worth listening to. It is written in a lively and interesting language, competing with itself in the language of narration and plot development. One, however, does not exist without the other, but it was wildly interesting for me to watch what was happening on the pages of the work. This is a kind of satire on our world, and the author, in my opinion, has successfully shown how humanity is still unable to foresee its actions, sometimes doing incredibly stupid things that in the future will be regarded by posterity, perhaps as madness.
9 out of 10

[Susan Molloy]

✒️ "The watchbirds are supposed to stop a man before he commits a murder."
Gelsen is a maker of drones (mechanical watchbirds), which are designed to stop people from killing; however, soon the watchbirds start to work with startling independence to magnify their own definition of killing to encompass more than what Gelsen and society-at-large bargained for. This story is shocking, and a lesson for today.

📕Published — February 1953, Stories from Galaxy Science Fiction Magazine. In the public domain.
જ⁀🍋 Read e-book version on Project Gutenberg. 🟡
જ⁀🍇 Read e-book version on Kindle. 🟣
✴︎🚀✴︎💫✴︎🚀✴︎

[Phil Giunta · Rating 3 out of 5]

In an effort to reduce the homicide rate, the government introduces the Watchbirds, a fleet of drones developed by a consortium of private corporations. The Watchbirds are capable of detecting biological changes in a person seconds before they commit murder. In response, the Watchbirds swoop down and shock the would-be killer until they cease and desist.

Equipped with artificial intelligence and the ability to communicate with one another, the Watchbirds continuously update their definition of murder and act accordingly—with disturbing results.

[William · Rating 4 out of 5]

Entertaining listening 🎶🔰

Another will written fantasy Sci-Fi adventure thriller short story by Robert Sheckley about the development of a mechanical machine too prevent murder. Then it stops the murder of everything. I would recommend this novella to readers looking for something a little different. Enjoy the adventure of reading 👓 or listening 🎶 to Alexa as I do because of health issues. 2022 😢🗽

[Бастіан Хайфіш · Rating 4 out of 5]

ШІ хотів як краще, а вийшло як завжди

Невелике оповідання "Сторожовий птах" (в аудіоформаті близько однієї години) з концентрованим вмістом, розповідає історію застосування автономних бойових дронів, мета яких - запобігання вбивствам. Проте як і в багатьох інших випадках, ШІ, сприймаючи все буквально, доводить ідею до абсурду, бо на відміну від людини, не вміє в абстрактне мислення.

Загалом непогано. Можна поставити на поличку під назвою "Як ШІ вміє тупити".

4 з 5

[Rashmi · Rating 5 out of 5]

As with all Robert Sheckley - an engaging, short science fiction read that makes you think about the ramifications of scientific progress. It was particularly interesting to read this after reading "Leading with Values," as a lot of the dilemmas seemed like case studies for various ethical/philosophical frameworks that were discussed in that book.

[Sterlingcindysu · Rating 4 out of 5]

A short sci-fi read, free for Kindle from Amazon.

Who will watch the watchers? We already have drones and AI...

[Jessica George · Rating 3 out of 5]

I found this book read kind of like a comedy, it was a bit silly. I found the ending was a bit rushed also.

[Gekh · Rating 5 out of 5]

there are a Black Mirror episode based on this story

[Alessandro · Rating 3 out of 5]

A nice little story and very modern too, since it explores some of the risks of putting our lives in the hands of artificial intelligences.

[Forked Radish · Rating 5 out of 5]

AI in 1953, A prelude to the future.

[Giorgi Grigalashvili · Rating 5 out of 5]

ამ მწერლსი მოთხრობებზე ვისურვებდი ანიმაციურ სერიალს, როგორც Love, death&Robots-ია❤️

[Nathan · Rating 4 out of 5]

Completely believable

[Tony Ciak · Rating 5 out of 5]

great scifi, short story by a master.

[Rhys Pierce · Rating 5 out of 5]

I am always fascinated by unintended consequences. In this story, a well meaning idea to prevent murder spirals out of control. This is a short story in Project Gutenberg.

[Alder Helga · Rating 5 out of 5]

До чого можуть домудруватися вчені і державне керівництво) І що буде, якщо не дати природі (навіть роботизованій) можливість до саморегулювання: бо в певний момент я подумала, що ці хижі птахи самі себе винищать, але ні - людство винайшло ще більш мудрований спосіб загнати себе в кут

[Magda · Rating 4 out of 5]

One of the best SF stories I've read. Short, but manages to tell you all you need to know. It shows how people can get addicted from technology and how this technology can turn against them. The only way to save themselves is to create another technological miracle.
This is actually basic story behind many SF books and movies that show how technology can be deadly for us if we won't be careful enough.

[Pavel B · Rating 3 out of 5]

I liked the idea but didn't like implementation. Too many flaws in watchbirds, too many times when you read and think "Really? And they couldn't make watchbirds controlled from a central control room in emergency situations?" or "Really? They couldn't program watchbirds to protect humans only?", or "Really? They couldn't test just a few watchbirds before starting using thousands of them across the country?", etc.