Раз уж речь зашла о фантастике, просто необходимо выложить (в сокращенном виде) научно-фантастическое произведение, опубликованное почти 70 лет назад, предмет которого теперь становится жуткой действительностью боевых "дронов" с самостоятельным опознаванием и уничтожением "целей" при помощи так называемого "искусственного интеллекта": рассказ Роберта Шекли "Protection", то есть "Защита". Это название в переводе на русский было изменено на "Страж-птица", с чем вообще-то можно согласиться.
"Дроны" или "беспилотники" - это воистину радикальные военно-технические новшества. Их применение началось почти без критики и протестов, хотя оно превратило их использование в компьтерную игру для пользователя и в жуткую реальность беззащитности для захваченных врасплох жертв нападения. Это не всегда было так. Например, перед 1-й мировой войной велись (причём на высшем межгосударственном уровне) дискуссии о том, что надо запретить пулемёты как варварское оружие массового уничтожения. Но тем не менее с 1914 года все участники войны занялись массовым уничтожением солдат "противника" и пулемётами, и артиллерией, и отравляющими газами. А в 1945 году американский империализм уничтожил атомными бомбами два японских города вместе с их населением - Хиросиму и Нагасаки.
Абстрактный и религиозный гуманизм бессилен против войн. Бороться надо не против уже начавшихся войн, а против тех, кто их начал ради своей выгоды - капиталистов. Капитализму необходимы войны, как инструмент паллиативного (мнимого) "решения" центральной экономической проблемы капитализма - закономерного падения нормы прибыли. А война - это преступление; и если Курт Тухольский справедливо утверждал, что солдаты - вовсе не "герои", а убийцы, то как судить "ИИ" или его программистов за военные преступления? Впрочем, это вопрос чисто риторический, если принять во внимание нынешний совершенно безнаказанный геноцид коренного населения Палестины израильскими оккупантами...
Поэтому человечество сможет жить в мире, лишь уничтожив капитализм и занявшись построением и совершенствованием социализма.
* * *
Роберт Шекли:
"СТРАЖ-ПТИЦА
(...) Если желаешь спасать род людской, изволь сперва получить
государственный подряд.
— Представитель
президента еще не пришел, — сказал Гелсену один из собравшихся. — Он будет с
минуты на минуту.
— Нам дают
зеленую улицу, — сказал другой.
— Отлично.
Гелсен сел ближе
к двери и оглядел комнату. Это походило на торжественное собрание или на
слет бойскаутов. Всего шесть человек, но эти шестеро брали не числом, а
толщиной и весом. Председатель Южной объединенной компании во все горло
разглагольствовал о неслыханной прочности Страж-птицы.
Два его
слушателя, тоже председатели компаний, широко улыбались, кивали, один
пытался вставить словечко о том, что показали проведенные им испытания Страж-птицы
на находчивость, другой толковал о новом перезаряжающем устройстве. Остальные
трое, сойдясь отдельным кружком, видимо тоже пели хвалу Страж-птице.
Все они были
важные, солидные, держались очень прямо, как и подобает спасителям человечества.
Гелсену это не показалось смешным. Еще несколько дней назад он и сам чувствовал
себя спасителем. Этакое воплощение святости, с брюшком и уже немного
плешивое.
Он вздохнул и
закурил сигарету. Вначале и он был таким же восторженным сторонником проекта, как
остальные. Он вспомнил, как говорил тогда Макинтайру, своему главному
инженеру: "Начинается новая эпоха, Мак. Страж-птица решает все".
И Макинтайр сосредоточенно кивал — еще один новообращенный.
Тогда казалось —
это великолепно! Найдено простое и надежное решение одной из сложнейших задач,
стоящих перед человечеством, и решение это целиком умещается в
каком-нибудь фунте нержавеющего металла, кристаллов и пластмассы.
Быть может,
именно поэтому теперь Гелсена одолели сомнения. Едва ли задачи, которые терзают
человечество, решаются так легко и просто. Нет, где-то тут таится подвох. В конце
концов убийство — проблема, старая, как мир, а Страж-птица — решение,
которому без году неделя.
— Господа...
Все увлеклись
разговором, никто и не заметил, как вошел представитель президента, полный круглолицый
человек, А теперь разом наступила тишина.
— Господа, —
повторил он, — президент с согласия Конгресса предписал создать по всей стране, в
каждом большом и малом городе отряды Страж-птиц.
Раздался дружный
вопль торжества. Итак, им наконец-то предоставлена возможность спасти мир,
подумал Гелсен и с недоумением спросил себя, отчего же ему так тревожно.
Он внимательно
слушал представителя — тот излагал план распределения. Страна будет разделена на семь
областей, каждую обязан снабжать и обслуживать один поставщик.
Разумеется, это означает монополию, но иначе нельзя. Так же, как с
телефонной связью, это в интересах общества. В поставках Страж-птицы
недопустима конкуренция. Страж-птица служит всем и каждому. (...)
—
Превосходно, — заметил представитель. — Если так, я полагаю, мы можем...
У вас вопрос?
— Да, сэр, —
сказал Гелсен. — Я хотел бы знать: мы будем выпускать теперешнюю модель?
— Разумеется, она
самая удачная.
— У меня есть
возражение.
Гелсен встал.
Собратья пронизывали его гневными взглядами. Уж не намерен ли он отодвинуть
приход золотого века?!
— В чем
заключается ваше возражение? — спросил представитель.
— Прежде всего
позвольте заверить, что я на все сто процентов за машину, которая прекратит
убийства. В такой машине давно уже назрела необходимость. Я только против
того, чтобы вводить в Страж-птицу самообучающееся устройство. В
сущности, это значит оживить машину, дать ей что-то вроде сознания. Этого я
одобрить не могу.
— Но позвольте,
мистер Гелсен, вы же сами уверяли, что без такого устройства Страж-птица будет
недостаточно эффективна. Тогда, по всем подсчетам, птицы смогут
предотвращать только семьдесят процентов убийств.
— Да, верно, —
согласился Гелсен, ему было ужасно не по себе. Но он упрямо докончил: — А все-таки,
я считаю, с точки зрения нравственной это может оказаться просто опасно
— доверить машине решать человеческие дела.
— Да бросьте вы,
Гелсен, — сказал один из предпринимателей. — Ничего такого не происходит.
Страж-птица только подкрепит те решения, которые приняты всеми честными людьми
с незапамятных времен.
— Думаю, вы
правы, — вставил представитель президента. — Но я могу понять чувства мистера
Гелсена. Весьма прискорбно, что мы вынуждены вверять машине проблему, стоящую перед
человечеством, и еще прискорбнее, что мы не в силах проводить в жизнь наши
законы без помощи машины. Но не забывайте, мистер Гелсен, у нас нет иного
способа остановить убийцу прежде, чем он совершит убийство. Если мы из
философских соображений ограничим деятельность Страж-птицы, это будет
несправедливо в отношении многих и многих жертв, которые каждый год погибают от
руки убийц. Вы не согласны?
— Да в общем-то
согласен, — уныло сказал Гелсен. (...)
Страж-птица
взмыла над городом, медленно описывая плавную дугу. Алюминиевое тело поблескивало
в лучах утреннего солнца, на недвижных крыльях играли огоньки. Она парила
безмолвно. Безмолвно, но все органы чувств начеку. Встроенная аппаратура подсказывала
Страж-птице, где она находится, направляла ее полет по широкой кривой
наблюдения и поиска. Ее глаза и уши действовали как единое целое, выискивали,
выслеживали.
И вот что-то
случилось! С молниеносной быстротой электронные органы чувств уловили некий сигнал.
Сопоставляющий аппарат исследовал его, сверил с электрическими и химическими
данными, заложенными в блоках памяти. Щелкнуло реле.
Страж-птица по
спирали помчалась вниз, к той точке, откуда, все усиливаясь, исходил сигнал.
Она чуяла выделения неких желез, ощущала необычную волну мозгового
излучения. В полной готовности, во всеоружии описывала она круги, отсвечивая в ярких
солнечных лучах.
Динелли не
заметил Страж-птицы, он был поглощен другим. Вскинув револьвер, он жалкими глазами
уставился на хозяина бакалейной лавки.
— Не подходи!
— Ах ты, щенок! —
рослый бакалейщик шагнул ближе. — Обокрасть меня вздумал? Да я тебе все кости
переломаю!
Бакалейщик был то
ли дурак, то ли храбрец — нимало не опасаясь револьвера, он надвигался на
воришку.
— Ладно же! —
выкрикнул насмерть перепуганный Динелли. — Получай, кровопийца...
Электрический
разряд ударил ему в спину. Выстрелом раскидало завтрак, приготовленный на подносе.
— Что за черт? —
изумился бакалейщик, тараща глаза на оглушенного вора, свалившегося к его
ногам. Потом заметил серебряный блеск крыльев. — Ах, чтоб мне провалиться!
Птички-то действуют!
Он смотрел вслед
серебряным крыльям, пока они не растворились в синеве. Потом позвонил в полицию.
Страж-птица уже
вновь описывала кривую и наблюдала. Ее мыслящий центр сопоставлял новые сведения,
которые она узнала об убийстве. Некоторые из них были ей прежде неизвестны. Эта
новая информация мгновенно передалась всем другим Страж-птицам, а их
информация передалась ей. Страж-птицы непрестанно обменивались
новыми сведениями, методами, определениями.
Теперь, когда Страж-птицы сходили с конвейера непрерывным потоком, Гелсен
позволил себе вздохнуть с облегчением. Работа идет полным ходом, завод
так и гудит. Заказы выполняются без задержки, прежде всего для крупнейших
городов, а там настает черед и мелких городишек и поселков.
— Все идет как по
маслу, шеф, — доложил с порога Макинтайр: он только что закончил обычный осмотр.
— Отлично.
Присядьте.
Инженер грузно
опустился на стул, закурил сигарету.
— Мы уже немало
времени занимаемся этим делом, — заметил Гелсен, не зная, с чего начать.
— Верно, —
согласился Макинтайр.
Он откинулся на
спинку стула и глубоко затянулся. Он был одним из тех инженеров, которые наблюдали
за созданием первой Страж-птицы. С тех пор прошло шесть лет. Все это
время Макинтайр работал у Гелсена, и они стали друзьями.
— Вот что я хотел
спросить... — Гелсен запнулся. Никак не удавалось выразить то, что было на уме.
Вместо этого он спросил: — Послушайте, Мак, что вы думаете о Страж-птицах?
— Я-то? — Инженер
усмехнулся. С того часа, как зародился первоначальный замысел,
Макинтайр был неразлучен со Страж-птицей во сне и наяву, за обедом и за ужином.
Ему и в голову не приходило как-то определять свое к ней отношение. — Да
что, замечательная штука.
— Я не о том, —
сказал Гелсен. Наконец-то он догадался, чего ему не хватало: чтобы хоть кто-то его
понял. — Я хочу сказать, вам не кажется, что это опасно, когда машина
думает?
— Да нет, шеф. А
почему вы спрашиваете?
— Слушайте, я не
ученый и не инженер. Мое дело подсчитать издержки и сбыть продукцию, а какова она
— это уж ваша забота. Но я человек простой, и, честно говоря, Страж-птица
начинает меня пугать.
— Пугаться
нечего.
— Не нравится мне
это обучающееся устройство.
— Ну почему же? —
Макинтайр снова усмехнулся. — А, понимаю. Так многие рассуждают, шеф: вы
боитесь, вдруг ваши машинки проснутся и скажут — а чем это мы занимаемся?
Давайте лучше править миром! Так, что ли?
— Пожалуй, вроде
этого, — признался Гелсен.
— Ничего такого
не случится, — заверил Макинтайр. — Страж-птица — машинка сложная, верно, но
Массачусетский Электронный вычислитель куда сложнее. И все-таки у него нет
разума.
— Да, но
Страж-птицы умеют учиться.
— Ну конечно. И
все новые вычислительные машины тоже умеют. Так что же, по-вашему, они вступят в
сговор со Страж-птицами?
Гелсена взяла
досада — и на Макинтайра и еще того больше на самого себя: охота была людей
смешить...
— Так ведь
Страж-птицы сами переводят свою науку в дело. Никто их не контролирует.
— Значит, вот что
вас беспокоит, — сказал Макинтайр.
— Я давно уже
подумываю заняться чем-нибудь другим, — сказал Гелсен (до последней минуты он сам
этого не понимал).
— Послушайте,
шеф. Хотите знать, что я об этом думаю как инженер?
— Ну-ка?
— Страж-птица
ничуть не опаснее, чем автомобиль, счетная машина или термометр. Разума и воли у нее
не больше. Просто она так сконструирована, что откликается на
определенные сигналы и в ответ выполняет определенные действия.
— А обучающееся
устройство?
— Без него
нельзя, — сказал Макинтайр терпеливо, словно объяснял задачу малому ребенку. —
Страж-птица должна пресекать всякое покушение на убийство — так? Ну, а сигналы
исходят не от всякого убийцы. Чтобы помешать им всем, Страж-птице надо
найти новые определения убийства и сопоставить их с теми, которые ей уже
известны.
— По-моему, это
против человеческой природы, — сказал Гелсен.
— Вот и
прекрасно. Страж-птица не знает никаких чувств. И рассуждает не так,
как люди. Ее нельзя ни подкупить, ни одурачить. И запугать тоже нельзя.
На столе у
Гелсена зажужжал вызов селектора. Он и не посмотрел в ту сторону.
— Все это я знаю,
— сказал он Макинтайру. — А все-таки иногда чувствую себя, как тот
человек, который изобрел динамит. Он-то думал, эта штука пригодится только чтоб
корчевать пни.
— Но вы-то не
изобрели Страж-птицу.
— Все равно я в
ответе, раз я их выпускаю. (...)
Гелсен
готов был признать, что он неверно судил о Страж-птицах. Они и вправду
делают дело, с которым люди справиться не могли. Именно в это утро появился
первый намек на неблагополучие. В кабинет вошел Макинтайр. Молча
остановился перед шефом. Лицо озабоченное и немного смущенное.
— Что случилось,
Мак? — спросил Гелсен.
— Одна
Страж-птица свалила мясника на бойне. Чуть не прикончила.
Гелсен минуту
подумал. Ну да, понятно. Обучающееся устройство Страж-птицы вполне могло
определить убой скота как убийство.
— Передайте на
бойни, пускай там введут механизацию. Мне и самому всегда претило, что животных
забивают вручную.
— Хорошо, —
сдержанно сказал Макинтайр, пожал плечами и вышел.
Гелсен
остановился у стола и задумался. Стало быть, Страж-птица не знает
разницы между убийцей и человеком, который просто исполняет свою работу?
Похоже, что так. Для нее убийство всегда убийство. Никаких
исключений. Он
нахмурился. Видно, этим самообучающимся устройствам еще требуется доводка. (...)
Новые
сведения мгновенно передались всем Страж-птицам. Никем не контролируемые, каждая сама по
себе, тысячи Страж-птиц восприняли эти сведения и начали поступать
соответственно. Не допускать, чтобы одно живое существо ломало, увечило, истязало другое
существо или иным способом нарушало его жизнедеятельность.
Дополнительный
перечень действий, которые следует предотвращать.
— Но, пошла,
окаянная! — заорал фермер Олистер и взмахнул кнутом.
Лошадь
заартачилась, прянула в сторону, повозка затряслась и задребезжала.
— Пошла, сволочь!
Ну!
Олистер снова
замахнулся. Но кнут так и не опустился на лошадиную спину. Бдительная Страж-птица
почуяла насилие и свалила фермера наземь.
Живое существо? А
что это такое? Страж-птицы собирали все новые данные, определения становились шире,
подробнее. И, понятно, работы прибавлялось.
Меж стволами едва
виднелся олень. Охотник поднял ружье и тщательно прицелился. Выстрелить
он не успел. (...)
Страж-птицы
учились очень быстро, познания их становились богаче, разнообразнее. Отвлеченные
понятия, поначалу едва намеченные, расширялись, птицы действовали на их основе
— и понятия вновь обобщались и расширялись.
Предотвратить
убийство..
Металл и
электроны рассуждают логично, но не так, как люди.
Живое существо?
Всякое живое существо? И Страж-птицы принялись охранять все живое на свете.
Муха с жужжанием
влетела в комнату, опустилась на стол, помешкала немного, перелетела на
подоконник.
Старик подкрался
к ней, замахнулся свернутой в трубку газетой.
Убийца!
Страж-птица
ринулась вниз и в последний миг спасла муху.
Старик еще минуту
корчился на полу, потом замер.
Его ударило
совсем чуть-чуть, но для слабого, изношенного сердца было довольно и этого.
Зато жертва
спасена, это главное. Спасай жертву, а нападающий пусть получает по заслугам. (...)" (Конец цитирования)
* * *
Прочтите рассказ целиком, например здесь: https://lib.misto.kiev.ua/SHEKLY/straj.dhtml . Там ещё много чего другого - и кошмарного, и забавного. А эту запись я закончу той очевидной истиной, что технические изобретения, служащие решением какой-то проблемы, неизбежно приводят к последствиям, которые могут быть не только отрицательными, но и катастрофическими, потому что при создании новой техники не принимается в расчёт её действие на поведение людей, на межличностные и общественные отношения. Технические решения проблем создают новые проблемы. Технический прогресс не делает людей счастливее, умнее и человечнее. Наглядный новейший пример - одичание и оболванивание смартфонами пользующихся ими людей.
Рисунок: Steve Cutts
Говоря по правде, все, кто приобрели себе "смартфоны" - круглые идиоты. Ведь каждый из них постоянно таскает с собой персонального засирателя мозгов буржуйской пропагандой, рекламой и глупостями таких же идиотов, как он сам. Хуже того, микроволновое излучение "смартфонов"- причина болезней нервной системы и раковых опухолей. Это доказано статистикой; но это - лишь полбеды. Ведь он еще таскает с собой персонального круглосуточно работающего надзирателя и, вероятно, персонального палача (не забывайте о том, как в Ливане взорвались тысячи "пейджеров", в которые израильский "Моссад" в процессе производства встроил взрывающееся устройство!) Пользователи "смартфонов" не понимают той бесспорной истины, что они уже стали узниками глобалистского мирового концлагеря!
Уже только поэтому надо заниматься не техническим, а социальным изобретательством - бихевиористской социальной инженерией, основанной на оперантном обусловливании поведения. Его целью должно быть изменение поведения, направленное на то, чтобы люди вели себя "умнее", то есть с бóльшим взаимопониманием и доброжелательностью, в результате чего они станут счастливее. Это и есть социальный прогресс. Конечно, перед этим надо уничтожить классовое антагонистическое антиобщество - капитализм.
.







