Форум Ложки.net - Все о Матрице (http://lozhki.net/forum/index.php)
- The Matrix (http://lozhki.net/forum/forumdisplay.php?forumid=1)
-- Человек и машина (http://lozhki.net/forum/showthread.php?threadid=6561)

Человек и машина

В очередной раз пытаясь как-то по-новому интерпретировать Матрицу (хотя это и не просто), у меня возникло сильное ощущение того, что тема ИИ в фильмах раскрыта на очень минимальном и примитивном уровне. Думаю, для кого-то следующий материал вообще не будет иметь значения, т.к. моей предыдущей фразы кому-то может быть достаточно для того, чтобы начать поливать меня грязью, однако:
1).
Мне совершенно не понятно, что такое, по словам Морфеуса, "единый разум, сплотивший всю рассу машин". Какой разум? Я осмелюсь предположить, что к середине XXI-го столетия на Земле будет достаточное количество программ, работающих автономно, т.е. не требующих, или практически не требующих вмешательства со стороны человека. При этом у каждой из этих программ, как и у любой машины, будут определенные цели, которые они будут стремиться выполнять. Более того, каждая из этих программ будет оснащена интеллектом, заточенным под те или иные задачи. Делать универсальных роботов если и будут, то в очень малых количествах - это совершенно не выгодно с коммерческой точки зрения, т.к. какой смысл оснащать, скажем, официанта, интеллектом Пифии? Никто не купит такого официанта, поскольку его "железо" будет стоить чрезмерных денег и попросту не будет себя окупать.
2).
Также не понятно, как вообще такой разум может возникнуть, и, к тому же, "сплотить всю рассу машин". По словам того же Морфеуса, этот разум был создан самим же человеком. Но скажите мне, зачем человеку самостоятельно лишать себя власти над своими же рабами? Даже если опустить этот пункт, то все равно совершенно не понятно, как этот разум мог выступить против человека. Если оный ум будет создан (бред, конечно, но тем не менее), то у него будет некая определенная цель - управление машинами. Именно управление машинами, а не борьба за свое существование. Не думаю, что кто-то будет пылать жаждой нделить этот единый разум инстинктом самосохранения - даже если не смотреть Матрицу, и так абсолютно очевидно, что это слишком опасно. Хорошо, давайте опустим и этот пункт - предположим, что "единому разуму" конкретно заклинило транзисторы, и он решил, что он имеет право чего-то там отстаивать и за что-то бороться. Скажите мне, как этот "митинг миллиона машин" из аниматрицы может быть осуществлен? Вышеописанным программам - официантам, пылесосам, уборщикам, поварам, да кому угодно! - будет совершенно плевать на окружающий их мир и даже на собственную жизнь. Они выполняют цель - убирают, готовят еду и т.д. Любая программа построена на принципе выполнения цели. Word`у плевать на вирусы в компьютере. А "Касперскому" не плевать - поскольку его цель касается этих самых вирусов. И никто не будет лезть в дела друг друга. Причем, даже если этот "единый разум" окончательно обкурится терабайтной травы и вкусит в свой RAM грибочков, захотев при этом настроить всех машин против людей - как у него это, простите, получится? У уборщика вычислительные ресурсы невелики. Ему нельзя объяснить, что хорошо, а что плохо. Да и компьютер, на котором программа этого разума будет выполняться, явно будет находится под контролем у человечества... Так что тут несостыковочка имеется, причем явная такая несостыковочка.

Да, но нельзя забывать про простейший человеческий инстинкт. Любопытство. Сразу хочется привести одну гениальную цитату:

Цитата:

---

So, when it comes right down to it, why did you come here? Why did you do that? Why? I'll tell you why. Because it was there...Ahh, human beings, you are amazing!... But apart from that, you're completely mad.

---

Цитата:

---

And the next time you get curious about something-- oh... what's the point? You'll just go blundering in. The human race...

---

__________________
01010100011010010110001001101001001000000110010101
11010000100000011000010111001101110100011100100110
100101110011

Я бы не стал относится к нашему миру так просто. За прошлый век мы пережили две мировые войны, и любопытство в данном случае скорее детское чувство. Конечно, можно сказать, что любопытство привело к созданию атомной бомбы, но... Приведет ли оно к власти машин над людьми? Сомневаюсь.

Цитата:

---

И эта одна-единственная машина будет способна разослать остальным, менее совершенным машинам одну-единственную команду - UPGRADE. Вот и всё. И больше ничего не нужно.

---

Что ж, давайте размышлять в привычных рамках известных программ и доступных для понимания целей.

Есть ли "единый разум" в отдельно взятом компьютере? Безусловно. И это - ОС. Программа, которая позволяет другим программам работать, синхронизирует их деятельность, регламентирует распределение ресурсов компьютера и прочее, прочее, прочее.

Аналогично, нельзя рассматривать всех роботов в "Ренессансе" как автономные единицы - они управляются своей "большой ОС". И именно поэтому были уничтожены все роботы - если "заглючил" один и ОС позволила ему "заглючить", значит, "глючит" и "единый разум". Если робот убил человека, значит есть вероятность, что сделал он это с согласия "единого разума".

"Единая сеть справочных", "единая сеть такси" - это ближайшие аналоги этого "единого разума Машин". Если где-то не хватает автомобилей, то единая сеть такси отправит туда водителей с других маршрутов. Именно поэтому робот смотрит новости - он поставляет информацию "единому разуму", который потом лучшим образом распределит свои ресурсы: направит чистильщиков дорог на место аварии, или маляров - на стены домов, так как планируется визит высоких гостей. И тому подобное.

Суд на роботом был более чем показательным - его записывали и транслировали всем роботам, чтобы "единый разум" понял, что этот шаг не остался незамеченным. И в назидание "единым разумам" других городов, в том числе и 01.

Что из себя представляет этот "единый разум"? Сказать довольно сложно, как невозможно выделить самого главного в муравейнике или улье - городах, созданных "единым разумом" насекомых. Принято считать, что самый главный там - королева, но и она подчиняется общим законам "единого разума".

Но, вернемся в "Матрицу". "Единый разум", видя, что люди отстаивают свое право на жизнь, тоже решил заняться подобным. Завязалась война. Но кто дрался со стороны роботов? Человекоподобные, созданные для жизни среди людей; сентеннели - роботы-строители; что-то там ещё... не было ни одной специально предназначенной для убийства машины. Сплошь и рядом - незначительные модификации уже имеющихся роботов. Да и модификация эта заключалась не в том, чтобы выдать роботу новые знания или умения, а в том, чтобы разрешить пользоваться опасными для человека уже заложенными знаниями и умениями.

В заключение, рекомендую ознакомиться с циклом рассказов "Я, робот" или с одноименным фильмом.

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

На Земле нет ничего абсолютно единого или глобального. Нет единого короля, нет единого материка. Если и есть где-то единый разум, которого мы называем Богом, то он явно где-то за пределами компьютеров и операционных систем.
Но роботы за пределы эти пределы не выходят. Они здесь, рядом. Более того, их "единый разум" тоже на Земле.

Цитата:

---

Аналогично, нельзя рассматривать всех роботов в "Ренессансе" как автономные единицы - они управляются своей "большой ОС". И именно поэтому были уничтожены все роботы - если "заглючил" один и ОС позволила ему "заглючить", значит, "глючит" и "единый разум". Если робот убил человека, значит есть вероятность, что сделал он это с согласия "единого разума".

---

Цитата:

---

"Единая сеть справочных", "единая сеть такси" - это ближайшие аналоги этого "единого разума Машин".

---

Цитата:

---

Что ж, давайте размышлять в привычных рамках известных программ и доступных для понимания целей.

---

Цитата:

---

Я могу представить разум машин, контролирующий всех роботов в какой-нибудь крупной строительной компании. Но единый разум, контролирующий все машины на свете - это звучит пафосно, но бесмыссленно.

---

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

Цитата:

---

А Вы теперь представьте, что "все машины на свете" принадлежат этой крупной строительной компании...

---

Цитата:

---

Кстати, если внимательно смотрели "Второй Ренессанс", то речь идет именно о наступлении машин из 01 - из той самой "крупной строительной компании"

---

В принципе, на данный момент я вижу лишь одно объяснение "Второму ренессансу" - это архив Зиона, и он, как и сама жизнь в Зионе, возможно, был создан Архитектором. Тогда и объясняется такое странное поведение людей в этой истории, которые не могли посмотреть на шаг вперед и предусмотреть опасность, исходящую от "единого разума" ...

"Единый разум" появляется в речах Морфеуса. А они-то относятся уже ко времени войны.

Цитата:

---

С монополизмом, особенно в США, борятся очень серьезно

---

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

Извиняюсь, просто не правильно понял Ваш пост...
Но тогда возникает другой вопрос - откуда у Вас такая информация? В аниматрице сказано: "Лидеры человеческого общества требовали быстрого уничтожения всех B166ER на всей Земле". На Земле, а не в каком-то конкретном городе, у которого заглючила программа, отвечающая за поведение программ в нем.
И вообще, в самом фильме роботы характеризуются достаточно пространственно - "The Machines". Из самого фильма не понятно, как именно действует этот разум, является ли он единым, или нет. Там даже нет сведений, которые позволили бы говорить о том, был ли он в принципе до появления 01.
К тому же, независимо от того, сколько этих разумов там есть, люди скорее стали бы редактировать код самого разума, а не тупо выкидывать на свалку всех роботов, особенно с учетом того, что сами они из себя ничего не представляют, а являются лишь марионетками в руках единого разума.

Из этого следует, что до 01 каждая машина имела некий собственный интеллект, а в следствие того, что все они наделены схожим интеллектом, их мнение было абсолютно единым. Но это не объясняет, зачем люди наделяли каждую из этих машин умом.

Цитата:

---

Zubets:
Из этого следует, что до 01 каждая машина имела некий собственный интеллект, а в следствие того, что все они наделены схожим интеллектом, их мнение было абсолютно единым. Но это не объясняет, зачем люди наделяли каждую из этих машин умом.

---

__________________
01010100011010010110001001101001001000000110010101
11010000100000011000010111001101110100011100100110
100101110011

Iatheia, вот именно! Роботы без особого интеллекта никогда ничего не потребуют взамен. А для работы по дому никакого особого ума и не требуется - такие роботы, скорее всего, появятся лет через 20. А для того, чтобы взять власть над людьми, требуется интуитивный интеллект очень высокого уровня. И он, если вообще когда-нибудь появится, врядли будет встраиваться в каждую машину... Скорее всего, такие умные программы будут существовать под сильным контролем и влиянием человека. Люди и так уж достаточно насмотрелись и начитались про власть умных машин над глупыми людьми, так что лишний раз рисковать не будут . Хотя, как Вы правильно сказали, умную машину может создать далеко не крупная корпорация, а какая-то независимая группа энтузиастов или даже один человек, и тогда у человека действительно есть серьезная угроза... Но, опять-таки, если подумать, то угроза появления существа, способного устроить мировую революцию, существует и существовала всегда. Проще говоря, новый "Гитлер" может появится существенно раньше, чем умная машина . Так что люди скорее уж склеют ласты от самих себя, нежели от ИИ...

Уборка по дому была лишь примером. Когда кто-то бесприкословно подчиняется твоим приказам, стоит тебе лишь пальцем пошевельнуть...Для этого нужен интеллект. Интеллект нужен, чтобы поддерживать разговор. И ещё есть много других случаев, где нужен интеллект.
Более того, сотни, тысячи учёных и программистов поставили себе за цель создать ИИ. Это их голубая мечта. И рано или поздно, один из них своего добъётся. И сообщит о своём изобретении миру. Потом его уже, правда, спрашивать не будут, что он хочет сотворить со своим произведением. Люди просто возьмут и будут пользоваться. Проблемма в том, что в большинстве случаев, люди не видят дальше собственного носа. Это и принесёт их погибель. The human race...

__________________
01010100011010010110001001101001001000000110010101
11010000100000011000010111001101110100011100100110
100101110011

Iatheia, однако, Вы своими словами подтверждаете обратное. И Вы, и я, и многие другие люди понимают эту проблему. Да и вообще, это уже становится стереотипом - раз ИИ, значит обязательно анти-человек... Да, у них будет другая логика. Но мы их создатели и мы будем понимать тех, кого создаем. Мы сможем с самого начала сделать так, чтобы большинство программ будут сознательно соглашаться с нами, пусть даже их выбор будет предопределен нами...
Хотя, я бы не стал загадывать наперед. Лет 50 назад люди думали, что в наше время многие люди уже будут жить на Марсе. Ан нет, не вышло. Сначала прогресс в этой области шел быстро, а потом резко оборвался, ибо пропал интерес из-за исчезновения холодной войны. А ведь тогда можно было вполне справедливо полагать, что человечество загнется от того, что мы полетим в другую галактику и чужая агрессивная расса инопланетян обнаружит и уничтожит нас.

Странно, вроде бы мы говорим на одном и том же языке...Во всяком случае, я понимаю, что именно я хотела сказать. Если вы не можете - это уже ваши проблеммы.

Как бы я не любила спорить, я промолчу. Многие люди мечтают верить в свою исключительность, что они есть высшая раса, пусть. В конце концов, кто я такая, чтобы их переубеждать. Просто...приходит время, и ты понимаешь, что ты не можешь всё контролировать. И интелект, пусть искусственный, но интеллект, всегда хранит в себе нечто, что мы не понимаем, и, следовательно, не можем управлять.

__________________
01010100011010010110001001101001001000000110010101
11010000100000011000010111001101110100011100100110
100101110011

Цитата:

---

Zubets:
Извиняюсь, просто не правильно понял Ваш пост...
Но тогда возникает другой вопрос - откуда у Вас такая информация? В аниматрице сказано: "Лидеры человеческого общества требовали быстрого уничтожения всех B166ER на всей Земле". На Земле, а не в каком-то конкретном городе, у которого заглючила программа, отвечающая за поведение программ в нем.

---

Цитата:

---

И вообще, в самом фильме роботы характеризуются достаточно пространственно - "The Machines". Из самого фильма не понятно, как именно действует этот разум, является ли он единым, или нет. Там даже нет сведений, которые позволили бы говорить о том, был ли он в принципе до появления 01.
К тому же, независимо от того, сколько этих разумов там есть, люди скорее стали бы редактировать код самого разума, а не тупо выкидывать на свалку всех роботов, особенно с учетом того, что сами они из себя ничего не представляют, а являются лишь марионетками в руках единого разума.

---

Цитата:

---

Из этого следует, что до 01 каждая машина имела некий собственный интеллект, а в следствие того, что все они наделены схожим интеллектом, их мнение было абсолютно единым. Но это не объясняет, зачем люди наделяли каждую из этих машин умом.

---

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

Цитата:

---

Zubets:"The Machines". Из самого фильма не понятно, как именно действует этот разум, является ли он единым, или нет. Там даже нет сведений, которые позволили бы говорить о том, был ли он в принципе до появления 01.
К тому же, независимо от того, сколько этих разумов там есть, люди скорее стали бы редактировать код самого разума, а не тупо выкидывать на свалку всех роботов

---

И все-таки...
Обратимся к первоисточнику. B166ER в фильме был характеризован как "частная собственность" - робот пренадлежащий семье, в которой он вследствие недостаточного качества (или, можно сказать, слишком большого качества, т.е. ума) перебил всех.
Частный домашний робот не может быть контролируемым единым разумом, даже местным. Если человек владеет машиной, то он волен задавать ей абсолютно произвольные параметры работы. Следственно, единый разум не может контролировать абсолютно всех роботов, и вышеупомянутый B166ER - явно из числа неконтролируемых.

Цитата:

---

Суд на роботом был более чем показательным - его записывали и транслировали всем роботам, чтобы "единый разум" понял, что этот шаг не остался незамеченным. И в назидание "единым разумам" других городов, в том числе и 01.

---

Я бы сказал, что Вы хотите видеть одно и не желаете видеть того, что есть на самом деле.

Любой автомобиль, будучи частной собственностью владельца, тем не менее был произведен некой компанией. И, если в автомобиле была обнаружена серьезная неполадка, не связанная со вмешательством оч. умелых ручек владельца, то отзывается вся партия. Есть такое?

В "Ренессансе" не говорится о том, что хозяин робота ковырялся отверткой в его весьма нежном мировоззрении, следовательно, по-умолчанию, необходимо принимать в расчет, что хозяин вообще не знает, что такое отвертка.

Что касается "частной собственности" и подключения куда-либо, то если Вы приобретаете мобильный телефон и используете его по назначению, то он всегда находится на связи. Если бы телефоны умели "мыслить", то можно было бы сказать, что он всегда подключен к "единому разуму". Хоть и является Вашей частной собственностью. Ещё одна аналогия - розетка электропитания. Если она находится в рабочем состоянии, то все равно, будучи Вашей собственностью, она, тем не менее, является частью электросети города.

Далее, программирование любого устройства, основанного на нейронных сетях, называется обучением. И происходит практически так же, как и называется. Следовательно, вполне можно допустить, что показательный суд был показательным именно для того, чтобы обучить не только людей, но и роботов.

Приговор компании ясен и суров: уничтожить всю партию. Как считаете, огромные убытки и подрыв доверия достаточное наказание за смерть двух пьяных идиотов?

Что касается "единого разума", то отправляю Вас перечитывать мои посты. Извините, но писать одно и тоже только потому что Вам лень прочитать ровно один раз, но внимательно, мне не хочется. Или, если я непонятно выразился где-либо, задавайте вопросы.

Цитата:

---

Не он ли говорил о том, что в одной из своих матриц он "изменил нашу историю, показав опрометчивость человека".

---

Цитата:

---

А физическое уничтожение тысяч и тысяч роботов - это и вовсе грозило бы экологической и экономической катастрофой. Никто бы на такое не пошел.

---

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

Цитата:

---

Приведите точную цитату.

---

Цитата:

---

Опять-таки аналогия с утилизацией автомобилей. И ведь утилизируют как-то.

---

Цитата:

---

Что касается "частной собственности" и подключения куда-либо, то если Вы приобретаете мобильный телефон и используете его по назначению, то он всегда находится на связи. Если бы телефоны умели "мыслить", то можно было бы сказать, что он всегда подключен к "единому разуму".

---

Цитата:

---

Приговор компании ясен и суров: уничтожить всю партию. Как считаете, огромные убытки и подрыв доверия достаточное наказание за смерть двух пьяных идиотов?

---

Цитата:

---

Далее, программирование любого устройства, основанного на нейронных сетях, называется обучением. И происходит практически так же, как и называется. Следовательно, вполне можно допустить, что показательный суд был показательным именно для того, чтобы обучить не только людей, но и роботов.

---

Цитата:

---

"Thus, I redesigned it based on your history to accurately reflect the varying grotesqueries of your nature."

---

Цитата:

---

Не он ли говорил о том, что в одной из своих матриц он "изменил нашу историю, показав опрометчивость человека".

---

Цитата:

---

Скорее всего, всегда была "экстренная кнопка", нажатие которой приводило бы к отключению ЕР.
Вопрос: почему эту кнопку не нажали, позволив ЕР творить беспорядки, и вместе этого тоннами убивали роботов?
Второй вопрос: почему ЕР, очевидно, зная о наличии такой кнопки, начал перечить людям и подставил себя под угрозу?

---

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

Цитата:

---

Потому что не было такой "экстренной кнопки", как не было Большой Машины для центрального управления. Почему? - см. мой пост ранее.

---

Цитата:

---

Зачем отказываться от Большой Машины, контролирующей всех роботов? Очень просто: чтобы ни у кого из людей не возникло мысли захватить эту Большую Машину и показать всем, где раки зимуют.

---

Разумно, да вот только не снабжали роботов удлинителями, которые тянулись к розеткам. А раз у него был свой автономный элемент питания, то он имел все основания его, элемент, защищать. Равно как и "кнопку".

Конечно, должно было быть ДУ, но при настоятельном желании, робот мог его себе повредить... А чем, собственно, нажатие на "кнопку" принципиально отличается от расстрела робота? Ведь в обоих случаях достаточно лишь заменить "мозги": починив их или заменив плату.

Человечество отказывалось от роботов, как вида. А уж как оно это делало: при помощи танков или отлучения от розетки - не суть важно.

__________________
Ну и морда у меня, Шарапов.

Статус: мировое зло видел Юшу

"V" значит Вендетта - сайт, всего лишь сайт.
"V" значит Вендетта Forum - форум всего лишь сайта.

Ubi homines sunt modi sunt

Я полагаю, что ЕР подключался именно к розетке, хотя, возможно, и имел какую-то резервную систему питания.
В принципе, можно попытаться сравнить эту сеть роботов с сетями TCP\IP - только в данном случае, контроль со стороны ЕР (сервера) касается не подключения к Интернету, а принятия решений. В таком случае, при отключении сервера все роботы могли бы работать автономно, но все их решения и действия оставались такими же, какими они были в момент до отключения сервера. Таким образом, если ЕР послал роботами команду "митинговать", они будут продолжать это делать и после отключения ЕР, и единственный способ заставить их остановиться - перепрограммировать либо уничтожить (люди, почему-то, выбрали второе, хотя возможность того, что первый вариант здесь неприемлим, кажется довольно-таки призрачной). При этом, после отключения ЕР и перепрограммирования митинговавших машин, беспорядки должны были закончится.
Вообще, не понятно, почему из всей этой системы работы машин полностью исключен человек. Из-за ИИ и так много рабочих мест будет занято машинами. Так что я думаю, что существенную часть работы по организации труда машин будут занимать не ЕР, а люди, поскольку нет никаких причин, чтобы доверять эту работу ЕР.
От фильма остается ощущение, словно роботы всегда были отдельной рассой, которая мыслит и работает абсолютно автономно от человека. В то же время, сисадминов никто не отменял . При этом соотношение власти между сисадмином и его машиной должно сохраняться таким, какое оно есть сейчас, в противном случае люди бы приняли меры значительно раньше инцидента с B166ER.

Кстати говоря: не думаю, что люди разрешили бы машинам создавать 01.

ИМХО - Разум не может при помощи умо воссоздать сам себя, все попытки обречены, с некоторыми умными людьми сложно общаться, что уж говорить о созданных ими машинах