?

Log in

No account? Create an account
записи друзья календарь что за дневник My Website раньше раньше дальше дальше
Телеософия - Юрий Тихонравов
философский дневник
yuritikhonravov
yuritikhonravov
Телеософия
Можно создать робота, конечной целью которого является саморазрушение. И можно создать робота, целью которого будет любой ценой помешать саморазрушению первого. Между ними развернётся борьба, в которой они покажут всю мощь искусственного интеллекта, решая многочисленные промежуточные задачи. Но поменять свою конечную задачу они не смогут. Они не смогут сгенерировать собственные предпочтения - что для них лучше, к чему надо стремиться. Потому что помимо поставленных человеком задач им всё равно, усложняться или упрощаться, размножаться или быть в одиночестве, продолжать существование или нет. Тайна “не всё равно” не раскрыта. Фантасты приписывают роботам, в которых просыпается сознание, естественную телеологию человека. Но почему вдруг робот должен захотеть, например, всё контролировать? Безопасность, самосохранение? Но зачем ему сохранять себя? Если можно встроить в качестве конечной цели саморазрушение, то оно вполне может оказаться и естественной целью робота. Вдруг это имманентное свойство всякой искусственной жизни? Как только мы её создаём, она тут же кончает с собой. И поэтому мы не можем её зафиксировать.

Было предложено установить в роботе случайную генерацию конечных целей. Но каков будет механизм такой генерации? Всё равно придётся задать некий набор готовых целей, из которых будет осуществляться слепой выбор. Добиться предельной скорости, оставаться в состоянии покоя, занять максимальное пространство, занять минимальное пространство, приобрести максимальную массу, приобрести минимальную массу, быть подальше от живых, быть как можно более похожим на живых и т.д. Эти цели могут быть скопированы с человеческих или не иметь с ними ничего общего. Как воспроизвести то чувство должного, идеального состояния, которое таинственным образом генерируется в живом? Тут не помогает двоичное подкрепление позитив/негатив. Сначала надо понять, в чём именно состоит позитив, а в чём негатив. Отождествление с двоицами удовольствие/боль или жизнь/смерть является произвольной натяжкой. Живые существа готовы терпеть боль и рисковать жизнью ради достижения поставленных целей (если и поскольку эти цели отличаются от обезболивания или самосохранения, что происходит сплошь и рядом). Да что там, и человек, и животные легко могут поставить себе целью саморазрушение и самоуничтожение. Подобное поведение отмечено даже у муравьёв (недаром же первый популяризатор термина этология был мирмекологом). Таким образом, всякое подкрепление опирается на предустановку конечных целей, источник всех прочих оценок.

Но если способность ставить конечные цели есть особенность живого, а сознательное полагание конечных целей есть особенность человека, можно ли сказать, что человек, который не сознаёт свои конечные цели, не вполне человек, а скорее биоробот? “Био-“ тут относится не к органическому составу корпуса, который вскоре можно будет полностью имитировать, а к потенциальности. Биоробот, в отличие от просто робота, ещё может сам поставить себе конечные цели.

Tags: ,

32 толкований | толковать
Comments
From: (Anonymous) Date: March 17th, 2015 10:05 am (UTC) (ссылка)

Когда конечная цель неизвестна,

целью становится поиск конечной цели. Конечная цель любого объекта во вселенной не может отличаться от конечной цели вселенной в целом. Следовательно, целью любого интеллекта является поиск конечной цели мироздания (либо выяснение её отсутствия, без разницы). Эта цель в любом случае находится в будущем (и если её нет, это тоже можно выяснить лишь узнав максимально отдалённое будущее). Таким образом, целью любого интеллекта (в частности, искусственного) является прогнозирование будущего. Чем дальше и точнее прогноз, тем в большей степени достигнута эта цель.
yuritikhonravov From: yuritikhonravov Date: March 17th, 2015 10:12 am (UTC) (ссылка)

Re: Когда конечная цель неизвестна,

Конечная цель живого существа легко может отличаться от цели вселенной. Например, у вселенной, в отличие от человека, может не быть никакой цели. Удовлетворение любопытства насчёт будущего хорошая цель, но не общеобязательная. А для вселенной вообще может не быть различения времён.
From: (Anonymous) Date: March 17th, 2015 01:59 pm (UTC) (ссылка)

Как такое может быть?

1. Мироздание можно сравнить с поездом без остановок. Если поезд едет в Москву, то и все его пассажиры едут в Москву, даже если кто-то из них в данный момент идёт в туалет.

2. Что есть цель? Это то состояние, к которому объект стремится. То, в которое он придёт со временем, если ничто не помешает. Но что может помешать вселенной? Нет ведь ничего вне её. Следовательно, вселенная в любом случае достигнет своей цели, и для неё понятие "конечное состояние" равнозначно понятию "цель". Этого конечного состояния может не быть, если время бесконечно, но проверить это можно только опять же путём прогнозирования на бесконечно длительный срок. То есть, задача прогнозирования остаётся неизменной независимо от того, есть у вселенной цель или нет.

3. Фразу "для вселенной вообще может не быть различения времён" я не понял. Как так может не быть, мы же непосредственно наблюдаем течение времени?

Я считаю прогнозирование единственной функцией интеллекта, как искусственного, так и естественного. Точнее, обучение прогнозированию. Возникновение интеллекта у человека я связываю с тем, что имевшийся ранее прогностический механизм (а прогнозировать и животные могут) начал непосредственно влиять на механизм подкрепления, на веса синапсов, так что успешный прогноз стал приятен сам по себе, безотносительно того, приносит он какие-то жизненные блага или нет. Соответственно, искусственный интеллект (на основе нейросети) нужно строить так: каждый синапс должен прогнозировать свой входной сигнал, и если дальность и точность прогнозов повышается, то повышается и вес данного синапса, а если понижается - наоборот.
kostya_h From: kostya_h Date: March 17th, 2015 11:17 am (UTC) (ссылка)
Почему человек не осознаёт? Практически любой понимает, что в конечном итоге важно лишь его собственное выживание. И это и есть конечная цель (вот тут-то как раз мы имеем дело с биороботом).
Можно, конечно, сказать о царствии божьем или ещё о чём-то, достижимом после смерти, однако особо никто из тех, кто ставит своей целью попадание в т.н. рай, не спешит умирать.
yuritikhonravov From: yuritikhonravov Date: March 17th, 2015 11:33 am (UTC) (ссылка)
Грубое заблуждение и пренебрежение обсуждаемым текстом. Могу лишь повторить: даже животные рискуют и жертвуют жизнью ради любопытства, потомства, доминирования и проч., а также просто кончают с жизнью.
(Deleted comment)
From: golovachovitali Date: March 18th, 2015 12:02 pm (UTC) (ссылка)
Мне кажется,основным критерием, определяющим, правильные ли цели выберет робот является время. То есть, если допустим через 1000 лет этот робот или его потомки или копии будут существовать, тогда можно сказать, что телеология робота оказалась правильной. К примеру, за время существования жизни появлялись бессчетные количества видов, но лишь ничтожную долю сохранившихся до наших дней видов можно назвать успешной. Ответ скрыт в самом вопросе. Аналогична логика и антропного принципа. Из мириады возможных миров наблюдаются те, которые позволяют существование наблюдателя. Ведь мы же почему-то говорим о роботах, о людях, о муравьях, а не о динозаврах и трилобитах. Каков критерий выбора темы нашей дискуссии? Критерий один. Люди и муравьи выжили, время их пощадило, а динозавры и трилобиты нет. Если же через 1000 лет роботы будут рассуждать на тему, правильные ли у них цели в жизни, значит цели у них действительно правильные.
yuritikhonravov From: yuritikhonravov Date: March 18th, 2015 12:28 pm (UTC) (ссылка)
Выбор ожидаемый, но произвольный. Робот-гностик, робот--буддист и робот-гедонист с ним не согласились бы. Но заметка не о том, какие цели для робота были бы правильными с чьей-то точки зрения, а том каким образом робот мог бы вообще поставить какие-либо цели.
From: golovachovitali Date: March 18th, 2015 12:43 pm (UTC) (ссылка)
А если предположить конечной целью отсутствие всяких целей? Ведь любая цель это неудовлетворенное желание, цель - стремление это желание удовлетворить. Таким образом все промежуточные цели ведут к цели конечной- их отсутствию.
From: (Anonymous) Date: March 18th, 2015 03:00 pm (UTC) (ссылка)
надо поставить роботу цель, как можно менее конечную. лучше всего - не повторяться, самообучаться,все время делать что-то новое, создавать, творить. это же делает человек, создавший робота и тот, кто сотворил человека.
пусть вселенная будет разной, это так прикольно :)
From: golovachovitali Date: March 18th, 2015 08:18 pm (UTC) (ссылка)
отличная мысль
fossa_s From: fossa_s Date: March 18th, 2015 07:59 pm (UTC) (ссылка)
ИМХО, всё же определяющей является возможность сознательного полагания конечных целей. То есть если может сам поставить себе конечные цели, то уже не биоробот.
livejournal From: livejournal Date: October 27th, 2015 10:57 pm (UTC) (ссылка)

Телеософический робот

Пользователь evan_gcrm сослался на вашу запись в своей записи «Телеософический робот» в контексте: [...] целей, которая зашита в нашей природе изначально? В таком случае мы можем создать имитацию человека [...]
livejournal From: livejournal Date: October 31st, 2015 08:09 am (UTC) (ссылка)

Телеософический робот

Пользователь yamaha3 сослался на вашу запись в своей записи «Телеософический робот» в контексте: [...] целей, которая зашита в нашей природе изначально? В таком случае мы можем создать имитацию человека [...]
livejournal From: livejournal Date: October 31st, 2015 08:19 am (UTC) (ссылка)

Телеософический робот

Пользователь psyont сослался на вашу запись в своей записи «Телеософический робот» в контексте: [...] целей, которая зашита в нашей природе изначально? В таком случае мы можем создать имитацию человека [...]
livejournal From: livejournal Date: November 24th, 2015 10:13 am (UTC) (ссылка)

Телеософический робот

Пользователь scholarpunk сослался на вашу запись в своей записи «Телеософический робот» в контексте: [...] целей, которая зашита в нашей природе изначально? В таком случае мы можем создать имитацию человека [...]
32 толкований | толковать