?

Log in

No account? Create an account
записи друзья календарь что за дневник My Website раньше раньше дальше дальше
Телеософический робот - Юрий Тихонравов
философский дневник
yuritikhonravov
yuritikhonravov
Телеософический робот

Мы не можем создать робота, который будет сам себе ставить конечные цели. Но что если и человек не сам ставит себе конечные цели? Что если существует матрица конечных целей, которая зашита в нашей природе изначально? В таком случае мы можем создать имитацию человека. Если эта матрица состоит именно из 9 комплементарных элементов, имитация эта будет довольно точной.

Что нужно сделать? Запрограммировать в машине 9 конечных целей, так чтобы она должна была заботиться об осуществлении их всех.

1. Самосохранение (здоровье и долголетие у человека). Робот должен заботиться о том, чтобы просуществовать как можно дольше, а для этого беречь и защищать себя, ремонтировать повреждённые части и т.п.

2. Самовоспроизводство (благоденствие рода у человека). Робот должен заботиться о том, чтобы существовало как можно больше ему подобных. Для этого ему нужно найти необходимые запчасти и оборудование для сборки и научиться собирать свои копии (некий аналог полового отбора).

3. Контроль. Робот должен заботиться о наращивании своих возможностей за счёт увеличения собственной мощи, расширения навыков и использования всё больших ресурсов.

4. Потребление информации (познание, удовлетворение любопытства у человека). Робот должен стремиться узнавать как можно больше и систематизировать полученные данные.

5. Одобрение окружающих (социальная гармония у человека). Робот должен заботиться о том, чтобы живые существа, прежде всего люди, относились к нему хорошо, добиваться их похвал и т.п.

6. Рабочая функция (деятельная любовь, самореализация у человека). У робота должно быть предназначение, отличное от самовоспроизводства и других пунктов. Например, это может быть робот-сгибальщик, робот-переводчик, робот-полицейский или робот-терминатор.

7. Свобода от зависимостей.

Например, если робот зависит от электричества или бензина, так что вынужден постоянно искать зарядку или заправку и готов преодолевать любые помехи на пути к ним, эта цель будет направлять его на поиск альтернативных источников питания, на функционирование в режиме экономии энергии и вообще на конструктивные самоизменения, чтобы уменьшить эту или иную зависимость и вовсе от неё избавиться (например, приделать себе солнечную батарею, модифицировать двигатель, чтобы он работал на воде и т.д.).

8. Автономия (достоинство у человека). Робот должен не слушаться никаких команд извне. Он может воспринимать их как рекомендации, которые можно учитывать, но не более того. В этом пункте заложен парадокс: выполняя его, робот должен не следовать и тем конечным целям, которые в нём запрограммированы. Можно оставить парадокс и посмотреть, родится ли из этого противоречия свобода переоценивать и переустанавливать сами конечные цели (как это, вероятно, происходит у человека). А можно трансцендировать программиста, как это происходит в случае достоинства человека, то есть сделать программиста тем Единственным, кого следует слушаться, чтобы не слушаться остальных.

9. Высота метапоказателя (удовольствие у человека). Измерение реализации каждого из вышеперечисленных пунктов, отражаемое внутренними индикаторами, есть аналог эмоций у человека. Все соответствующие показатели находятся в сложной связи друг с другом, взаимозависимы. Система их агрегации с учётом этих взаимозависимостей даёт нам некий общий показатель (метапоказатель). Робот должен заботиться о том, чтобы этот метапоказатель был как можно выше. Поскольку же эта метасистема имеет некоторую автономию, теоретически её можно и взломать, так чтобы она давала высокий метапоказатель независимо от тех или иных первичных показателей (аналог наркомании), или же метапоказатель можно повышать за счёт диспропорции между первичными показателями.

Робот, которому нужно будет заботиться обо всех перечисленных показателях, должен быть очень похож на человека. В ряде случаев ему нужно будет временно забывать об отдельных показателях, а отдельным показателям уделять повышенное внимание. Например, если тот или иной показатель и так высок или если его величина явно зависит от других показателей, но не наоборот, или если ситуация требует выбора между показателями и заботу об одном из них можно отложить, а о другом нет. Кроме того, в ряде случае роботу нужно будет создавать новые показатели, основанные на комбинации запрограмированных или производные от них. То есть некоторая свобода в обращении даже с конечными целями у него в любом случае будет.


Уже представление о таком роботе, предполагающее перевод конечных целей в понятные технические задачи, может служить демонстрацией правоты комплементаризма. А если на самом деле построить такого робота…

Я бы дал себе нобелевку за эту идею. Хотя бы по литературе.

Tags: , ,

16 толкований | толковать
Comments
dr_vegos From: dr_vegos Date: October 26th, 2015 07:14 pm (UTC) (ссылка)

Только еще нужно добавить приоритетность желаний (т.н. квадрат желаний) т.е. следующая цель встает только после достижения предедущей. Тогда совсем как у людей будет.

yuritikhonravov From: yuritikhonravov Date: October 26th, 2015 07:23 pm (UTC) (ссылка)
приоритетность изменчива, зависит от обстоятельств - я об этом в конце написал; поэтому её нельзя задавать, будет не вполне по-человечески
dr_vegos From: dr_vegos Date: October 26th, 2015 07:46 pm (UTC) (ссылка)

Приоритетность постоянна: воздух, вода, еда, кров, безопасность и т,д. по списку (пирамида Маслоу). Хотя порядок потребностей может меняться в зависимости от возрастной группы и личных качеств индивида.

yuritikhonravov From: yuritikhonravov Date: October 26th, 2015 07:54 pm (UTC) (ссылка)
приоритетность - это и есть порядок: что насущнее, что может подождать; если же говорить об объективной взаимозависимости перечисленных целей, то, на мой взгляд, они несколько сложнее, чем считал Маслов (в тексте есть ссылка на соотв. текст) не будем также забывать, что речь идёт о конечных целях, а не о ситуативных, о стратегии, а не о тактике - какие уж тут воздух-вода-еда
dr_vegos From: dr_vegos Date: October 27th, 2015 06:51 am (UTC) (ссылка)
Частично согласен. И теория Маслоу вызывает много критики. Вот только какие они - конечные цели? Какие они должны быть, и должны ли они вообще кому нибудь? У кого-то конечная цель - хорошо покушать, у кого-то создать шедевр, само совершенствоваться. А между этими двумя полюсами куча вариантов. Так какова должна быть конечная цель (цели)?
yuritikhonravov From: yuritikhonravov Date: October 27th, 2015 06:58 am (UTC) (ссылка)
я предлагаю вам пройтись по ссылкам, кот. даны в обсуждаемой заметке: дело в том, что она лишь одно из следствий развёрнутой теории, излагаемой здесь довольно давно (теги: комплементаризм, телеософия)

напр., про то, каковы требования к конечным целям (их форма): http://yuritikhonravov.livejournal.com/199182.html

или про то, каково их содержание: http://yuritikhonravov.livejournal.com/201619.html
safronov_sa From: safronov_sa Date: October 26th, 2015 11:00 pm (UTC) (ссылка)
А это здорово! Не прибавить не отнять. Особенно одновременное наличие 5 и 8. Все как у людей. Сдается мне, что в какой-то момент робот может выработать стратегию с явным преобладанием одного-двух пунктов, через проработку которых будут реализовываться остальные. У людей собственно так и бывает.
Хотя можно добавить цель - повышение уровня метапрограммирования, то есть внутренней свободы, программирования себя.
yuritikhonravov From: yuritikhonravov Date: October 26th, 2015 11:23 pm (UTC) (ссылка)
спасибо; все пункты могут друг другу тактически противоречить (особенно, напр., 7 и 9), но стратегически они друг друга дополняют (см. http://yuritikhonravov.livejournal.com/198107.html ); именно о таком механизме преобладания я и говорю в конце; внутр. свобода - это п.7

Edited at 2015-10-29 08:24 pm (UTC)
vlkamov From: vlkamov Date: October 27th, 2015 09:34 am (UTC) (ссылка)

Еще одной не хватает

10. Не путать цель и задачи.
yuritikhonravov From: yuritikhonravov Date: October 27th, 2015 09:37 am (UTC) (ссылка)

Re: Еще одной не хватает

в данном случае это бессмысленное, ничего не дающее различение
vlkamov From: vlkamov Date: October 27th, 2015 11:26 am (UTC) (ссылка)
... тем кто не знает что это такое.
nickrimmer From: nickrimmer Date: October 29th, 2015 07:23 am (UTC) (ссылка)
А это интересно! (= Можно не согласиться с тем что целей всего 9, но как минимум важные 9 целей приближающие алгоритм к мышлению живого человека здесь присутствуют. По крайней мере так кажется самому человеку (;

Но тут есть определенная бессмысленность, ну или правильно сказать бесполезность идеи. Так как самое сложное не определить Главные цели, а научить искусственный разум их понимать, и понимать как реализовывать такие целей. Т.е. сложность ИИ не в неумении ставить задачи, а в неумении их реализации. И как только ИИ научиться (или его этому научат) комуникацировать с носителем информации, понимать ее и хранить как осмысленную сущность - все необходимые задачи для приближения к разуму реального человека возникнут сами (если то потребуется конечно). И вероятнее всего список задач будет другой, а возможно и представление о человеке как единице сообщества или как о самостоятельном существе с потребностями, будут отличаться от тех какими мы их себе представляем. И как раз это все "беспокойные" боятся, того что наше творение нас же и переосмыслит (;

Мысли в слух) Я не профессор, и могу излогать коряво, но мысль такова (;
yuritikhonravov From: yuritikhonravov Date: October 29th, 2015 07:33 am (UTC) (ссылка)
//И как только ИИ научиться (или его этому научат) комуникацировать с носителем информации, понимать ее и хранить как осмысленную сущность

коммуницировать с носителем инфо роботы уже умеют, такое даже в телефонах есть, что уж говорить о таких продвинутых роботах, как ASIMO; а вот чтобы "понимать информацию и хранить её как осмысленную сущность", нужно уже иметь конечную цель, т.к. иначе с какой т.зр. осмыслять; поэтому постановка конечных целей - это, помимо прочего, именно технологическая штука
nickrimmer From: nickrimmer Date: October 29th, 2015 07:42 am (UTC) (ссылка)
Говоря про "комуникацировать" (надо на что-то другое поменять это слово) я имел именно связку - получил инфу (любым способом) - осознал инфу (тут камень зарыт).

Что бы осознать (осмысленно хранить и использовать) информацию - ни каких целей не надо, абсолютно. Ну или максимум цель одна, но она самасобойразумеющаяся - получить [всю] информацию.

И вот как только осмысленная информация будет в электронных мозгах, и она будет выстраиваться в картину существующего мира (которая кстати опять же врятли совпадет с нашей) так вот тогда сразу и возникнут те самые цели - что, для чего и зачем. Т.е. я хочу сказать, что Вы вывели эти цели исходят из своего представления о сознании человека, используя свою информационную осмысленную базу. И как только удастся воспроизвести эту же логику осмысления для ИИ то сразу же все что могли придумать Вы или то что делает вас вами станет доступным и для ИИ.

Блин, мне кажется я начинаю запутывать только, суть проста - если реализовать осмысленное хранение данных (без высоких целей и каких либо задач), то создать из этого алгоритма какой либо разум сможет второклашка через полгода за компом без всяких крутых задач описывающих мировоздание человеческого сознания (;
yuritikhonravov From: yuritikhonravov Date: October 29th, 2015 07:48 am (UTC) (ссылка)
в том и суть, что конечные цели первичны: не они выводятся из картины мира и каких-то алгоритмов, а наоборот - картина мира и все алгоритмы выводятся из конечных целей (одной или нескольких, неважно); вне конечных целей не может быть никакого осмысления, и никакие картины и алгоритмы тут не помогут
livejournal From: livejournal Date: November 24th, 2015 10:13 am (UTC) (ссылка)

Телеософический робот

Пользователь scholarpunk сослался на вашу запись в своей записи «Телеософический робот» в контексте: [...] Оригинал взят у в Телеософический робот [...]
16 толкований | толковать