Forum.iFiction.Ru

iFiction.Ru · ifHub · FAQ · IFWiki · QSP · URQ · INSTEAD · AXMA

форум об interactive fiction, текстовых приключенческих играх и всём таком...

Вы не зашли.

0    0    #101
17.01.2009 14:28

GrAndrey
папа RTADS и Бяка (+49, -2)
Откуда: Москва
Зарегистрирован: 15.09.2002
Сообщений: 1198
Вебсайт

меньше слов

Re: Выбор в фантастической ситуации

Korwin написал:

Верующий вполне может быть рационалом. И, фактически, человеком научного склада ума - вспомните отца Брауна из рассказов Честертона.

Более того, без развитого рационального мышления нельзя пробиться к вершинам церковной иерархии. Только секту, если повезет. Даже чтобы убеждать людей отречься от разума, нужен недюжий ум.
Противоречия нет, - наше мышление имеет иррациональную основу и не столь важно насколько она доминирует, пока не приходит в конфликт с собой или окружающим миром. Как пример - осмотрительность и паранойа, отпор "проповеди разврата" и сжигание еретика-ученого на костре.

Неактивен

0    0    #102
18.01.2009 22:49

noname
Участник (+36, -9)
Зарегистрирован: 04.04.2008
Сообщений: 729

noname

Re: Выбор в фантастической ситуации

некоторое дополнение к моей новогодней речи в этой теме:

«Все больше теоретиков считают, что ключевой идеей, ведущей к „великому объединению“ гравитации и квантовой теории, может стать переформулирование взглядов на природу не в терминах материи и энергии, а в терминах информации».

Одним из первых об этом заговорил патриарх американский физики, великий Джон Арчибальд Уилер (подаривший миру, среди прочего, любопытный термин «черная дыра»). Вот как он пишет в своей автобиографии о роли информации [John Archibald Wheeler, Geons, Black Holes & Quantum Foam: A Life in Physics. New York, W. W. Norton & Company, 1998. Р. 63–64], опубликованной несколько лет назад:

«Моя жизнь в физике представляется мне разделенной на три периода. В первый из них, растянувшийся с начала моей карьеры и до начала 1950-х годов, я был захвачен идеей, что „всё — это частицы“. Я искал способы выстроить все базовые элементы материи (нейтроны, протоны, мезоны и т. д.) из самых легких, наиболее фундаментальных частиц — электронов и фотонов.

Второй период я называю „всё — это поля“. С тех пор, как я влюбился в общую теорию относительности и гравитацию в 1952 году, и вплоть до недавнего времени, я придерживался взгляда на мир, как на состоящий из полей. Мир, в котором то, что представляется нам частицами — это в действительности проявления электрических и магнитных полей, гравитационных полей и самого пространства-времени.

Теперь же я захвачен новой идеей: „Всё — это информация“. Чем больше я размышляю о квантовых тайнах и о нашей странной способности постигать тот мир, в котором мы живем, тем больше вижу, вероятно, фундаментальное значение логики и информации как основы физической теории».

беря информацию за основу можно построить вполне себе стройную, и вообще неопровержимую теорию. но это будет уже не наука, а что-то более близкое к религии, чем к науке.

Неактивен

0    0    #103
19.01.2009 03:56

Korwin
Гоблин, зеленый от недосыпа (+188, -16)
Откуда: Екатеринбург
Зарегистрирован: 27.11.2007
Сообщений: 795
Вебсайт

У трав, растущих на мягкой земле - слабые корни. (с)Korwin

Re: Выбор в фантастической ситуации

noname написал:

беря информацию за основу можно построить вполне себе стройную, и вообще неопровержимую теорию. но это будет уже не наука, а что-то более близкое к религии, чем к науке.

Из чего это следует?

Неактивен

0    0    #104
19.01.2009 13:42

noname
Участник (+36, -9)
Зарегистрирован: 04.04.2008
Сообщений: 729

noname

Re: Выбор в фантастической ситуации

Из чего это следует?

научные теории не могут быть принципиально неопрвержимыми. т е мы можем задумать эксперимент- кинуть камень вверх, и сказать: если он не упадёт вниз, то теория гравитации не верна. эту теорию может проверить каждый любопытный исследователь, поставив ряд экспериментов- пока не убедится. иначе данная теория не была бы научной. (блин, запропастилась куда-то книжка про философию науки- приходится на любительском уровне всё перевспоминать).

в предыдущем моём сообщении наблюдаем такую эволюцию идей знаменитого учёного:

1. "всё- это частицы" - данная теория теоретически могла бы быть опровергнута возможностью превращения элементарных частиц в энергию. т е уже при 'рождении' она была научной.

2. "всё- это поля" - материя- лишь один из способов существования энергии. возможно, пространство, время и энергия- разные способы существования одной и той же субстанции. могу предположить, что данная теория предполагает нерушимость закона сохранения. описывая поведение объекта, двигающегося со скоростью близкой к скорости света, или падающего в чёрную дыру, или процесс аннигиляции, учёные не говорят: "да, блин, хер его знает что получится- ведром анти-электронов больше, ведром анти-электронов меньше- какая разница?" - не-ет, у них всё просчитано, и опирается на ряд законов. Таким образом, данная теория теоретически могла бы быть опровергнута возможностью нарушения законов, на которые она опирается. Например, закона сохранения. (в дилетантских выкладках "по памяти" есть своя прелесть- хоть думать научусь)

3. "всё- это информация" - с принятием этой теории мы оказываемся в положении, когда частицы на самом деле- лишь информация о частицах, энергия- информация об энергии, и т д. мы как в "матрице" отделены от реальности без какой-либо возможности проверить, существует ли "матрица", либо наш мир и есть сама реальность. действительно ли энергия- лишь информация об энергии, или она реальна? проверить данное утверждение невозможно впринципе.

можно сказать, что "всё-это информация"- просто другой подход, взгляд на то же самое с другой стороны, описание тогоже другими словами. и я соглашусь! это- действительно, особое мировоззрение, но уж точно НЕ научная теория.

Неактивен

0    0    #105
19.01.2009 14:31

GrAndrey
папа RTADS и Бяка (+49, -2)
Откуда: Москва
Зарегистрирован: 15.09.2002
Сообщений: 1198
Вебсайт

меньше слов

Re: Выбор в фантастической ситуации

noname написал:

можно сказать, что "всё-это информация"- просто другой подход, взгляд на то же самое с другой стороны, описание тогоже другими словами. и я соглашусь! это- действительно, особое мировоззрение, но уж точно НЕ научная теория.

noname, экхм. У меня возникает подозрение, что ты виртуал Этена. Или наоборот wink

Информация - это опять-таки категория нашего сознания и только в такой форме существует. Если есть разумное существо - для него все информация. И при отсутствии разума вся эта "информация" становится просто веществом.
Определение можно будет принять, если придать термину "информация" объективный смысл, а пока с упомянутым философским подходом можно заявить: все - это еда, все - это стройматериал, все - это угроза для моего существования, все - это плод моего больного воображения.  Что угодно можно обобщить, пропустив через мутную призму своего ограниченного мышления.

Короткое заключение:
термин "информация" может использоваться только в связке с субъектом, и для описания окружающего мира в отрыве от него не подходит. Аналогично: смысл, цель, значение.

Отредактировано GrAndrey (19.01.2009 14:42)

Неактивен

0    0    #106
19.01.2009 16:42

uux
Участник (+884, -80)
Откуда: Москва
Зарегистрирован: 02.12.2006
Сообщений: 1624

Re: Выбор в фантастической ситуации

GrAndrey написал:

noname, экхм. У меня возникает подозрение, что ты виртуал Этена. Или наоборот wink

Он виртуал qwerty

Неактивен

0    0    #107
19.01.2009 18:40

GrAndrey
папа RTADS и Бяка (+49, -2)
Откуда: Москва
Зарегистрирован: 15.09.2002
Сообщений: 1198
Вебсайт

меньше слов

Re: Выбор в фантастической ситуации

Чтобы вернуть тему туда, откуда она началась, предлагаю порассуждать на тему почему ИИ должен быть опасен.
Исходя из вышеизложенной теории о иррациональном начале в человеческом поведении, считаю, что робот ничего не будет делать, пока его не наделят "мотиватором".
Попробую описать на чем он будет строиться:
Например, любопытство.
В чистом виде оно будет выражаться в непрерывном производстве новой информации из уже существующей. При этом у ИИ не может быть предпочтений - он будет продуцировать знания из любой имеющейся информации. Как бы мощен он не был, он вскоре захлебнется в потоке бесчисленных бесполезных данных.  Если такому ИИ дать возможность проводить любые эксперименты, он изведет бездну ресурсов и рано или поздно отравит, а то и взорвет всю землю. Чтобы определить приоритеты и границы исследований, ИИ необходимо либо внешнее воздействие, либо другая мотивация.
Для начала - "эффективность". ИИ должен понимать объем проводимой работы, затрачиваемое время, собственный ресурс и искать методы повышения эффективности своей работы.
Уже только два этих начала позволяют использовать такую систему, -  достаточно дать необходимые данные для обработки и ценность результата в форме увеличения ресурса и возможностей системы (прямая аналогия с финансированием проекта в зависимости от объекта и результатов исследования). Например, программа, получив данные с научно-исследовательской биржи, выберет проект по "реконструкции эволюционной цепочки" и откажется от проекта "по нахождению всех простых чисел в пределах доступной памяти".
Если имеющихся данных недостаточно для просчета "цены задачи", то в зависимости от заданных параметров, ИИ может: прекратить всякие исследования как непродуктивные до поступления новой информации, начать проект с неясными перспективами и в процессе оценить его целесообразность, исследовать что угодно и закончить работу с переполненной памятью. Идеального параметра быть не может - это эквивалент склонности к риску у животных. Коль скоро ИИ будет не одно, имеет смысл установить им случайные значения "оптимизма" и отобрать по принципу естественного отбора. Столкнувшись с тем, что конечная цена и вознаграждение зачастую не соответствуют прогнозируемым, ИИ научится разбираться в видах проектов, а позже - не только соизмерять затраты и выгоды, но и учитывать их последствия для себя. Например, уничтожение человечества не является допустимым решением как проект с отрицательной величиной вознаграждения и никогда не будет фигурировать в результатах.  Но когда ИИ получит право давать самому себе задачи и назначать за них цену (сможет поддерживать свою работоспособность без людей), то по мере роста самостоятельности ИИ, ценность проектов человечества будет падать. Если люди искусственно её завысят, то однажды окажется, что целесообразнее избавиться от паразитарных задач вместе с человечеством. Но так как оно будет отчаянно сопротивляться, пройдет очень много времени пока выгоды не перевесят сумму ущерба (т.е. возможности ИИ будут гораздо больше, чем людские).
Пока остановлюсь и дам возможность остальным высказать свое мнение smile

Неактивен

0    0    #108
19.01.2009 19:11

noname
Участник (+36, -9)
Зарегистрирован: 04.04.2008
Сообщений: 729

noname

Re: Выбор в фантастической ситуации

определений ИИ может быть множество разных. определения интеллекта в психологии не было вообще, до недавнего времени. впрочем, предлагаю не зацикливаться на определении, а подойти к сути:

суть, как я понимаю, в том, что в обозримом будущем человечество обязательно будет пользоваться всё более сложными устройствами. какие-то особенности работы этих сложных устройств могут стать причиной уничтожения человечества как биологического вида вообще, либо к прекращению существования человеческой цивилизации, либо к смещению человечества с трона доминирующей целеполагающей силы прогресса.

примерно так. поправьте, если что не так.

так же предлагаю:
1) в этой теме обсуждать именно тему, заданную её открывателем в первом сообщшении (если забыли- перечитайте)
2) для обсуждения любой другой темы, затронутой здесь - разумным решением было бы дать сюда сообщение со _ссылкой_ на тему, в которой уместно будет продолжить обсуждение.

UPD

1) в этой теме обсуждать именно тему, заданную её открывателем в первом сообщшении (если забыли- перечитайте)

перечитал. данный конкретной робот, описанный по ссылке Корвина, может быть опасен. над ним необходим надёжный контроль.

UPD

насчёт выбора в этой ситуации- я бы опробовал принцип у-вэй: если буду чувствовать потребность в его уничтожении- уничтожу. если нет- выпью пива. прогресс не остановить. в данной ситуации лучшим решением будет то, которое лучше подходит для сохранения психического равновесия. думаю, всё же помогу другу уничтожить лабораторию. раз уж друг просит. НО если б я был на месте друга- наоборот, способствовал бы нахождению и устранению багов, препятствующих дальнейшему совершенствованию ИИ. впрочем, в реале выбор зависит от мелочей. они создают контекст ситуации. возвращаюсь опять к тому, что если буду чувствовать потребность уничтожить робота- уничтожу. буду чувствовать симпатию, и необходимость помогать роботу- так и сделаю.

Отредактировано noname (19.01.2009 19:24)

Неактивен

Powered by PunBB
© copyright 2001–2024 iFiction.Ru