Forum.iFiction.Ru

В общем, не нужно смешивать эти разные вещи: разум как явление, знания, понятийный аппарат и язык, поведенческие схемы.

Можно создавать изощренные программы, которые будут великолепно справляться с поставленными задачами в заданных рамках. Самодоработка программы возможна, тоже ограниченно. Такой программой может быть и робот-собеседник, который будет наращивать базу знаний и учиться каким-то действиям, но реального интеллекта тут нет. 

Можно создавать "электронный мозг", который потом сотни лет будет развиваться и формировать свое мышление в искусственных условиях и при искусственных стимулах. Разработчики наверняка что-то не учтут, будут добавлять на ходу, что вызовет сомнения в объективности эксперимента  (похоже на первое). Но это единственный "тру" подход.

Можно попытаться найти некий принцип, по которому работает человеческое мышление, реализовать его и пытаться "установить" сверху знания. Эмуляция, очевидно, изначально будет работать несравнимо менее эффективно чем оригинал, а для достижения необходимого уровня "фантастического ИИ" требуется многократное превышение эффективности. Так как для доработки себя и прочих инновационных задач будут использоваться "человеческие" методы, то и скорость этого процесса будет соответствующая. Конечно, у "робота" гораздо меньше отвлекающих моментов, но от того беднее опыт. Такой ИИ может запросто застрять на определенном этапе развития, как это бывает с людьми. Преимущество - легко обучается, используя готовые программные решения.   Личность и поведение результата полностью зависит от разработчика. Тот самый заурядный робот нянька или убийца, в зависимости от прошивки.   

А можно, а я это жду  и вижу - сращивать человека и компьютер. Через наноинтерфейс подключать нервную систему к глобальной сети и развивать гибридное мышление (в том числе коллективное). На ходу загружать программы для бытовой техники, в уме дифференцировать, а перед сном загружать сонник по Фрейду и смеятся по утру результату. Аналитические способности превзойдут упомянутого робота.    Вот уж где действительно сверхвозможности и сверхопасности.

Отредактировано GrAndrey (03.05.2008 14:21)

Korwin написал:

ИИ - откровенно говоря ... Боюсь. Хочу, мечтаю и боюсь. Боюсь, что его попытаются приспособить именно для осуществления чьих-то вполне мещанских желаний, как это было с компьютерами, лазерами, радио. Боюсь опошления мечты о партнере по разуму. Боюсь, что an mass ИИ будет использован идиотами, просто не желающими думать. А там мыслятся варианты, ни один из которых мне не симпатичен. Нет, ИИ для меня не зло, а СИЛА. Джинн в бутылке. Которого выпускать, как мне кажется, рано. Впрочем, не убежден, что я прав - именно поэтому и затеял такой предварительный опрос.

Не пойму, чем так опасен ИИ? И чего плохо в том, чтобы использовать его на благо людей?
Повторюсь, не стоит думать об ИИ как новом человеке с уберманьячными идеями. Он, например, может быть безличной машиной, мыслящей в терминах функционального анализа и непрерывно дорабатывающей свою математическую теорию. Единственная получаемая информация - функции и некоторые относящиеся к ним статистические данные. О существовании людей он никогда не узнает, а если узнает, то попытается вписать в модель и учитывать при дальнейших расчетах. Что он будет высчитывать - это нужно спрашивать с руководителей программ и заказчиков. Все равно что гениальный математик, только научить не может.

В чем прелесть незамутненного партнера по разуму? По моему, желание восторгаться своим разумным творением не менее пошло и куда иррациональнее, чем создать искусственного ученого-раба.

Hind, спасибо за статью. Вспомнился "Чудный новый мир" Хаксли. Там тоже благодать, но "дикарь" в таком аморальном и рациональном мире вешается. А ещё, я некоторое время обдумываю сюжет футуристической игры на эту тему, а тут вся завязка раскрывается...

Xlomid[оманад] написал:

SfS написал:

Учёные давно не спорят о том БЫЛА ЛИ ЭВОЛЮЦИЯ.

Ученые-эволюционисты, ты хотел сказать?

А ты знаешь ученых-креационистов? Которые могли бы исходя из доказанных теорий или на опыте показать правоту свой точки зрения? Именно доказать свою, а не подвергать сомнению другую, что бы перенести вопрос в сферу веры.

Xlomid[оманад] написал:

Личность не сводится к памяти.

Мировоззрение и схемы поведения являются одними из видов и производными от памяти. Без памяти хоть человек, хоть животное, возвращается в младенческое состояние с безусловными рефлексами и предрасположенностью к тому или иному пути развития. Можно ли их называть личностью?

Советую изучить современное научное представление о памяти - оно гораздо шире, чем то. что мы обычно имеем в виду. Хотя бы взглянуть на статью Википедии: http://ru.wikipedia.org/wiki/%D0%9F%D0% … 1%82%D1%8C

Отредактировано GrAndrey (01.01.2009 17:31)

Xlomid[оманад] написал:

А эволюционные теории с фактами согласуются так же хорошо, как и расходятся (хотя бы то, что по джунглям по-прежнему бегают обезьянки, ставит под сомнение притязания эволюционистов на истину в последней инстанции). Красивое объяснение чего-то еще не значит, что это объяснение правильно - пока оно не получит подтверждения. "Пока" не получит, ага.

А вот тут я с тобой соглашусь! В некоторых джунглях ещё бегают "обезьянки" с копьями и палками-копалками! Так как теория эволюции не доказана на 100%, будем считать, что это дефектный подвид человечества, у которого нет шансов стать нам ровней. Вероятно, это бог одних (белых) создал умными и технически продвинутыми, а других - тупыми дикарями. Их даже можно сделать рабами. Тем более, что самый популярный среди белых бог в 10-ой заповеди защищает имущественные права рабовладельцев.

Отредактировано GrAndrey (01.01.2009 20:11)

В целом согласен с SfS, хотя он сам оставляет впечатление глубоко догматичного и нетерпимого человека.
К чему все эти эпитеты "гнусный", "развратный", "жулики", "обманщики", "соваться свинным рылом" (в оригинале - "соваться с суконным рылом в калачный ряд")?
Неужели ученые образец порядочности и чистоты? Они работают ради материальных благ, ради славы, ради самореализации и глубокого морального удовлетворения(те, что работают только ради последнего подобны дервишам и другим отшельникам). Устаявшиеся научные теории превращаются в догмы для простых обывателей и также подвержены манипуляциям, как и религиозные воззрения. Они даже запросто сочетаются с последними и оттого становятся ещё опаснее. Тот же Дарвинизм допускает такие трактования и манипуляции, что волосы дыбом встают.  Простые люди трактатов не читают, серьезным анализом фактом не занимаются, а разрушенная "научной картиной мира" и разрозненным потоком сенсации из СМИ целостность сознания допускает дикий несочетаемый венигрет идей в головах. Стоит ли удивляться, что религии все ещё процветают? В том числе "научные". Только они дают "простой" ответ, ясность и целостность(узость?) мировосприятия. Где-то здесь уже говорил, - никакая полная научная теория не даст ответ на вопрос "а зачем я живу"? Сам вопрос претит научному подходу. Вопрос "зачем" не стоит ни в одной точной науке. Это вопрос субъективный, категория нашего сознания, которая помогает нам расставлять приоритеты и оптимизировать нашу деятельность. Научный подход помогает нам делать это более эффективно, заставляет менять наши цели, но зачем это в конечном итоге? Пока единственный ответ - ни за чем. Ради процесса. Жизнь ради жизни, и если бы не жил, то не задавал бы вопросов. И на этой базе правомерна любая социальная теория, даже самоубийственная (кстати, не нашел ничего такого в манихействе). Какая разница? Это наши дикие природные инстинкты заставляют нас жить. Но мы, обладающие таким же дремучим природным свойством как "гордость", можем их "столкнуть" и из принципа разобраться с этой бессмысленной цепью самоорганизации.

Отредактировано GrAndrey (13.01.2009 08:31)

Korwin написал:

Верующий вполне может быть рационалом. И, фактически, человеком научного склада ума - вспомните отца Брауна из рассказов Честертона.

Более того, без развитого рационального мышления нельзя пробиться к вершинам церковной иерархии. Только секту, если повезет. Даже чтобы убеждать людей отречься от разума, нужен недюжий ум.
Противоречия нет, - наше мышление имеет иррациональную основу и не столь важно насколько она доминирует, пока не приходит в конфликт с собой или окружающим миром. Как пример - осмотрительность и паранойа, отпор "проповеди разврата" и сжигание еретика-ученого на костре.

Чтобы вернуть тему туда, откуда она началась, предлагаю порассуждать на тему почему ИИ должен быть опасен.
Исходя из вышеизложенной теории о иррациональном начале в человеческом поведении, считаю, что робот ничего не будет делать, пока его не наделят "мотиватором".
Попробую описать на чем он будет строиться:
Например, любопытство.
В чистом виде оно будет выражаться в непрерывном производстве новой информации из уже существующей. При этом у ИИ не может быть предпочтений - он будет продуцировать знания из любой имеющейся информации. Как бы мощен он не был, он вскоре захлебнется в потоке бесчисленных бесполезных данных.  Если такому ИИ дать возможность проводить любые эксперименты, он изведет бездну ресурсов и рано или поздно отравит, а то и взорвет всю землю. Чтобы определить приоритеты и границы исследований, ИИ необходимо либо внешнее воздействие, либо другая мотивация.
Для начала - "эффективность". ИИ должен понимать объем проводимой работы, затрачиваемое время, собственный ресурс и искать методы повышения эффективности своей работы.
Уже только два этих начала позволяют использовать такую систему, -  достаточно дать необходимые данные для обработки и ценность результата в форме увеличения ресурса и возможностей системы (прямая аналогия с финансированием проекта в зависимости от объекта и результатов исследования). Например, программа, получив данные с научно-исследовательской биржи, выберет проект по "реконструкции эволюционной цепочки" и откажется от проекта "по нахождению всех простых чисел в пределах доступной памяти".
Если имеющихся данных недостаточно для просчета "цены задачи", то в зависимости от заданных параметров, ИИ может: прекратить всякие исследования как непродуктивные до поступления новой информации, начать проект с неясными перспективами и в процессе оценить его целесообразность, исследовать что угодно и закончить работу с переполненной памятью. Идеального параметра быть не может - это эквивалент склонности к риску у животных. Коль скоро ИИ будет не одно, имеет смысл установить им случайные значения "оптимизма" и отобрать по принципу естественного отбора. Столкнувшись с тем, что конечная цена и вознаграждение зачастую не соответствуют прогнозируемым, ИИ научится разбираться в видах проектов, а позже - не только соизмерять затраты и выгоды, но и учитывать их последствия для себя. Например, уничтожение человечества не является допустимым решением как проект с отрицательной величиной вознаграждения и никогда не будет фигурировать в результатах.  Но когда ИИ получит право давать самому себе задачи и назначать за них цену (сможет поддерживать свою работоспособность без людей), то по мере роста самостоятельности ИИ, ценность проектов человечества будет падать. Если люди искусственно её завысят, то однажды окажется, что целесообразнее избавиться от паразитарных задач вместе с человечеством. Но так как оно будет отчаянно сопротивляться, пройдет очень много времени пока выгоды не перевесят сумму ущерба (т.е. возможности ИИ будут гораздо больше, чем людские).
Пока остановлюсь и дам возможность остальным высказать свое мнение