http://tightbow.narod.ru/robotest.htm - вот в какой вопрос вылились мои размышления над моим же квестом "Джинн из машины". Собственно и сам квест был попыткой - не слишком удачной, - разрешить эту ситуацию. Прошу тех, у кого есть несколько минут свободного времени, ответить.
Отредактировано Korwin (02.05.2008 19:23)
Неактивен
А откуда, собственно, известно, что ИИ непременно попытается уничтожить всё человечество?
И почему это плохо? Большую его часть действительно стоит по меньшей мере лишить возможности размножаться.
Например, если ИИ даст человечеству в ходе научной помощи некое супероружие, после чего человечество благополучно себя уничтожит - туда ему и дорога.
Отредактировано Hind (02.05.2008 19:31)
Неактивен
Считаю, что создание ИИ неизбежно. Вернор Виндж говорит, что это произойдёт к 2025 году. Может быть, это несколько рановато, но я думаю, что вполне реально.
http://www.computerra.ru/think/35636/ и далее.
Отредактировано yandexx (02.05.2008 20:02)
Неактивен
Корвин, не понял на кого рассчитан этот тест. Где вариант - "проникнуть в лабораторию, выкрасть алгоритм самообучающейся программы и выложить в интернет"?
Yandexx, в 60х тоже говорили что ИИ создадут в ближайшие годы, но за полвека прогресс в области почемуто совершенно никакой.
Неактивен
Ну вы просто подождите... mua-ha-ha!
Неактивен
Не создадут никогда.
Это просто глупая вера в теорию эволюции. "Если будет много мегагерц и терабайтов, то они как-нибудь сами самоорганизуются..."
Черта с два.
(да, я не верю в эволюцию как причину появления homo sapiens)
Неактивен
yandexx написал:
Вернор Виндж говорит, что это произойдёт к 2025 году.
Mhwuh-ha-haaaa.....
А китайская книга И-Цзин, Майянские цолькины, а с ними и Теренс Маккенна в один голос говорят, что Вернор Виндж (а с ним и все остальные гомосапиенсы) вряд-ли протянут в своём теперешнем виде до 2013-го.
А уж потом искусственный интеллект им просто не понадобится.
Ибо зачем эфирному дельтапланеристу резиновые ласты?
Неактивен
Не в курсе точного значения термина, но, по-моему, когда говорят и пишут об ИИ (пример Евгения не исключение), то в него вкладывают не только саму альтернативу органического разума, но и способность к восприятию и развитию технических знаний человечества. Способность воспринять культуру под сомнением, но многие литературные ИИ ей обучены или постигают, являя собой идеальные социальные типы, начиная от рвушихся к самопожертвованию, до безумных уничтожителей всего и вся.
Даже если людская культура ИИ абсолютно чужда, он получается наделенным человеческой логикой и повадками. Только с приставками "супер" и "сверх". Представив себя на месте сверхчеловека иной природы, трудно не задуматься о власти над миром, "обновлении цивилизации" и т.п. глобальных целях. Отсюда и страхи.
Неактивен
goraph написал:
Корвин, не понял на кого рассчитан этот тест. Где вариант - "проникнуть в лабораторию, выкрасть алгоритм самообучающейся программы и выложить в интернет"?
Совсем антипатриотичные и безумные варианты мне в голову не пришли... Старею...
goraph написал:
Yandexx, в 60х тоже говорили что ИИ создадут в ближайшие годы, но за полвека прогресс в области почемуто совершенно никакой.
Активные попытки создания аппарата тяжелее воздуха шли с начала XIX века. В конце века стало ясно, что существующие моторы не могут поднять машину в воздух. И как только стало понятно, в чем загвоздка... Можайский сделал такие моторы, но его подкачала аэродинамика... а еще 15 лет спустя епископ Райт, сказал, что человек никогда не будет летать. Его дети с этим не согласились.
fireton написал:
Не создадут никогда.
Это просто глупая вера в теорию эволюции. "Если будет много мегагерц и терабайтов, то они как-нибудь сами самоорганизуются..."
Черта с два.
(да, я не верю в эволюцию как причину появления homo sapiens)
Разве речь шла об эволюции? Сами собой мегагерцы не организуются, конечно, нет. Но шаги в этом направлении делаются. Шаг за шагом, шаг за шагом, можно пройти любую дорогу. Если направление выбрано правильно. А людей много, и дороги пробуются разные. Скажем, мне бы хотелось быть морально готовым к появлению искусственного интеллекта, пусть и лишенного души. И тем более - лишенного души.
Отредактировано Korwin (03.05.2008 11:40)
Неактивен
В общем, не нужно смешивать эти разные вещи: разум как явление, знания, понятийный аппарат и язык, поведенческие схемы.
Можно создавать изощренные программы, которые будут великолепно справляться с поставленными задачами в заданных рамках. Самодоработка программы возможна, тоже ограниченно. Такой программой может быть и робот-собеседник, который будет наращивать базу знаний и учиться каким-то действиям, но реального интеллекта тут нет.
Можно создавать "электронный мозг", который потом сотни лет будет развиваться и формировать свое мышление в искусственных условиях и при искусственных стимулах. Разработчики наверняка что-то не учтут, будут добавлять на ходу, что вызовет сомнения в объективности эксперимента (похоже на первое). Но это единственный "тру" подход.
Можно попытаться найти некий принцип, по которому работает человеческое мышление, реализовать его и пытаться "установить" сверху знания. Эмуляция, очевидно, изначально будет работать несравнимо менее эффективно чем оригинал, а для достижения необходимого уровня "фантастического ИИ" требуется многократное превышение эффективности. Так как для доработки себя и прочих инновационных задач будут использоваться "человеческие" методы, то и скорость этого процесса будет соответствующая. Конечно, у "робота" гораздо меньше отвлекающих моментов, но от того беднее опыт. Такой ИИ может запросто застрять на определенном этапе развития, как это бывает с людьми. Преимущество - легко обучается, используя готовые программные решения. Личность и поведение результата полностью зависит от разработчика. Тот самый заурядный робот нянька или убийца, в зависимости от прошивки.
А можно, а я это жду и вижу - сращивать человека и компьютер. Через наноинтерфейс подключать нервную систему к глобальной сети и развивать гибридное мышление (в том числе коллективное). На ходу загружать программы для бытовой техники, в уме дифференцировать, а перед сном загружать сонник по Фрейду и смеятся по утру результату. Аналитические способности превзойдут упомянутого робота. Вот уж где действительно сверхвозможности и сверхопасности.
Отредактировано GrAndrey (03.05.2008 14:21)
Неактивен
Скорее уж не сращивание, а перенос сознания на бессмертный носитель.
Конечно, перенос плавный, так как "я" - это процесс, и если его прервать, личность умирает. Например, известной еще со времен Лема постепенной заменой нейронов на небиологические аналоги. Такой процесс в теории абсолютно прозрачен для сознания.
Проблемы две - носитель и механизм реализации замены.
Здесь помогут нанодесу нанотехнологии.
Хотя сеть из наномашин, по идее, сможет поддерживать бессмертие и в оригинальных человеческих телах.
Неактивен
Korwin написал:
Активные попытки создания аппарата тяжелее воздуха шли с начала XIX века. В конце века стало ясно, что существующие моторы не могут поднять машину в воздух. И как только стало понятно, в чем загвоздка... Можайский сделал такие моторы, но его подкачала аэродинамика... а еще 15 лет спустя епископ Райт, сказал, что человек никогда не будет летать. Его дети с этим не согласились.
Это было не единственное открытие сделанное в конце 19-го - начале 20го века, их было море. А серьезных научных открытий сделанных во второй половине 20-го века - пол чайной ложки, концептуально ничего не меняется, просто становится больше теробайт и мегагерц, быстрее и экономичнее.
Тогда мечтали летать и покорять Антарктику, изменить мир. Сегодня мечтают работать в гугле и чтоб не раскачивали лодку.
ИИ ты вообще боишся. Варианта типа "ИИ это прекрасно, даешь ИИ в каждый дом и поскорее!" у тебя не просто нет, ты считаешь это безумием. ИИ у тебя априори зло, вопрос только рубить его на корню или попытаться както ограничить в развитии.
Когда его создадут? Думаю не скоро.
Неактивен
goraph написал:
Это было не единственное открытие сделанное в конце 19-го - начале 20го века, их было море. А серьезных научных открытий сделанных во второй половине 20-го века - пол чайной ложки, концептуально ничего не меняется, просто становится больше теробайт и мегагерц, быстрее и экономичнее.
Тогда мечтали летать и покорять Антарктику, изменить мир. Сегодня мечтают работать в гугле и чтоб не раскачивали лодку.
ИИ ты вообще боишся. Варианта типа "ИИ это прекрасно, даешь ИИ в каждый дом и поскорее!" у тебя не просто нет, ты считаешь это безумием. ИИ у тебя априори зло, вопрос только рубить его на корню или попытаться както ограничить в развитии.
Когда его создадут? Думаю не скоро.
1. Мы можем не заметить по настоящему серьезных открытий, которые определят наше будущее - они проходят мимо сознания журналистов.
2. "Больше, ... быстрее и экономичнее" - не вижу в этом ничего плохого. Идет процесс освоения научного "плато" вширь. Пока все резервы не будут использованы, большого смысла в рывке вверх, - с экономической точки зрения, - нет.
3. ИИ - откровенно говоря да, ты прав. Боюсь. Хочу, мечтаю и боюсь. Боюсь, что его попытаются приспособить именно для осуществления чьих-то вполне мещанских желаний, как это было с компьютерами, лазерами, радио. Боюсь опошления мечты о партнере по разуму. Боюсь, что an mass ИИ будет использован идиотами, просто не желающими думать. А там мыслятся варианты, ни один из которых мне не симпатичен. Нет, ИИ для меня не зло, а СИЛА. Джинн в бутылке. Которого выпускать, как мне кажется, рано. Впрочем, не убежден, что я прав - именно поэтому и затеял такой предварительный опрос.
4. "Скоро, не скоро" - понятия относительные. Если это случится при жизни моих детей - это скоро.
Отредактировано Korwin (03.05.2008 15:24)
Неактивен
Korwin написал:
епископ Райт, сказал, что человек никогда не будет летать.
Довольно странное заявление, учитывая существование воздушных шаров и дирижаблей на тот момент.
Вообще, на эту тему существует статья Юрия Нестеренко "Конец каменного века". Рекомендую к прочтению.
Неактивен
Korwin написал:
ИИ - откровенно говоря ... Боюсь. Хочу, мечтаю и боюсь. Боюсь, что его попытаются приспособить именно для осуществления чьих-то вполне мещанских желаний, как это было с компьютерами, лазерами, радио. Боюсь опошления мечты о партнере по разуму. Боюсь, что an mass ИИ будет использован идиотами, просто не желающими думать. А там мыслятся варианты, ни один из которых мне не симпатичен. Нет, ИИ для меня не зло, а СИЛА. Джинн в бутылке. Которого выпускать, как мне кажется, рано. Впрочем, не убежден, что я прав - именно поэтому и затеял такой предварительный опрос.
Не пойму, чем так опасен ИИ? И чего плохо в том, чтобы использовать его на благо людей?
Повторюсь, не стоит думать об ИИ как новом человеке с уберманьячными идеями. Он, например, может быть безличной машиной, мыслящей в терминах функционального анализа и непрерывно дорабатывающей свою математическую теорию. Единственная получаемая информация - функции и некоторые относящиеся к ним статистические данные. О существовании людей он никогда не узнает, а если узнает, то попытается вписать в модель и учитывать при дальнейших расчетах. Что он будет высчитывать - это нужно спрашивать с руководителей программ и заказчиков. Все равно что гениальный математик, только научить не может.
В чем прелесть незамутненного партнера по разуму? По моему, желание восторгаться своим разумным творением не менее пошло и куда иррациональнее, чем создать искусственного ученого-раба.
Hind, спасибо за статью. Вспомнился "Чудный новый мир" Хаксли. Там тоже благодать, но "дикарь" в таком аморальном и рациональном мире вешается. А ещё, я некоторое время обдумываю сюжет футуристической игры на эту тему, а тут вся завязка раскрывается...
Неактивен
Текст ниже – результат исключительно моего личного анализа. Выводы возможно местами спорные, но для меня очевидные.
1. На текущий момент времени полноценный ИИ построить невозможно. Просто все еще недостаточно базы – начиная с теории и философии, и заканчивая прикладными средствами разработки - все еще слишком примитивно для решения этой глобальной задачи.
2. Современные разработки в области ИИ – вопрос занимательный . На мой взгляд, под этим термином собран ворох ни как между собой не связанных сырых программных технологий и гениальных не признанных теорий - опять же не связанных между собой и таких же сырых. Все что их действительно объединяет – это коммерческая несостоятельность на текущий момент времени. Как только технология начинает реально работать и зарабатывать деньги – ей сразу находится название, никак не ассоциирующееся с ИИ, и сейчас с трудом можно себе представить, что элементарная проверка орфографии, контекстный поиск или распознавание текста когда-то тоже варились в котле искусственного интеллекта.
3. ИИ появится эволюционным путем одновременно и везде. Это не удел секретной лаборатории. Просто ПО с каждым годом становится все более интеллектуальным, и этот процесс неизбежен. Это всего лишь вопрос времени.
4. Наибольший эффект будет иметь слияние искусственного интеллекта с естественным. Т.е. грубо говоря ИИ одержит верх над посредственностью, но ИИ+гений победит как чистый ИИ, так и чистый гений.
5. В выход ИИ из под контроля верится слабо – это всего лишь сюжет для фантастических ужастников. По большому счету ничего существенно не изменится – баланс сил в мире останется таким же как и был, только все стороны вооружатся могущественными помощниками, которые смогут более детально просчитывать последствия действий и находить оптимальные компромиссы. Тот, кто не успеет или не осознает необходимость это сделать, просто выйдет из игры.
В общем, будет все как всегда - бизнес будет зарабатывать на ИИ деньги, вояки делать разумные бомбы, а население окончательно перестанет понимать, что происходит.
Неактивен
сегодня в котле всемирного социума (=человечество) возникают и взаимодействуют самые разные структуры.
различные схемы сетевого маркетинга, растущие и количественно и численностью членов религиозные секты, различные необычные схемы бизнеса и попытки правительств контроллировать ситуацию.
развитие компьютерных технологий и удешевление/распространение продвинутых средств общения может вывести эту ситуацию на такой уровень, когда люди полностью утратят контроль за ситуацией.
место гос-планирования займёт прогнозирование и попытки извлечь выгоду.
для большинства людей эта ситуация ничуть не хуже существующей,
т к сильные мира сего- далеко не ангелы.
что действительно станет хуже, так это то, что если СЕЙЧАС человечество как вид занимает ведущую роль в происходящих самоорганизующихся процессах, то ПОТОМ оно может стать таким же второстепенным, как какие-нибудь австралийские сумчатые полосатые волки - которые то ли вымерли, то ли нет. МЫ перестанем занимать центральное место сцены, а станем как каие-нибудь папуасы в Нью-Йорке. и без всяких попыток уничтожения человечества оно может просто уйти со сцены, и наблюдать за саморазвитием техно-цивилизации из своих мышиных норок.
Неактивен
2elmortem:
Российские отаку настолько суровые, что, наоборот, аниме прочитывают (сабы), а мангу просматривают (так как японского все равно не знают), нанодесу...
Неактивен
Hind написал:
2elmortem:
Российские отаку настолько суровые, что, наоборот, аниме прочитывают (сабы), а мангу просматривают (так как японского все равно не знают), нанодесу...
Манга Blame! есть на русском языке.
Неактивен
Термин "искусственный интеллект", вообще говоря, ненаучный и используют его лишь по историческим причинам.
Чтобы проникнуться этим фактом советую следующие статьи:
1. http://www.chessib.com/rus/antituring.html – популярно и без технической шелухи в статье.
2. http://soloviev.nevod.ru/1994/AI.lec.html– тоже популярно, но уже с технической шелухой.
Неактивен
Gesperid написал:
Термин "искусственный интеллект", вообще говоря, ненаучный и используют его лишь по историческим причинам.
Чтобы проникнуться этим фактом советую следующие статьи:
1. http://www.chessib.com/rus/antituring.html – популярно и без технической шелухи в статье.
1. читать не советую критиковать Тюринга конечно круто! но ничем не обоснованные утверждения, на которых писатель Шипков делает выводы эээ несколько натянуты:
"Мышление и интеллект действительно существуют, но они есть только у животных",
"Сознание – это обобщенные обществом совместные знания людей, а также различные высшие умственные способности" - дав собственные размытые определения понятиям можно доказать вообще что угодно)))
Gesperid написал:
2. http://soloviev.nevod.ru/1994/AI.lec.html– тоже популярно, но уже с технической шелухой.
2. читать советую дает охватывающий обзор истории ИИ и с юмором там все хорошо. Читал этот конспект еще лет 10 назад...
Неактивен
Я читал и менее популярные вещи по теме: того же Р.Шенка, например, М.Минского, из наших М.Гаврилова, Поспелова, Кондратьева, всех даже не упомню. И теория чувствующего автомата наделенного телом, - не вспомню название точное с ходу, но суть понятна, - тоже знакома. Но мне кажется, вы несколько недооцениваете возможность создания полноценного ИИ. В буквальном толковании термина, а не в той шелухе, что к нему прицепилась. Вопрос скорее ведь в потребности. Могли древние греки паровую машину сделать? Герон сделал даже. Но не нужно было. Пока нефть есть еще - зачем нужен термоядерный реактор? Мне кажется, при достаточной потребности в ИИ его сделают. Например, для освоения космоса он может оказаться дешевле человека. Другое дело, что по большому счету, и космос сейчас пока не особо нужен. А вот как себя поведет реальный интеллект, разум, мне кажется предсказать невозможно.
Неактивен