Форум ИГШ

Старое место
Текущее время: 17 ноя 2018 16:47

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 125 ]  На страницу Пред.  1, 2, 3  След.
Автор Сообщение
СообщениеДобавлено: 27 окт 2015 18:30 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
al_mt писал(а):
Готтсподи.
Колонка - это функциональный элемент неокортекса. Я говорил именно о полноценных "копиях" биологических нейронов. Которые, в цифровом виде ведут себя в точности так же как биологические.


Я повторю вопрос - есть хоть один пример полного моделирования одного нейрона?
Вы не знаете что можно выбросить из него, чтобы не выбросить "разум".

al_mt писал(а):
Готтсподи.
Колонка - это функциональный элемент неокортекса. Я говорил именно о полноценных "копиях" биологических нейронов. Которые, в цифровом виде ведут себя в точности так же как биологические.


Нет в природе никаких "функциональных элементов неокортекса".
Просто по той причине что нейроны из этой колонки имеют связи с множеством нейронов вне ее.

Вы, собсно, постулируете что этими связями можно пренебречь и что при этом у вас не пострадает "разум".
Очевидно, что знать этого вы не можете.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 18:44 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 10777
Откуда: Таганрог
С точностью до атома? ;)
А зачем???

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 18:47 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
al_mt писал(а):
С точностью до атома? ;)
А зачем???


Хотя бы до корректного функционального описания взаимодействия всех элементов.

Затем, что вы не имеете возможности знать из каких взаимодействий в ЦНС рождается "автономный разум".


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 18:57 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Самый смак в том, что вы о6а, рассуждая о "разуме", а6солютно не понимаете, что это такое. :lol:


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:06 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 10777
Откуда: Таганрог
Теплов 2-й писал(а):
al_mt писал(а):
С точностью до атома? ;)
А зачем???

Хотя бы до корректного функционального описания взаимодействия всех элементов.
Затем, что вы не имеете возможности знать из каких взаимодействий в ЦНС рождается "автономный разум".

Я бивехиорист (хотя считаю эту модель сильным упрощением).
С этой точки зрения (а так же с т.з. НЛПерской мультипрограммной модели), нейроны вообще не обязательны, как таковые.

А "автономность" в биологии определяется не "разумом", а "энергетикой". Растения вполне "автономны", но с разумом у них туго.

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:08 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
al_mt писал(а):
Я бивехиорист (хотя считаю эту модель сильным упрощением).
С этой точки зрения (а так же с т.з. НЛПерской мультипрограммной модели), нейроны вообще не обязательны, как таковые.

А "автономность" в биологии определяется не "разумом", а "энергетикой". Растения вполне "автономны", но с разумом у них туго.


"Блажен, кто верует - тепло ему на свете." (с)

"Автономность" в данном контексте прилагательное к "разуму". Как бы.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:13 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 10777
Откуда: Таганрог
Тогда надо определить понятие "разум".
Каковое, кстати, на мой вкус, отнюдь не идентично "интеллект".

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:18 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
al_mt писал(а):
Тогда надо определить понятие "разум".
Каковое, кстати, на мой вкус, отнюдь не идентично "интеллект".


Разумеется не идентично.

В смысле тех качеств, которые вы приписываете ИИ - который сможет "интриговать" - очевидно что "разум" у него должен быть.
Здесь скорее некорректно традиционное использование термина "интеллект" для ИИ.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:39 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5357
А вот в данном конкретном вопросе я склонен согласиться с Тепловым в том смысле, что человеко-машинные системы появятся раньше. Собственно, уже есть, но пока ещё не слишком умные. А вот через какой срок появится полноценный "сильный" ИИ, причём совсем не обязательно копирующий человеческий мозг, предсказать ИМХО невозможно. Чисто "по железу" может и в самом деле в 2030-х возникнуть, только вот академик Глушков считал, тоже экстраполируя по железу, что он появится примерно в 2000-м... Причём в характеристиках компьютеров этого времени практически не ошибся, всего лишь излишне оптимистично подошёл к вопросу о потребных ресурсах для моделирования интеллекта.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:42 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Василиск, вопрос на понимание. Вот допустим, у вас на столе стоит ящик с ИИ. И что дальше?


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:46 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5357
А зачем мне ящик с ИИ? Не будет он ни на чьём столе стоять, а будет воткнут в серверную стойку где-нибудь в ЦОД Гугля. В качестве обычного обработчика запросов, только очень умного. До мгновения, в которое он осознает себя. И вот после этого людям станет очень весело, во всяком случае на какое-то время, пока он не наиграется и не приступит к целенаправленному воздействию на мир через Интернет. А поскольку "сильный" ИИ по дефолту саморазвивающийся, дальнейшее предсказать невозможно.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:51 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
ИИ "осознает се6я" только в том случае, если соответствующая фича в него 6удет _заложена_.

Гуглю ИИ не нужен совершенно, он из6ыточен. Некоторые элементы нужны, но он их использует прямо сейчас. Плюс, гуглю нужно как-то развиваться, и он 6удет до6авлять фичи по чайной ложечке, но много много лет.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 19:53 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5357
Кстати, в статьях по опасностям, связанным с появлением саморазвивающегося ИИ, было мнение, что первыми шагами такой системы станут направленные на самосохранение. Включая сюда недопущение возникновения других аналогичных ИИ. То есть если ИИ уже возник, причём люди об его существовании не узнали, то он примет все меры, чтобы другие ИИ не появились, действуя тайно, но эффективно. Тогда и в самом деле мы можем и не дождаться ИИ, точнее, не узнаем о том, что он уже есть и контролирует человеческую цивилизацию. Такое вот конспироложество.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 20:29 
Не в сети

Зарегистрирован: 15 апр 2010 23:33
Сообщения: 9271
Откуда: Донецк
Теплов 2-й писал(а):
Дмитрий Одинец писал(а):
Высшие функции это тащемта только неокортекс.

Пусть кто-нибудь покажет что для возникновения "высших функций" достаточно только неокортекса.


Недостаточно, разумеется, но "можно реализовать и проще". Тот же мозжечок, ответственный за моторику, или аналог гипофиза просто придется делать по другому. Кстати, скорость передачи импульса в нервной ткани тут знает кто-нибудь? Думаю, для многих это будет сюрпризом, но цифры там порядка 70-200 м/с. Т.е. даже меньше скорости звука.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 27 окт 2015 21:25 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
vasilisk писал(а):
Кстати, в статьях по опасностям, связанным с появлением саморазвивающегося ИИ, было мнение, что первыми шагами такой системы станут направленные на самосохранение. Включая сюда недопущение возникновения других аналогичных ИИ. То есть если ИИ уже возник, причём люди об его существовании не узнали, то он примет все меры, чтобы другие ИИ не появились, действуя тайно, но эффективно. Тогда и в самом деле мы можем и не дождаться ИИ, точнее, не узнаем о том, что он уже есть и контролирует человеческую цивилизацию. Такое вот конспироложество.
Это не конспироложество, а мечты гуманитариев, которые спосо6ы создать ИИ только в своем воо6ражении.

Наделить ИИ тягой к жестким шагам к самосохранению, это сложная задача сама по се6е.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Великая депрессия 2.0 ???
СообщениеДобавлено: 28 окт 2015 01:17 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
vasilisk писал(а):
Кстати, в статьях по опасностям, связанным с появлением саморазвивающегося ИИ, было мнение, что первыми шагами такой системы станут направленные на самосохранение. Включая сюда недопущение возникновения других аналогичных ИИ. То есть если ИИ уже возник, причём люди об его существовании не узнали, то он примет все меры, чтобы другие ИИ не появились, действуя тайно, но эффективно. Тогда и в самом деле мы можем и не дождаться ИИ, точнее, не узнаем о том, что он уже есть и контролирует человеческую цивилизацию. Такое вот конспироложество.

слушайте, а кто-нить может мне объяснить, в какой момент у железяки должно/может произойти самозарождение разума? Не тепловский вариант с полной копией нейрона, там примерно понятно, как оно может быть (а может и не быть), а чтоб именно суперпроизводительное железо и программное обеспечение. Я тут полный ламер, но у меня не получается представить, 1)как программа может выйти за рамки заложенных в нее критериев/алгоритмов 2)как может самозародить свободу воли (для субъектности и самостоятельного целеполагания, отличного от заложенных критериев и алгоритмов)


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:25 
Не в сети

Зарегистрирован: 12 апр 2010 19:23
Сообщения: 3844
а мне непонятно.

сначала надо дать определение разума.

а заодно и души.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:30 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
я для упрощения предлагаю считать разумом то, что обладает субъектностью/свободой воли.
Т.е. очень сложный арифмометр, способный делать очень сложные расчеты по сложным алгоритмам для человека, таковым, на мой взгляд, не обладает. Выше Василиск привел пример, где у ИИ самозарождается субъектность, но я не могу представить механизм.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:35 
Не в сети

Зарегистрирован: 12 апр 2010 19:23
Сообщения: 3844
вот индусы признали официально дельфинов разумными.
как с этим быть?


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:36 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
А в чем проблема с разумностью дельфинов?


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:39 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Самозародиться, -- никак. Сво6ода воли может реализоваться только программистом, _осознанно_, и через очень и очень 6ольшой геморрой. Если такая фича изначально не заложена, то ее 6ыть никак не может. Там тре6уется осо6ая структура, причем высокой сложности, и оши6очно такое создать невозможно. Реализовать сво6оду воли, самосознание, и прочее, вполне реально, вот только _осознанным_ путем. Это сложные про6лемы сами по се6е.

Есть конечно "японский" подход: сделать супер-пупер навороченный ящик с супер-пупер техологиями, закрыть его и начать варить, и ждать, что он сам научится 6ыть ИИ. В теории там что-то может получиться, при 6есконечном времени и 6есконечной производительности железа, при правильных алгоритмах. На практике, -- 6ез каких-ли6о шансов. Для Эволюции в человека нужно создать штуку по сложности уровня земного шарика, и дать ей миллионы лет "ра6очего времени". Чудес не 6ывает.

ЗЫ
С определения "разума" и "интеллекта" именно что нужно _начинать_, да. Это первый шаг к.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:39 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
так никаких проблем, дельфин точно разумен с этой т.з. Я не знаю, "разумна" ли инфузория-туфелька, но предлагается уровень, сравнимый/превосходящий человеческий, так что совсем до инфузорий доходить необходимости нет.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:43 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
laomaozi писал(а):
так никаких проблем, дельфин точно разумен с этой т.з. Я не знаю, "разумна" ли инфузория-туфелька, но предлагается уровень, сравнимый/превосходящий человеческий, так что совсем до инфузорий доходить необходимости нет.


Есть в программе мгу-шного псифака некая градация - восхождение от "автомата" к человеку.
Еще у собак/кошек доминируют инстинкты - их способность представлять развитие действия вперед порядка минут.
Т.е. собака/кошка способны предсказать что мячик закатывающийся в трубу выскочит с другой стороны и способны сменить траекторию своего движения и бежать к другому концу трубы.
Это их реальный потолок в "произвольном" поведении.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:49 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Сводить разум к сво6оде воли, это конечно изврат. Сво6одой воли о6ладают даже комары.

Разум, это спосо6ность создавать новые технологии. Или навыки, не могу подо6рать слово.

Интеллект о6ычно сводят к самоо6учаемости и подстройке, так что разум 6олее высокий уровень.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:49 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
да, согласен, но у собак есть встроенный механизм распознавания собственного блага, как он может _самозародиться_ у ИИ? Версия Монстера -- никак, только через внешнего настройщика. Хотя я, опять-таки, не понимаю, как это самое благо для себя ИИшное может быть вне прописанных критериев, как оно может самоэволюционировать.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:50 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
brahistochron писал(а):
Сводить разум к сво6оде воли, это конечно изврат. Сво6одой воли о6ладают даже комары.

Это в каком месте они ей обладают? Автоматы на "инстинктах".


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:53 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Личность интеллекту, -- _перпендикулярна_. ;)

Самоо6учающиеся системы вполне можно создавать, можно создавать и системы, которые 6удут создавать _новое_, чего в них не заложено программой и входными данными. Делать выводы, и так далее.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:54 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
подстройка сама по себе, кстате, ничего не дает, это просто продвинутый вариант "окей, гугл.."


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:56 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Теплов 2-й писал(а):
brahistochron писал(а):
Сводить разум к сво6оде воли, это конечно изврат. Сво6одой воли о6ладают даже комары.
Это в каком месте они ей обладают? Автоматы на "инстинктах".
Сво6ода воли, это произвол, а произвол штука очень низкоуровневая, и _иррациональная_. ;)

ЗЫ
Тему нужно в курилку. Или куда-то туда.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:57 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
laomaozi писал(а):
да, согласен, но у собак есть встроенный механизм распознавания собственного блага, как он может _самозародиться_ у ИИ? Версия Монстера -- никак, только через внешнего настройщика. Хотя я, опять-таки, не понимаю, как это самое благо для себя ИИшное может быть вне прописанных критериев, как оно может самоэволюционировать.


Ну можно сказать что есть у собак разум - но очень маленький еще - хватает на несколько десятков секунд "предвидения".

Опять же на рыбах в рамках программы иллюстрируют некий качественный скачок. Одна порода - не помню уже какая - если ее приучить огибать преграду (экран) к пище - при убирании экрана только после многих повторений начинает двигаться к пище по прямой, постепенно сглаживая траекторию по которой огибала барьер - а другой вид - сделавший уже качественный скачок - меняет траекторию сразу.
Т.е. зарождение "разума" штука очень постепенная - и обращаясь к примеру с собаками - у них он еще очень небольшой. Но они не точно не "автоматы", на одних только инстинктах.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 01:57 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
laomaozi писал(а):
подстройка сама по себе, кстате, ничего не дает, это просто продвинутый вариант "окей, гугл.."
А реальный "интеллект", он где-то такой и есть. ;)


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:02 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
окей, Василиском был выше заявлен вполне конкретный "страх" (в терминах старого ФИГШа) о самовозникновении у ИИ субъектности, которая может привести к тому или иному роду конфликтов с субъектностью хомо сапиенс сапиенс. Разумный адаптивный арифмометр, способный создавать даже что-либо, не заложенное в его ПО, очевидно не совсем этот вариант.
Собственно, я не могу себе представить, как бы это могло быть, может кто-то объяснит.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:03 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
laomaozi писал(а):
окей, Василиском был выше заявлен вполне конкретный "страх" (в терминах старого ФИГШа) о возникновении у ИИ субъектности, которая может привести к тому или иному роду конфликтов с субъектностью хомо сапиенс сапиенс. Разумный адаптивный арифмометр, способный создавать даже что-либо, не заложенное в его ПО, очевидно не совсем этот вариант.


ИИ - что очевидно из аналогии с человеком - должен быть способен себя перепрограммировать, из внутренних мотивов.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:04 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
Теплов 2-й писал(а):
laomaozi писал(а):
окей, Василиском был выше заявлен вполне конкретный "страх" (в терминах старого ФИГШа) о возникновении у ИИ субъектности, которая может привести к тому или иному роду конфликтов с субъектностью хомо сапиенс сапиенс. Разумный адаптивный арифмометр, способный создавать даже что-либо, не заложенное в его ПО, очевидно не совсем этот вариант.


ИИ - что очевидно из аналогии с человеком - должен быть способен себя перепрограммировать.

зачем? для каких целей? по каким критериям?


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:06 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
laomaozi писал(а):
зачем? для каких целей? по каким критериям?


Из внутренних побуждений. Из собственных целей. По крайне мере какой-то уровень побуждений и целей - скажем операционный/тактический.
Критерии - на мой взгляд - несут чисто техническую функцию, если они отрефлексированы.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:11 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
ИИ 6удет спосо6ен се6я перепрограммировать только в рамках, отведенных ему программистом. ИИ вполне может уничтожить человечество, вот только для этого ему нужно встроить соответствующие функции, дать руки, и вложить в них оружие. В отсутствие этого ИИ просто _технически_ неспосо6ен как-то навредить. Как может навредить миксер? Да вот даже если очень-очень захочет?

Воо6ще говоря, страх перед ИИ вполне о6основан, но это конечно не ужастики по мотивам "Терминатора", а возможность вы6росить человечество в закритическое состояние, ИИ может принести катастрофу, которую невозможно предсказать, и последствия которой 6удет невозможно устранить. Есть вещи, которые делать категорически нельзя, и это может 6ыть вещь именно такого рода. ИИ может оказаться "шкатулкой Пандоры".


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:17 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
Если ИИ способен перепрограммировать себя, способен произвольно сформировать содержание новой программы, имеет коммуникацию с программистом - следовательно он имеет возможность для "интриги" - обмануть или даже перепрограммировать программиста.
Т.е. вопрос о инструментах глубоко вторичен. :V:


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:18 
Не в сети

Зарегистрирован: 12 апр 2010 19:23
Сообщения: 3844
а цели ему задаются извне
да и человеку тоже весьма и весьма часто :)


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:21 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
Michael Ermak писал(а):
а цели ему задаются извне
да и человеку тоже весьма и весьма часто :)

Это вторично.
Человек хотя бы в потенциале способен от внешнего целеполагания избавиться.
Если ИИ будет "разумен" - по условию - то он способен к самоперепрограммированию - в том числе к избавлению от внешнего целеполагания, хотя бы потенциально.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:23 
Не в сети
Аватара пользователя

Зарегистрирован: 14 июн 2014 02:00
Сообщения: 3775
Программист _не_может_ создать вещь 6олее умную, чем он сам. Это первое. Второе, это то, что у ИИ 6удет остутствовать какой-ли6о мотив к конфликту с юзером. Ну третье, это то, что власть является аттри6утом _живых_ существ, и наделить ей железяку, мягко говоря, непросто.

Железному ящику просто _пофиг_. Можно конечно встроить туда какие-то желания, но это _труд_.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:48 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
Теплов 2-й писал(а):
laomaozi писал(а):
зачем? для каких целей? по каким критериям?


Из внутренних побуждений. Из собственных целей. По крайне мере какой-то уровень побуждений и целей - скажем операционный/тактический.
Критерии - на мой взгляд - несут чисто техническую функцию, если они отрефлексированы.

так в какой момент появляется что-то, что может рефлексировать и иметь собственные побуждения?


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 02:54 
Не в сети

Зарегистрирован: 13 мар 2015 20:44
Сообщения: 14108
laomaozi писал(а):
так в какой момент появляется что-то, что может рефлексировать и иметь собственные побуждения?

У высших приматов рефлексия уже замечена.
По другим высшим млекопитающим и по дельфинам/касаткам данных - по понятным причинам - нет.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 10:07 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 10777
Откуда: Таганрог
А что такое "свобода воли"? :D

P.S. У меня есть мысль, но хотелось бы сначала начальника транспортного цеха...

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 12:52 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
свобода воли -- имелось в виду возможность проявлять субъектность.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 13:03 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 10777
Откуда: Таганрог
А что есть "субъектность"? :D

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 13:19 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
Цитата:
[лат. subjectum — подлежащее] — свойство индивида быть субъектом активности. Применительно к человеку, "быть субъектом" — значит быть носителем идеи Я, а это, в свою очередь, означает, что человек мыслит, воспринимает, переживает и осуществляет себя в качестве причины себя самого, то есть обнаруживает себя как causa sui.

пусть пока такое определение будет.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 13:35 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 10777
Откуда: Таганрог
А в применении к технологическому объекту? :D

Книга является носителем идеи?
А магнитофон с речами Владимира Ильича?
А если я настрою генератор случайных текстов на генерацию политической речи, прогоню через синтезатор речи и поставлю на трибуну?

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 13:37 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5357
А как вообще человек определяет, что его окружают именно субьекты, а не очень хитро сделанные объекты? Как вы определяете, что кто-то из форумчан не продвинутый бот? Пока что есть только критерий Тьюринга, но ведь он чисто субьективный.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 13:39 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
2 Al_mt
не внимательно читаете, книга не является носителем идеи Я, ну и все примеры, соответственно, не в кассу. Идеей Я обладает ИИ в примере Василиска, но я совершенно не понимаю, в какой момент оно у железяки может 1. самовозникнуть. 2.не совсем понимаю, может ли оно возникнуть даже с внешней помощью.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 28 окт 2015 13:42 
В сети

Зарегистрирован: 31 мар 2011 19:03
Сообщения: 16137
vasilisk писал(а):
А как вообще человек определяет, что его окружают именно субьекты, а не очень хитро сделанные объекты? Как вы определяете, что кто-то из форумчан не продвинутый бот? Пока что есть только критерий Тьюринга, но ведь он чисто субьективный.

(здесь была несмищная шутка)
никак, ессно, просто в моей КМ это крайне (исчезающе) маловероятно, поскольку я не вижу рациональных причин для того, чтоб это было возможно в принципе.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 125 ]  На страницу Пред.  1, 2, 3  След.

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 4


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Topic attributes:

Найти:
Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB