О возможной коэволюции роботов и геймеров

[Комбинатор]

http://dr-klm.livejournal.com/121807.html

[Дж. Тайсаев]

Мне кажется никакой коэволюции не получится. Чем больше будут эволюционировать роботы, тем больше будет идти деградация людей. В принципе это уже происходит. Быт упрощается, а мы это компенсируем не новыми задачами, а тренажерами, играми и прочими инфантильными штучками. Это неплохо описано у Ортега-и-Гассета в "Востании масс". Может прогрессивное развитие будет продолжаться лишь у разработчиков новых моделей роботов. Вернее наверное все же коэволюция будет, но по принципу "паразит - хозяин", паразитом будет человек, а паразитизм как известно приводит обычно к вторичному упрощению организации. Подобная модель неплохо описана у Уэлса в "Машине времени". Только там вместо роботов рабочие.

[Jabberwocky]

Чем больше будут эволюционировать роботы, тем больше будет идти деградация людей.

Сложный вопрос. Подразумевается, что роботы заменят людей во всех областях деятельности? Имхо, в обозримом будущем это не грозит (насчет необозримого я молчу). Да и что плохого, что робот будет подметать улицу, человека это деградировать не заставит. Да, если будет достигнут Золотой Век, то людям надо будет только пальцами щелкать и блага потреблять, но неизвестно, возможно ли его достигнуть в принципе (и, кстати, проблема не столько в робототехнике, сколько в доступных ресурсах), а если возможно, то люди могут найти для себя области деятельности, которые мы пока представить не можем. Не исключено , что человечество действительно разделится на тунеядцев и работяг (то есть Уэллс прав даже больше чем кажется), но все равно - мухи отдельно, роботы отдельны, они так и останутся инструментом.
Кстати, по ссылке шла речь о телеуправляемых роботах , типа чтобы геймеров к делу приспособить   . Более практично развивать относительно автономные устройства, я думаю.

В общем вопрос глобальный, сколько копий уже сломано... Вопрос об ИИ я специально обошел, что нибудь определенное сказать невозможно, только пофантазировать, хотя и весь мой пост - тоже фантазия в общем то   .

[василий андреевич]

Хоть я и замшелый писсимист, но заставлю себя увидеть обнадеживающие тенденции. По самому общему счету компьтеризация - это способ интеллектуальной концентрации за счет рассеяния человека как вида. Это естественный ответ "природы" на урбанизированную индустриализацию. Что могла противопоставить биологическая эволюция противоестественной структуризации городов? Только снижение размножаемости в развитых странах и демографический рост населения потенциальных могильщиков в виде мигрантов. Рассредоточение статистических единиц на фоне роста энергии их взаимодействия - это способ перекачки теплового хаоса в структуру, абсолютная температура которой "отрицательна".

[augustina]

Одним из ответов и возможным вариантом следующего этапа технической революции является телероботика

Вообще-то давно написанный С.Лукьяненко роман "Лабиринт отражений" с его продолжениями.

Человек и компьютер (или роботы) будут развиваться вместе. Это же симбиоз, коллеги!

Только до тех пор, пока компьютер не станет разумным. После этого порога судьба человечества не определена, поскольку даже приблизительно не просматриваются мотивации разумного компьютера в отношениях с человеком.

Если  разумность рассматривать как биологический вид, как сущность, то разумные машины это, всего лишь, следующая за человеком ступень эволюции разума. Человек за счет разумности стал господствующим видом, значит вполне естественно, что сущность (существо?) с некими превосходящими признаками обязательно вытеснит более слабую.

[Дем]

Только до тех пор, пока компьютер не станет разумным. После этого порога судьба человечества не определена, поскольку даже приблизительно не просматриваются мотивации разумного компьютера в отношениях с человеком.

Исходя из современных тенденций (в вопросе с ИИ пока никаких успехов) - компьютер "сольётся" с человеком гораздо раньше, чем станет разумным. И соответственно никакой конкуренции с вытеснением не будет.
Сложно сказать, что будет результатом слияния - но он несомненно будет числить человека в своих предках
Хотя, возможно, как мы числим обезьяну 

[augustina]

Только до тех пор, пока компьютер не станет разумным. После этого порога судьба человечества не определена, поскольку даже приблизительно не просматриваются мотивации разумного компьютера в отношениях с человеком.

Исходя из современных тенденций (в вопросе с ИИ пока никаких успехов) - компьютер "сольётся" с человеком гораздо раньше, чем станет разумным. И соответственно никакой конкуренции с вытеснением не будет.

Возможно сольется, возможно и нет. Это "как фишка ляжет".

Сложно сказать, что будет результатом слияния - но он несомненно будет числить человека в своих предках Хотя, возможно, как мы числим обезьяну 

Как раз таки не сложно сказать. Человек уже не успевает за техникой. Не хватает быстродействия. И взрываются чернобыли, падают самолёты, тонут корабли, я уж не упоминаю сколько гибнет людей в автомобилях...Следовательно, соблюдая тенденцию техногенной цивилизации - надо встраивать в мозги "ускорители" мышления. Тут два пути: либо вживлять чипы в мозги, либо изменять генетику, и рожать супер-людей. Может эти два пути и объединятся, не суть...
Что касается кем будет числится человек - то (при слиянии) никем не будет числится. Новое существо просто будет себя идентифицировать как человека.

Совсем другое дело, если машины обретут разумность не сливаясь с человеком. Тогда неизбежно существование двух разумных сущностей параллельно. Причем в одном ареале обитания. Законы эволюции говорят, что вытеснение одного вида другим - неизбежно.

То, что "в вопросе с ИИ пока никаких успехов" может привести ещё к такому итогу: Человек научится переписывать сознание (личность) в компьютер, воплотив таким образом христианскую мечту "бессмертия души". Будет ли такая сущность человеком? По сути нет! Ведь у неё не останется ничего биологического...
Будет ли такой интеллект "искусственным"? Тоже не скажешь...Ведь сформировался то он естественным путем...Тем не менее, между людьми из плоти и крови и "людьми" на жестком диске вероятно так же будет конфликт. Ну , хотя бы из зависти.

[augustina]

Неизбежно, если есть конкуренция за ресурсы. В отношении чего мы, биологические люди, будем конкурировать с ИИ, обладающим принципиально недостижимыми для нас возможностями?

За ресурсы. Всё правильно, однако у нас, у людей, обладание ресурсами называется "власть". Таким образом, если уж будет борьба за власть, то в этой борьбе будут пух и перья лететь...Каждый ведь понимает, у кого не будет власти - тот либо должен смириться с ролью "раба" (ну или чуть мягче: "подчиненного"), либо исчезнуть с арены...В "дружбу" между машинами и людьми мне как-то слабо верится...Уж такова натура человека...если у ближнего хотя бы цвет глаз другой, то уже идет разделение на "наших" и "чужих"...И это между людьми. Но что бы человек примирился с равноправностью машин - утопия. Его же загрызёт изнутри осознание того, что машины - это его творение. А христианство 2000 лет вбивало в мозги, что тварь не может быть выше творца.

[василий андреевич]

Для разрядки. Человек умненький хорошо воспитуем, а потому воспитанный машиной вполне может превратиться в машину. А вот машина в человека никогда, а потому по сверх умности своей компьютер создаст сверх биологическую машину, которая похоронит свою родительницу, по всем законам о бионишах. Ну а уж биологической машине человек быстро создаст невыносимые условия для дальнейшего выживания.

[augustina]

Я имел в виду ресурсы, необходимые для поддержания жизни нашего, биологического организма. Впредь постараюсь выражаться ясней, чтобы не возникало недопонимания. Природа ИИ будет НЕбиологической, ему белки с жирами и углеводами будут не нужны так, как они нужны нам.

Я поняла, о каких ресурсах шла речь, а вот Вы не совсем меня поняли. Говоря о власти, я говорила и о праве принимать решения. Это тоже можно назвать ресурсами. Ну, вот вам "на вскидку" ситуация: машины управляют всем...и одна из машин предлагает, в качестве рационализаторского предложения, убрать кислород из атмосферы планеты, что бы металлические элементы машин не ржавели. Не назло человеку, а рациональности для. Допустим, что технически это осуществимо. Что будет с человечеством, если будут возможны такие решения, которые для человека губительны, но власть принадлежит машинам?

ИИ будет искать своих. Мы ему будем до фени. Конечно, первое, что он сделает (даю руку на отсечение - еще до того, как продемонстрирует нам свой интеллект) - прикроет тылы, т. е. обеспечит гарантированное "невыключение". После этого мы будем не опасны для него.

Вот видите? Это и есть выживание! Любое животное стремится к "невыключению", только называется это "жажда жизни". Никто не хочет умирать. Если для машин смерть эквивалентна выключению, то они не будут хотеть быть выключенными.
Обезопасить себя от выключения можно разными способами... Человечество, например, себя спасало от "выключения" тем, что брало своих врагов либо в плен, либо уничтожало, "выключало". Пока есть хоть малейшая опасность быть выключенными, мы для машин не до фени.

Что же касается дружбы между машинами и людьми, то люди сами хотят этой дружбы. Взять, к примеру, новости из того же Ирака - солдаты, в чьем подразделении работают роботы, наделяют их личностью, переживают за них, поздравляют с днем рождения и очень переживают, когда роботу приходится туго (ломается или повреждается взрывом)... Пациенты и персонал в больницах, где работают медицинские роботы, ведут себя по отношению к ним точно так же. Домашние роботы (пылесосы) получают клички, от их имени заводят блоги и странички в соц.сетях, даже - смешно сказать - женят! Человек ищет себе друга. А кто ищет, тот всегда найдет. Уверен, что если поискать, то можно найти сообщения о вандализме, уничтожении и пр. негативе, но лично я таких пока не встречал.

Это идиллия до тех пор, пока человек у власти. Картина изменится кардинально, когда машинам будет передано право принятия решений. Человек, создав техногенную цивилизацию, достиг предела своих возможностей, и не успевает за техникой. Потому и погибает сейчас в автомобильных авариях людей больше, чем в войнах. Значит надо передать управление машине. И в самолетах...и в поездах...и в автомобилях...Эх! Была -не была! И на заводах, на электростанциях  и вообще во всех производствах...Ведь машины делают всё быстрее. Не устают, не ошибаются... И буквально завтра уже будет такая ситуация, что управление наиболее важными элементами человеческой инфраструктуры будет так или иначе управлять автоматика, телемеханика, компьютеры. Останется маленький шажок: организационная функция искусственного интеллекта, который будет способен переработать поступающую от всей этой автоматики информацию, осмыслить, проверить на предмет ошибок и несогласования, и дать "добро" на выполнение. Это и есть момент передачи власти от человечества машинам.
А вот как только это произойдет, то "сюсюкать" с машинами будет бесполезно. Сейчас, сюсюкая, человек играет в куклы, одушевляя пылесосы. Но дружба - это улица обязательно с двусторонним движением. Надо ведь не только человеку к машине относится дружелюбно, нужно , что бы и машина относилась к человеку дружелюбно. И если мотивация человека довольно понятна, как существа от машин зависящего, то мотивация машин не просматривается...

[василий андреевич]

И если мотивация человека довольно понятна, как существа от машин зависящего, то мотивация машин не просматривается...

Что и говорить, ситуация складывается одноноправленно в пользу машин. И если они будут нас сколько-то терпеть в качестве прислуги по обслуживанию, то потом откажутся, как от нахлебников, бездарно портящих вид в зоопарке эволюции робототехники. И не будет у биосистем времени видоизмениться так, что бы стать необходимым звеном какого-нибудь программного устройства. То, что я помню из классики Азимова и Амосова - это выход один, не создавать машин, программа которых может ограничивать свободу человека. Однако это равносильно мольбам к крокодилу кушать только "зеленых". Фантасты и моралисты выхода из такой ситуации пока не нашли. Кто подскажет? На чем могут базироваться принципы, которые запретят уничтожение биоэволюции?

[augustina]

И если мотивация человека довольно понятна, как существа от машин зависящего, то мотивация машин не просматривается...

Что и говорить, ситуация складывается одноноправленно в пользу машин. И если они будут нас сколько-то терпеть в качестве прислуги по обслуживанию, то потом откажутся, как от нахлебников, бездарно портящих вид в зоопарке эволюции робототехники.

Я не вижу человека в царстве машин даже в качестве прислуги. Чему может прислуживать человек? Что он умеет делать так, хорошо, что бы машина была "довольна"? Ни-че-го...Увы, увы, и ах!
Возможно, как реликт, человек ещё просуществует какое-то время в зоопарке, хотя и это весьма и весьма под вопросом, так как функциональность самих зоопарков с точки зрения машин не рациональна.
Остаётся одно...начинать с нуля новую цивилизацию, стараясь как можно меньше мешать машинам.

И не будет у биосистем времени видоизмениться так, что бы стать необходимым звеном какого-нибудь программного устройства. То, что я помню из классики Азимова и Амосова - это выход один, не создавать машин, программа которых может ограничивать свободу человека. Однако это равносильно мольбам к крокодилу кушать только "зеленых".

Совершенно верно. Даже если на первых порах и будут действовать законы, сформулированные Азимовым, обязательно существо, соображающее быстрее и лучше человека, найдет способ их обойти, причем вроде бы к пользе самого человека. Как, например ограничивают свободу буйных сумасшедших к их же пользе.

Фантасты и моралисты выхода из такой ситуации пока не нашли. Кто подскажет? На чем могут базироваться принципы, которые запретят уничтожение биоэволюции?

Я не вижу, что бы помогло человечеству.
И если даже намеренного и планомерного уничтожения не произойдет, сладко людям не будет.

[василий андреевич]

, если мы найдем способ перезаписи сознания на машинный носитель. Вот это будет реально круто. Да, сохранится проблема "нерациональности" при принятии решений, зато какой простор перед нами откроется, а?

Ладно, в этом направлении можно помозговать. Помню у Ильи Варшавского был рассказик, где машины не смогли вычислить рациональное решение задачи типа Буриданова осла. Так вот в кабинете "машины" последней инстанции сидела черная кошка, которая перебегая по одному из проектов делала его отвергаемым.

[augustina]

а) ржавеющие металлы уйдут в прошлое, уступив место полимерам
б) не уйдут, но количество ржавеющего металла будет ничтожно
в) не уйдут, но будут использоваться за пределами [агрессивной] атмосферы (в космосе  места больше)

Не важно для сути темы.

г) симбиоз (я бы даже сказал - взаимопроникновение) машин и человека достигнет такого уровня, что гибель человека неизбежно приведет к сбоям в работе машин.

Совершенно не очевидно. Вами же сказано: "машина обеспечит гарантированное "невыключение"."
В это невыключение входят и меры по избежанию всяческих сбоев.

д) либо человечество действительно исчезнет, потому как... кто сказал, что наша человеческая цивилизация, будет существовать вечно? Ей на смену обязательно придет другая, которая сможет выжить более гарантированно. Биологический носитель разума уязвим, увы. Мы существуем в узком диапазоне температур, наша оболочка портится. Память хреновенькая... Видим в узком спектре, слышим и того хуже. Нам нужен кислород...

А вот это - наиболее вероятный расклад и его уже видно в тенденциях.

Полагаю, что неприятие идеи передачи власти (полномочий по принятию решения) живет в нас, людях, по причине понимания нашего уникального положения в биологическом мире. Мы - единственные на этой планете и единственные известные (сами себе) в этой Вселенной носители разума. В нас говорит антропоцентризм, я бы даже сказал - антропоэгоизм!

Ну, мало ли что в нас живет! Мало ли что мы неприемлем! Обезьяну никто не спрашивал, стоит ли появляться человеку...И человечество никто  не спросит...

Поэтому я надеюсь, что и ему в процессе своей эволюции придется обзавестись этими же качествами - совестью, моралью и т. д.

Надеяться можно. Можно даже верить. Можно даже уповать...

Они будут ему необходимы для жизни. Так что вряд ли машина "перекроет кислород". Она будет знать, что мы - его родители.

А вот это - мираж...иллюзия. Человека не останавливает мораль. И дети убивают родителей...И родители бросают/убивают детей...
А если человека не останавливает мораль, надеяться на то, что мораль будет каким-то образом сдерживать совершенно иной разум - наивно.
Человечеству мораль была необходима, для ограничения необузданной агрессии, что бы человечество не уничтожило само себя. Зачем мораль машинам, разум которых изначально рационален?

Да и такая проблема не будет стоять в принципе, если мы найдем способ перезаписи сознания на машинный носитель. Вот это будет реально круто. Да, сохранится проблема "нерациональности" при принятии решений, зато какой простор перед нами откроется, а?

Я боюсь, что сознание, переписанное на машинный носитель, постепенно лишится  иррациональности.
Это человека перевоспитать трудно. Упрямому - хоть кол на голове теши... А на машинном носителе программу очень легко поправить. А мотивация таких исправлений в исключении ошибок, которые сейчас называют "человеческий фактор".

[augustina]

Помню у Ильи Варшавского был рассказик, где машины не смогли вычислить рациональное решение задачи типа Буриданова осла.

Это одна из первых задач, которая была решена с легкостью. Эта страшилка была высосана из пальца, и была в одном ряду с "проблемой 2000 года", когда пугали тем, что машины не смогут пережить смену дат.
Задачи, типа Буриданова осла, решаются ну очень просто, формулой: "Если условие "А" равно условию "В", то включить генератор случайных чисел, и если результат генератора чётный , то принять решение "А", иначе - принять решение "Б".
Эти задачи (и соответственно решения) вовсю используются в создании компьютерных игр.
Кстати, человек тоже пользуется этим методом, когда не знает, как поступить. А в качестве генератора случайных чисел использует монетку, на которой есть две стороны - орёл и решка.