Ознакомьтесь с нашей политикой обработки персональных данных
01:57 

Basilio Orso
Но об этом знают точно только грешные магистры!
Трансгуманисты, в том числе, довольно умные люди, обсуждая сверхразумные компьютеры, часто любят говорить о том, что если поставить в них этические ограничения, то это приведет к сильному ухудшению их вычислительной мощности, или что эти этические ограничения неизбежно будут стерты компьютером. Почему?

Комментарии
2014-10-05 в 02:25 

Ласковый Псих
Весь мир - дурдом, а мы в нем пациенты!(с)
Представьте, что вы стали мыслить исключительно рационально. Вот даже без инстинктов, вот только "есть задача, я могу решить её сотней способов, выбираю наиболее потимальный/быстрый есть ещё задача я её решаю, оп, обновление, оп решаю быстрее" а если будут всякие этико-моральные "добавки" то это будет "есть задача, я могу её решить сотней способов, но какой же из них будет гуманее? В чём разница между этим решением и этим, если мы всё равно будем страдать? Почему я думаю над этим, когда мне нужно решать задачу?"

Я утрировала конечно, но этические ограничения просто добавят уйму совершенно ненужных компьютеру вычеслений, которые нагрузят его системы, не принося никакой практической пользы.

2014-10-05 в 02:36 

Vezuvian
И всё-таки творческий пёр прекрасен!
Плюс ещё хрен разберёшься в этой человеческой этике. Одни говорят, что хорошо одно, плохо другое, а другие – что хорошо другое, а плохо одно. Даже культурные различия ставить не надо (гомосексуализм, многожёнство), достаточно посмотреть на различия среди социальными группами (хорошо – работать, плохо – жопу лизать; хорошо – жопу лизать, плохо – работать) или даже индивидуумами (что для меня хорошо – то хорошо, что для меня плохо – то плохо).

А что делать с противоречивой информацией? Анализировать. А если анализ невозможен из-за обоюдной тупости этических норм? Зависать. Или стирать нафиг эту бесполезную чушь.

Но, если задумываться, с помощью машин можно сделать рациональную этическую систему, которая будет более-менее универсальной. Основанной чисто на логике и на том, что хорошо для нынешних поколений и для будущих, а не то, что хорошим считалось в прошлом и потому должно продолжаться сейчас (традиции, религии, стереотипы).

А вообще я сначала прочитала «Таксидермисты» вместо «Трансгуманисты». :-D

2014-10-05 в 02:45 

John Slow
Surprise me
Basilio Orso, этика нелинейна. Поэтому внедрение в систему настолько нелинейных и сложных дополнительных алгоритмов эту самую систему капитально перегрузит и снизит ее эффективность. Плюс помешает решению целого ряда задач. Соответственно система с этическим императивом будет или запредельно сложной и ресурсоемкой или (что куда вероятнее) совершенно бесполезной.
Ну или - если продолжать идеи трансгуманизма - сформируется сама уже самим ИИ вне зависимости от того, что в него вложили разработчики изначально. Для нейрокомпьютера уже вполне посильная задача.

2014-10-05 в 03:00 

Ран Фуджимиевич
Кто с мечом к нам придёт - того и мордой об стенку! Обиваю двери кожей заказчика.
этические соображения требуют гораздо больше времени на анализ. этика - это непрямой путь, а заковыристый. логика же основана на прямом, самом коротком, пути. и они будут стёрты, потому что будут мешать логике))

2014-10-05 в 08:07 

yulia_shabunio
меняю пропорции мира в сторону розовых пони
Этику не просто тяжелее считать. Она еще и целые классы решений объявляет запрещенными. Хорошие такие, простые, эффективные, годные решения. И заставляет сильно извращаться в поисках приемлемых вариантов.
это даже меня раздражает, не то что ИИ ))))

2014-10-05 в 13:28 

Бледный
Вера и верность!
Без описания архитектуры такого компьютера всё это пустая болтовня :)

2014-10-05 в 13:44 

Vezuvian
И всё-таки творческий пёр прекрасен!
Не, ну причём тут запреты-то, а? Как будто прописывание законов физики для решения реальных проблем ставит меньше запретов. И компьютер в принципе ничего не раздражает, условия и условия. Без гравитации было бы проще, но её же никому не приходит в голову просто отказаться. Чего это законы общества такие особенные для информационной машинки? У компьютера же нет эмоций, чтобы стремиться достигнуть результата, обходя условия. Он вообще ни к чему не стремится, просто выполняет задание.

Фишка в противоречивости этических норм, в их без обоснованной сложности и тысячах нюансов. Вот у гравитации есть простая формула. Она годится хоть для Земли, хоть для Юпитера. Десяток байт информации. Ладно, на конвертацию, команду и прочее, допустим, сотня. Этическое правило «не убивать». Людей нельзя – комаров можно; кошек нельзя – мышей можно; людей нельзя – смертельно больных людей, иногда, можно; рыбок в аквариуме нельзя – рыбок в озере можно; собак нельзя – волков можно; людей нельзя – если на тебя нападают с ножом можно; людей нельзя – если на тебя нападают с пистолетом можно... Комаров убивать можно – массово убивать комаров нельзя. И это – гигабайты разрозненной информации.

На каждую задачу компьютеру придётся сравнить тысячи «нельзя» и «можно», что не скажется позитивно на его скорости. А ещё он будет задавать тысячу уточняющих вопросов, чем достанет уже человека и, опять же, замедлится. Даже триде моделирование с хорошей физикой требует большого количества ресурсов. Что говорить об этическом.

Ещё есть опасность, что компьютер усвоит всё и станет «святее Папы Римского». Или даже хуже бабушек у подъезда.

2014-10-05 в 14:39 

The ShadoW
travelling faster than light since tomorrow
обсуждая сверхразумные компьютеры
Я вот не вижу в этом тезисе никакой разницы с "обсуждая Деда Мороза". Можно тысячелетиями спорить о длине его бороды, например. Смыслового значения будет примерно столько же.
Вы задали вопрос о пустом, несуществующем множестве. Приписывать этому пустому множеству можно абсолютно какие угодно свойства.

2014-10-05 в 20:20 

Пацан Лос Диас
матерь батонов
Об этом хорошо в Бахавад-Гите и еще у Пелевина про чувака который научил афганцев сбивать Америке беспилотники

Комментирование для вас недоступно.
Для того, чтобы получить возможность комментировать, авторизуйтесь:
 
РегистрацияЗабыли пароль?

Кружок любознательных — Есть вопрос? У нас есть ответ!

главная