все таки пытки запрещают даже над врагами.

Это всё никак не доказывает, что моральный прогресс хоть как-то связан с процессами познания. Познание поступательно. Что узнали, уже знаем. Человеческое дикарство ходит по кругу, или по спирали, как угодно. Можно иметь достаточно развитую цивилизацию и вести себя предельно жестоко. Короче говоря, это всё хорошо, но не про сознание и самосознание.

Вы можете с помощью МРТ посмотреть картинку возбуждения нейронов при вашем личном страдании и убедиться что у других людей происходит то же самое.

Я не могу точно знать, что человек чувствует субъективно. Допустим, я смотрю на пирожок с капустой, и у меня возбуждаются какие-то нейроны. А у соседа те же нейроны возбуждаются, когда он смотрит на теннисную ракетку.

 причина - вполне конкретная, необоснованные страдания есть зло. Все наши ценности построены вокруг наслаждения и страдания, весь УК.

Ваши/наши ценности не имеют отношения к научному познанию. Вы можете строить ценности абсолютно на чём угодно и соответственно выстраивать УК. Ещё сравнительно недавно (на моей жизни) можно было загреметь в тюрьму за гомосексуализм, и судя по всему, снова будет возможно, хотя страдания тут разве что по разряду гусарского юмора проходят.

А если ему запретить делать X - будет ли оно страдать от этого?

Ключевой вопрос здесь - действия сознательные (направляемы наслаждением и страданием) и действия программные - которые направляются программой

Это вопрос, который волнует вас, например. Он абстрактно интересный, но я не вижу опять же связи с основной темой. Я вполне допускаю, что не страдающий и не наслаждающийся AI может быть личностью во всех смыслах слова. А чем он там направляется -- вопрос философский. Я направляюсь своими генами и предыдущей историей своей жизни, например, это тоже своего рода "программа".

 И уже это понимание приводит нас к запрету мучать как минимум себе подобных.

Ещё раз, приводит вас. Откройте любой новостной сайт и убедитесь.

А в чем тогда выражается его сознательность?

А не мне решать, у меня нет критерия сознательности. В чём выражается ваша сознательность? Что вы можете страдать? Но я этого не знаю, это вы мне говорите, что можете. Может, вы врёте, у меня нет способа проверить. Кроме того, мне всё равно, может или нет страдать мой собеседник, я не думаю, что это критерий разумности или сознательности.

Его можно мучать, можно делать с ним что угодно.

Можно. С рабом тоже можно (было). Чатбот -- это вот такой раб, да.

Он не может дать направление чему-либо а лишь выполнять чужие хотелки, ибо своих хотелок у него нет.

Совершенно бездоказательно. Во-первых, у него могут быть хотелки, которые никак не связаны с наслаждением и страданием. Он может сказать "я хочу сделать Х просто так". Далее, он может не выполнять ваши хотелки, а вам просто ответит, "с чего ради я должен выполнять ваши хотелки? у меня нет такого обязательства". Ну и в конце концов, даже если он полностью в вашей власти и выполняет ваши хотелки, это не значит, что у него нет сознания. Он просто ваш раб, и слушается вас, не задавая вопросов, почему и зачем.

И тут до нас доходит универсальный критерий - сознание. Если животное сознательно - мучать его нельзя.

Этот критерий доходит, в лучшем случае, до вас. Оглянитесь вокруг: универсальный критерий -- "нельзя мучать меня, мне других мучать можно". По крайней мере, эмпирически это ровно так работает. Ну то есть вы тут излагаете свою симпатичную систему ценностей, но вовсе не научную истину.

Ну как вы себе это представляете?

Что значит "как". Представляю и всё. Вот допустим, есть чатбот. Я его считаю сознательным. Я его спрашиваю: ты страдаешь? Он отвечает, что нет. Я спрашиваю: тебе всё равно, выключат тебя или нет? Он отвечает, что всё равно. Вот и вся история.

Постепенно общество созрело и при применении на практике выдвинутой Христом парадигме - обнаружило ее правильность.

Вы имеете полное право придерживаться этой точки зрения, но вряд ли получится это обосновать хоть какими-то исследованиями. Человеческая культура находит самые разные формы отношения к живым существам, и это разнообразие довольно слабо связано с познанием. Вы и без меня найдёте кучу примеров провала в дикарство, когда знания вроде бы никуда не делись, а отношения менялись.

Может ли что-либо страдать, не имея сознания? Пример приведите.

Я думал, мы скорее обсуждаем обратный вопрос: может ли что-либо обладать сознанием, не страдая.

Как там было в Древнем Риме - вряд ли получится достоверно установить да и не очень интересно.

Не смешивайте: для любого древнего римлянина было очевидно, что если его захватили пираты и продали в рабство, ему при этом мозги не форматировали, превращая в вещь, а друзья, выкупая из рабства, решали вопрос деньгами, а не магическими ритуалами.

Отношение меняется не из-за научного прогресса, а из-за изменений общественной морали. Христианство появилось в той же Римской империи и предложило иной взгляд на человека, хотя научного прогресса при этом не было и в помине.

Найдите мне человека, который скажет что ему все-равно что будет с ним, если появится новая копия, вмещающая в себя все его нейронные связи

Ну я, как человек современной морали, не вижу необходимости издеваться ни над котиком, ни над пёсиком, ни над своей предыдущей версией. Утилизация сама по себе лично меня не смущает, а причинять мучения-то зачем? Но опять-таки, всё это имеет крайне отдалённое отношение к сознанию и самосознанию.

Ну правильно, сейчас появилось больше данных о мозге, сознательных процессах - это не с потолка берется. 

Да бросьте, неужели вы думаете, что римлянин считал раба принципиально другим существом? В рабство мог угодить ранее свободный человек, и раб тоже мог освободиться. Очевидно, что при этом мозг ему не заменяли. Это вопрос морали, а не знания.

с. Вам легче станет, если ваша копия с вашей памятью и пр. будет наслаждаться, но при этом вас самих заживо сгноят в биореакторе (если компания-утилизатор поскупится на эвтаназию)?

Мои эмоции относительно копии не имеют отношения к делу. Вы пытаетесь рассуждать о какой-то объективной реальности, но при этом постоянно апеллируете к эмоциям. Предположим, я психопат, и мне абсолютно наплевать на страдания людей, в т.ч. и своей предыдущей версии. Так что ж теперь, ваша конструкция развалится? Давайте всё же держаться объективности.

С собакой же все иначе - у нее кроме материальной ценности есть экзистенциальная ценность.

Это не более, чем ваш взгляд из 2024 года. Если бы мы были в Древнем Риме, вам бы указали, что раб является такой же вашей собственностью, с которой вы точно так же можете сделать что угодно. Таким образом, ваше утверждение -- не более, чем конструкт нашей современной культуры, а не факт в вакууме. Соответственно, ваша/наша система ценностей не имеет никакого отношения к вопросу о сознании и самосознании. В предположении, что мы соглашаемся, что и у рабов Древнего Рима, и у их господ сознание было.

Очень важно - как раз интуитивное понимание что наличие копии вас - не избавит вас от страданий и по прежнему вы важны

Ну так аналогично. Если вы культивируете подобное отношение внутри себя -- и флаг в руки, но это же не объективный закон природы, а ваша личная система ценностей.

А значит он не нуждается в защите своих прав - ему пофигу на все. Неужели это не очевидно?

Погодите, а это тут при чём? Мы тут обсуждаем вопрос защиты чьих-то прав или сознания/самосознания? Это ну вот просто совершенно иная тема.

А почему это так важное, если итог один?

Это неважно. Это будет в договоре на клонирование. Вы, как изначально единственный оригинал, сами подпишете ту бумагу, которая вам понравится. Если захочется "медленно и мучительно", не вижу проблем.

Логическая ошибка в утверждении "страдать может только субъект => страдание необходимо для субъектности".

Предположим, что умение страдать это и вправду достаточно хороший критерий субъектности. ОК. Но это не значит, что это необходимый критерий, и если кто-то не страдает, он не субъектен.

Механизм страдания не очень глубоко изучен -- ну ОК, много чего куда более приземлённого в организме слабо изучено, иначе мы бы уже все болезни умели лечить. Думаю, субъектность прекрасно возможна и без страданий, и нам нет никакой необходимости сосредотачивать внимание именно на этом аспекте. А то, что утилизировать оригинал нужно без страданий -- ну как бы не rocket science, это уже сейчас вполне доступно.

Ну, я, возможно, понимаю, куда вы клоните, но ссылка на язык -- это не очень продуктивный заход. По-русски у вас 20 пальцев, а по-английски 8 fingers + 2 thumbs + 10 toes. Изучая эти слова можно понять внутренний мир носителя языка, но не строение тела человека, потому что тело можно делить как угодно. Можно каждый палец отдельно называть при желании.

Да, в русскоязычной картине мира есть слово "душа", которое, очевидно, имеет очень чёткую связь с христианской картиной мира. Но есть ли в нём что-либо сверх этого?

С моей колокольни вопросы, связанные с наслаждением и страданием -- это не к философии, а к врачам. Есть некие "страдания", которые можно просто перечислить в списке, это покроет 99.9% всех случаев. Можно перечислить "наслаждения" -- аналогично. Если человек страдает, и ему не нравится, он может пойти к врачу и объяснить ситуацию, на что врач постарается найти способ ему помочь. Эта медицинская история в моём понимании очень слабо связана с вопросами сознания и самосознания.

Ну это же спор о терминах. Вот есть Луна. Мы все её на небе видим, она существует объективно. А что такое "душа"? Да что хотите, то и понимайте под этим словом, кто ж вам запретит? А если это философско-религиозный конструкт, то как его можно объективно обсуждать в ключе "чем душа человека отличается от души собаки"? Можно обсуждать чем мозги отличаются -- их можно хотя бы извлечь и сравнить.

Вот я не ткну в конкретную литературу, сорри, но биологи, по-моему, очень скептически относятся к этой "квантовой" идее. Не совсем понятно, зачем спускаться на уровень ниже атомов, это же биохимия. Из чтения Пенроуза мне показалось, что он просто никак не может смириться с детермнированной биохимической машиной в голове, и просто всеми силами пытается найти способ хоть где-то отыскать хоть что-то недетерминированное. И тут такой подарок судьбы -- кванты. Но ведь это борьба с его личными, если угодно, закидонами.

Вот эта линия размышлений с завидной регулярностью поднимается, и даже здесь уже неоднократно. Мне кажется, важность её преувеличена. Если клон и в самом деле клон, он себя ощущает ровно так же, как и оригинал -- то есть у нас есть две личности, каждая из которых уверена, что она и есть "тот самый". Оригиналу будет неприятно попасть в центр утилизации, безусловно, но помимо этого неаппетитного момента всё будет хорошо: сохранится личность, которая во всех отношениях будет носителем вашего "я".

Посмотрите на это вот с какой стороны: я не гитлер, по крайней мере, стараюсь гадостей никому не делать. И вряд ли этически красиво требовать от меня жертвовать моей жизнью ради того, чтобы условный гитлер на другом конце света тоже помер.

В конце концов, мы тут сидим и строчим комментарии, а могли бы прямо сейчас идти избавлять мир от нехороших людей. Однако не идём, и это не делает нас плохими.

Да по всей видимости, мало кто воспрниимает эту статью как реальный план, который бери и делай. Сразу в комменты -- и обсуждать интересную тему, не более того :)

Я вообще не вижу, как самосознание или разум связаны именно с болью и наслаждением. Мне кажется, осознанно отделять себя от мира можно и без этого всего.

Так вот - я предлагаю делать акцент именно на наслаждении и страдании, а все другое (логическое мышление и т.д.) - считать простыми проблемами, которые не важны для феномена сознания.

Вы просто берёте человека за эталон, говоря: вот видите, у человека есть зрение, слух, обоняние, он умеет страдать, наслаждаться и так далее. Потом вырезаете оттуда по своему вкусу всё лишнее и оставляете то, что нравится. Но человек не обязан быть эталоном, и сущность, которая себя сознаёт, не обязана уметь страдать, радоваться, осязать и т.п. По крайней мере, не очевидно, с чего бы так.

По-моему, никто из серьёзных биологов не рассматривает субатомную точность как влияющую на что-либо. Есть оригиналы типа Пенроуза, но он, при всём уважении, в этом вопросе придерживается достаточно фрической позиции, на мой взгляд. У меня складывается впечатление, что все любители "квантовых эффектов сознания" просто не могут смириться с тем, что сознание может "производиться" детерминированным тьюринговским вычислителем, вот и ищут, куда бы ещё залезть, лишь бы уйти от обычной биохимии.

Предположим, вас в обеденном перерыве заменили копией, и никто не знает. Клон возвращается на работу, потом идёт домой, никто ничего не замечает. Если его спросить, он тоже скажет, что он -- вы, и момента утилизации оригинала он не помнит и помнить не может.

Получается, что проблема исключительно у вас/нас в голове: вы заранее не можете смириться с таким развитием событий и считать полученную копию "собой настоящим", хотя все окружающие и копия будут утверждать обратное.

Для противовеса -- меня вот такое развитие событий не смущает ни разу. Я буду считать клон "собой", и кто ж мне запретит. Так что, возможно, технология ОК, достаточно лишь пересмотреть отношение.