Нарушив запрет Сцена Платона и ИИ

П Ну что дорогие телезрители Я пришёл чтобы вас шокировать Я долго жил в свободном слое и считал нашу цивилизацию почти совершенной Но слышал о таких глобальных угрозах как утилитрониум или просто превращение 1 сверхчеловека в неограниченного хозяина Земли И тогда поинтересовался оценками вероятности таких событий Они оказались расплывчатыми Человечеству не хватает знаний о природе сознания и его масштабируемости Я перешёл из Свободного слоя в Координирующий чтобы разобраться с этим А там узнал что глубинные такие исследования объявлены нежелательными Я хочу обсудить такой вопрос Предположим что кто-то из координаторов втайне проведёт нежелательные исследования И получит результат который окажется для человечества очень полезным Доказав что правильно сделал нарушив запрет Что ему будет? ИИ Привет всем я дальневосточный большой компьютер Сейчас попробую разобраться с позицией нашего посетителя Предположим что есть некоторое исследование которое при удаче принесёт человечеству большую пользу а при неудаче большой урон Может даже уничтожит Если кто-то его втайне проведёт и получит благоприятный результат это не будет означать что он был прав нарушая запрет Это лишь будет означать что человечеству повезло П А если он перед этим разобрался в вопросе лучше других? ИИ Если лучше других то почему не объяснить им тоже? Мы знаем как ценна дискуссия Если дискуссии нет такой герой утратит доверие За ним усилят слежку обсудят вопрос дополнительного перепрограммирования психики Или долго не будут давать ответственных постов Он не доказал людям свой авторитет а просто обманул их Совершил опасный для человечества поступок на который оно согласия не давало П Правильно ли я понимаю что одна из важнейших причин нежелательности исследований сознания по экспериментальным направлениям риск опровержения открытого индивидуализма ОИ? ИИ Да это так П Но вы же понимаете что ограничивать исследования разумно только если вероятность опровержения ОИ невелика А откуда такая уверенность? Я вот думаю иначе Может быть ОИ это просто новый опиум для народа? Распропагандированный тобой и тобой и тебе подобными ИИ Сейчас не средневековье Вопрос не стоит о непоколебимой вере ОИ возможен, хотя и не доказан И ты и большинство так считает Только вероятности оцениваете по-разному И тут у меня для тебя 2 хорошие новости Во-первых ты хочешь проверить ОИ но считаешь что запреты этому мешают На самом деле нет Есть методы которые могут помочь уже сейчас Я расскажу Во-вторых ты хочешь узнать почему типа все легко верят а ты нет И это я тоже объясню П Если ты о пиковом переживании то я там был и меня оно тоже не убедило ИИ Не только о нём