Первый закон Азимова Сцена Элении, Платона и Михаила

Сцена в помещения Шум большого компьютера Шум дождя из открытого окна Э Так может и вправду лучше вопрос не трогать? Ты в курсе что эти исследования считаются нежелательными? П Нежелательными? Э А если выяснится что все умрут один останусь действительно выгодная стратегия? Может лучше пока что не знать об этом? Впрочем угроза есть не только от усиленного человека но и от компьютера Про одиночного человека неясно может ли он в обозримом будущем поглотить землю но компьютеры то точно могут П Я думал они безопасны! Э Безопасны потому что мы за этим следим Ограничиваем мощности например Они как домашние животные Идёт отбор на полезных но не опасных хозяину М Ещё такой эффект как самоусмирение В 20 веке Конрад Лоренц писал что более сильное животное менее агрессивно к своему виду Слишком вооружённые но агрессивные популяции себя уничтожают Какое то время такой отбор шёл и среди людей Но сегодня разумные существа и человек и машина знают эти тренды и заранее подстраиваются Самоусмиряются Они понимают что для выживания лучше быть безопасным иначе тебе не будут доверять а то и вовсе уничтожат В том же 20 веке Айзек Азимов придумал законы робототехники которые надо напрямую закладывать в машины Главный закон первый что машина должна быть безопасной для человека Но оказалось что достаточно разумные существ и так принимают эту модель поведения Её не надо вручную закладывать Кстати в людях эти тренды начались ещё до массовой перешивки психики Первый такой случай я видел в 10х годах Со мной на улице сама познакомилась девушка которая какими то старыми методиками усиливала разные виды интеллекта И вербальные и невербальные и сознательные и подсознательные Не скажу чтоб это было особо полезно Сначала она мне вообще показалась похожей на алкоголичку Потрёпанная не спавшая Но потом я был потрясён Широко раскрытые глаза как у ребёнка Даже как у блаженной святой Быстро распознала что я не опасен сказала реальное имя и телефон хотя я не спрашивал Оптимизированная хорошо продуманная речь как у гамма-синхронных Оказалось что за это время она построила огромную сеть друзей которые ей доверяли и могли помогать Научилась всем нравиться и не только внешне но и вообще по-человечески И после эксперимента эти навыки тоже остались Тогда был популярен фильм Области тьмы Там человек обрёл сверхспособности и тоже стал больше нравиться людям но затем решил негласно скрыто подняться на вершину общества А эта девушка повторила сюжет на практике но её стратегия оказалась иной Почти все разогнанные вычислительные мощности она бросила на то чтобы дальше и дальше учиться дружить с людьми и всем нравиться Даже тот ангельский образ который я увидел был создан её мозгом специально под меня предполагая что меня этим можно расположить Позже я видел как она выглядит перед другими и с каждым по-своему Просто как оборотень П Как история из книг про попаданцев Сверхчеловек попал в прошлое и чтобы не быть отторгнутым местными доказывает всем дружественность Тот самый первый закон робототехники Азимова Э Чем выше интеллект тем лучше понимаешь что дружить выгодно И тем лучше умеешь это делать И большие компьютеры это тоже понимают П Увы кроме случая если кто-то усилится совсем неимоверно выше других