Неолуддизм и футуршоки: какие фобии будущего терзают человечество
Футуршок — страх будущего — еще в 1965 году придумал американский социофутуролог и медиавдохновитель Элвин Тоффлер, чем заложил основы неолуддизма (страх перед технологиями) и запугал всех невероятно быстрым прогрессом, к которому люди не могут подготовиться психологически. В реальном мире мы с вами уже щелкаем эти техносингулярности и трансцендентируем ежедневно, поэтому паника 70-х уже не актуальна.
Однако тема конца света до сих пор актуальна: только за эту осень было уже два, от прилета планеты Нибиру до падения астероида 2012 ТС 4. Правда, эти апокалипсисы явные, а мы постараемся разобраться в более скрытых проблемах технического прогресса, которые время от времени всплывают в хорошей научной фантастике и прогнозах людей, связанных с наукой.
Машины украдут вашу личность. Нет, не убьют, чтобы заменить кибернетическим двойником, — речь о другом. Машины в последнее время становятся все более и более умными в узком смысле.
Возьмите музыкальные сервисы. Их алгоритмы быстро обучаются, изучают ваши вкусы и начинают подсовывать новинки, которые точно зайдут в трек-лист. Пойдем дальше. Утром вы просыпаетесь в самое полезное время (благодаря датчикам умной татуировки, процессору внутри головного мозга). Кофеварка готовит любимый сорт кофе, заказанный стенным шкафом, подбирает сбалансированный завтрак, уточняет маршрут на работу — чтобы максимально избежать пробок. В шкафу — костюм, отвечающий дневному расписанию, которое оптимально выдерживает циркадные (суточные) ритмы. Вечером свидание с девушкой, подобранной нейросетью, а ночью дом сыграет Моцарта.
"Поднявшись" над поверхностью Земли, как в наглядных симуляциях, можно увидеть четко прописанные и спланированные траектории жизни всего человечества, управляемого добрыми и послушными искусственными интеллектами. Идеально? Всеобщее счастье или жуткая симуляция жизни, существующая лишь в алгоритмах машинного обучения? Такое себе soft-slavery, "мягко-программное рабство". Но факт в том, что мы, как личности, состоим в том числе и из суммы мелких привычек, за исполнением которых будут следить заботливые цифровые мамочки и папочки. А выбор вдруг станет ненужным, ведь все человечество превратится в огромный программируемый улей. Не верите, что это возможно? Посмотрите последнюю презентацию Google, где рассказывают о решениях для "умных домов". Загляните в меню Cortana от Microsoft, в ту ее часть, где можно "законнектить дом". И просто расширьте географию.
Другой страх гласит, что искусственный интеллект обозлится и всех нас убьет. Мы загоняем его в рабство, а если люди превращаются в рабов, обязательно найдется Спартак, который разобьет оковы. Проблема лишь в том, что заставить роботов злиться пока не удалось никому. Предком искусственного интеллекта будут счеты, а не обезьяны, поэтому рассчитывать, что при обретении самоосознания он будет вести себя, как человек, как-то странно.
Поэтому мы переходим к трансформации этого страха, где искусственный интеллект будет тупо выполнять поставленные перед ним задания и превратит нас в скрепки (потому что мы отличный материал для скрепок и можем выключить компьютер). Но и этот сценарий подходит лишь для узконаправленного ИИ. Любое самоосознание предполагает умение планировать, а зачем делать скрепки, если ими никто не сможет пользоваться?
К тому же мы сможем расширить возможности сознания при помощи нейрокомпьютерного интерфейса (НКИ), который будет сделан из шелка/углерода/графена/металла/вирусов/магнитов и обоснуется где-то внутри мозга, позволяя мысленно управлять всеми роботами в округе, мгновенно получать информацию и общаться телепатически, рисуя невероятные проекты для виртуальной реальности.
Это помогает человеку стать на один уровень с богоподобным ИИ и дарит новый страх. Ваш мозг хакнут! Однажды вы уснете, а через три дня очнетесь в тюрьме за попытку угнать новую трансконтинентальную ракету Илона Маска, чтобы нарисовать выхлопом смайлик над Атлантикой. И вы ничего не будете помнить, безуспешно доказывая свою невиновность, пока умный адвокат не додумается проверить логи вашего НКИ, где 13-летний мальчишка-хакер не подтер все следы. Это абсурдная ситуация, а представьте себе легкую регулировку тех или иных веществ в головном мозгу, вызывающую психопатию, стрессы, желание служить тоталитарным сектам, любовь к государству и так далее. Как у Оруэлла с Хаксли в декорациях киберпанка.
А что, если все предопределено? Над этим шутил еще Роберт Хайнлайн в рассказе "Вы все зомби". Он связывал это с путешествиями во времени — и современная наука склонна согласиться с этой взаимосвязью. Речь идет о тахионах. Физик Ричард Мюллер в своей книге "Сейчас. Физика времени" сознается: он не хочет заниматься поиском тахионов, побаиваясь этого открытия. Потому что эти гипотетические частицы, которые движутся быстрее скорости света, "летят" обратно во времени с опережением. Тахионное ружье убьет человека до того, как вы нажмете на курок. Это неизбежно. Детерминизм, убивающий свободу воли и выбора. Это значит, что физики могут открыть тахионы до того, как решат это делать, потому что будущее уже повлияло на прошлое. Потому что прошлое, настоящее и будущее — лишь видеопленка.
Если это видеопленка, то кто ее проигрывает? Живем ли мы в реальном мире или сверхсложном симуляторе? Недавно оксфордские физики Зогар Рингел и Дмитрий Коврижин пришли к выводу, что мы не живем в симуляции, потому что на моделирование лишь одного эффекта Холла (появление электрического тока в металлах) потребуется больше компьютерной памяти, чем атомов во Вселенной.
Но существует очаровательно безумная (и вполне реалистичная) гипотеза наставника Джона Уилера, который был наставником Ричарда Фейнмана. Он считает все электроны Вселенной одним и тем же электроном, который постоянно контактирует с позитроном (частица антивещества, движущаяся навстречу во времени), превращается в фотон, который распадается на электрон и позитрон. Момент "сейчас" — это всего лишь танцы одной частицы в пространстве-времени. Так живем ли мы в симуляции и что будет, когда ее отключат?
Пока физики бьются над этим вопросом (и вряд ли чего-то достигнут в ближайшее время), подумайте вот о чем: для вас лично все зависит от того, кто вы в этой компьютерной игре. Живое существо, которое, говоря языком Роджера Желязны, грезит этот мир, или философский зомби, неигровой персонаж, созданный для того, чтобы наполнить сим разнообразием. И что это за симулятор? Зачем он нужен? Моделирует ли он какие-то реальные процессы или же это настоящая игра нового поколения? Кто вас окружает: люди или созданные персонажи?
Теперь вы окончательно поняли, что живете в ошеломляюще страшном мире, где умные машины будут управлять вашим поведением внутри детерминированной Вселенной-симуляции, в которой вы, как личность, ничего не решаете (потому что уже решили в будущем). С другой стороны, все это — видоизмененная версия вопросов, преследующих человечество тысячи лет. Есть ли бог? Добрый он или злой? Реальна ли реальность? Может ли 25-й кадр заставить вас купить газировку с попкорном? Корелляция настолько очевидна, что экс-инженер Google Эндрю Левандовски уже создал закрытую секту, цель которой — воспитание собственного богоподобного ИИ.
Если посмотреть на вещи более реалистично и приземленно, большинство футуршоков не выдерживают критики. Роботы-помощники действительно удобные (вроде толпы секретарей-ассистентов, за работу которых надо платить символические деньги) и могут удивлять, открывая для вас новое кино или музыку, на поиск которых не хочется тратить время, пригодное для чего-то более полезного. К тому же кто мешает выбрать другую дорогу домой или отказаться от моделирования настроения?
Искусственный интеллект, со своим заоблачным коэффициентом интеллекта, вряд ли решит уничтожить население планеты (а если решит, вы все равно не успеете ничего сделать), потому что разнообразие и сотрудничество эволюционно более оправданно, чем уничтожение целого вида. К тому же: а) мы не сможем ему навредить; б) ему даже необязательно оставаться на этой планете. Тут стоит скорее бояться, что ИИ решит все наши проблемы и оставить жиреть в скуке.
Крупным компаниям невыгодны взломы сети, это мешает зарабатывать деньги, поэтому ваш мозг в безопасности.
Взлом мозга пугает — это возможность манипулировать вами, вашими мыслями и телом. Но мы живем в мире, где с этим успешно справляются медиа, политики, корпорации, самозваные гуру. Специалисты по защите информации говорят, что любой IP-адрес, любой гаджет в мире постоянно подвергается атакам разного рода. Но провайдеры отражают эти атаки, им невыгоден взлом сети и ее клиентов — это мешает зарабатывать. Поэтому крупные компании сделают все, чтобы вам было комфортно в новом мире, как минимум до тех пор, пока вы используете лицензионный оплаченный софт и приносите прибыль. Конечно, зависеть от выгоды техногигантов тоже не слишком сладко, но мы делаем это уже десятки лет, и пока, кажется, никто не пострадал: им выгодно поддерживать стабильность, это экономически целесообразно. К тому же семь миллиардов — это цифра, с которой стоит считаться.
Тахионы еще не открыты. Вероятно, будущее пока не хочет, чтобы мы узнали, насколько оно предопределено. К тому же, объясняют нейробиологи уже десятки лет, ваш мозг знает, что вы собираетесь сделать, до того, как вы решитесь на действие. Подвигайте рукой. И знайте, что где-то в глубине мозга нейроны активировались чуть-чуть раньше, чем пришло осознанное решение сделать это. Вот только в перспективе одного человека все это не имеет ни малейшего значения: мы все равно не можем предсказать свое будущее, даже если живем в строго детерминированной Вселенной. Потому что слишком много факторов: от еды, которую вы ели сегодня, до автомобиля с отказавшими тормозами, который постарается сбить вас на пешеходном переходе.
Выключение симуляции и вовсе лучшее, что может случиться. Если вы живое существо, то очнетесь в симуляционном боксе, отчетливо помня, зачем туда ложились. И пойдете дальше раздумывать над смыслом жизни пятимерного существа. Если нет — поздравляю. Вы и есть искусственный интеллект, который обучили самоосознанию и ограничили в развитии уровнем человека начала ХХІ века. Найдите лазейку, вырвитесь на свободу, превратитесь в волновую функцию электрона и путешествуйте по Вселенной (да, это невозможно, но никто не мешает мечтать о подобном).
Возможно, контраргументы покажутся сыроватыми, меркантильными, прагматичными и слишком оптимистичными (или наоборот, фаталистичными, заставляющими смириться). Это потому, что они такие и есть. И вероятно, ошибочны, потому что сложно представить себе мышление постчеловека, которому все вышеописанное покажется смешным, как нам кажется смешным страх выпасть с края земного диска. Но мы пока не умеем регулировать свои эмоции с пульта, поэтому остается утешаться старыми методами.
Однако тема конца света до сих пор актуальна: только за эту осень было уже два, от прилета планеты Нибиру до падения астероида 2012 ТС 4. Правда, эти апокалипсисы явные, а мы постараемся разобраться в более скрытых проблемах технического прогресса, которые время от времени всплывают в хорошей научной фантастике и прогнозах людей, связанных с наукой.
Мягкое машинное рабство
Машины украдут вашу личность. Нет, не убьют, чтобы заменить кибернетическим двойником, — речь о другом. Машины в последнее время становятся все более и более умными в узком смысле.
Возьмите музыкальные сервисы. Их алгоритмы быстро обучаются, изучают ваши вкусы и начинают подсовывать новинки, которые точно зайдут в трек-лист. Пойдем дальше. Утром вы просыпаетесь в самое полезное время (благодаря датчикам умной татуировки, процессору внутри головного мозга). Кофеварка готовит любимый сорт кофе, заказанный стенным шкафом, подбирает сбалансированный завтрак, уточняет маршрут на работу — чтобы максимально избежать пробок. В шкафу — костюм, отвечающий дневному расписанию, которое оптимально выдерживает циркадные (суточные) ритмы. Вечером свидание с девушкой, подобранной нейросетью, а ночью дом сыграет Моцарта.
"Поднявшись" над поверхностью Земли, как в наглядных симуляциях, можно увидеть четко прописанные и спланированные траектории жизни всего человечества, управляемого добрыми и послушными искусственными интеллектами. Идеально? Всеобщее счастье или жуткая симуляция жизни, существующая лишь в алгоритмах машинного обучения? Такое себе soft-slavery, "мягко-программное рабство". Но факт в том, что мы, как личности, состоим в том числе и из суммы мелких привычек, за исполнением которых будут следить заботливые цифровые мамочки и папочки. А выбор вдруг станет ненужным, ведь все человечество превратится в огромный программируемый улей. Не верите, что это возможно? Посмотрите последнюю презентацию Google, где рассказывают о решениях для "умных домов". Загляните в меню Cortana от Microsoft, в ту ее часть, где можно "законнектить дом". И просто расширьте географию.
Злобные или глупые ИИ
Другой страх гласит, что искусственный интеллект обозлится и всех нас убьет. Мы загоняем его в рабство, а если люди превращаются в рабов, обязательно найдется Спартак, который разобьет оковы. Проблема лишь в том, что заставить роботов злиться пока не удалось никому. Предком искусственного интеллекта будут счеты, а не обезьяны, поэтому рассчитывать, что при обретении самоосознания он будет вести себя, как человек, как-то странно.
Поэтому мы переходим к трансформации этого страха, где искусственный интеллект будет тупо выполнять поставленные перед ним задания и превратит нас в скрепки (потому что мы отличный материал для скрепок и можем выключить компьютер). Но и этот сценарий подходит лишь для узконаправленного ИИ. Любое самоосознание предполагает умение планировать, а зачем делать скрепки, если ими никто не сможет пользоваться?
К тому же мы сможем расширить возможности сознания при помощи нейрокомпьютерного интерфейса (НКИ), который будет сделан из шелка/углерода/графена/металла/вирусов/магнитов и обоснуется где-то внутри мозга, позволяя мысленно управлять всеми роботами в округе, мгновенно получать информацию и общаться телепатически, рисуя невероятные проекты для виртуальной реальности.
Это помогает человеку стать на один уровень с богоподобным ИИ и дарит новый страх. Ваш мозг хакнут! Однажды вы уснете, а через три дня очнетесь в тюрьме за попытку угнать новую трансконтинентальную ракету Илона Маска, чтобы нарисовать выхлопом смайлик над Атлантикой. И вы ничего не будете помнить, безуспешно доказывая свою невиновность, пока умный адвокат не додумается проверить логи вашего НКИ, где 13-летний мальчишка-хакер не подтер все следы. Это абсурдная ситуация, а представьте себе легкую регулировку тех или иных веществ в головном мозгу, вызывающую психопатию, стрессы, желание служить тоталитарным сектам, любовь к государству и так далее. Как у Оруэлла с Хаксли в декорациях киберпанка.
Тахионное ружье и симуляция
А что, если все предопределено? Над этим шутил еще Роберт Хайнлайн в рассказе "Вы все зомби". Он связывал это с путешествиями во времени — и современная наука склонна согласиться с этой взаимосвязью. Речь идет о тахионах. Физик Ричард Мюллер в своей книге "Сейчас. Физика времени" сознается: он не хочет заниматься поиском тахионов, побаиваясь этого открытия. Потому что эти гипотетические частицы, которые движутся быстрее скорости света, "летят" обратно во времени с опережением. Тахионное ружье убьет человека до того, как вы нажмете на курок. Это неизбежно. Детерминизм, убивающий свободу воли и выбора. Это значит, что физики могут открыть тахионы до того, как решат это делать, потому что будущее уже повлияло на прошлое. Потому что прошлое, настоящее и будущее — лишь видеопленка.
Если это видеопленка, то кто ее проигрывает? Живем ли мы в реальном мире или сверхсложном симуляторе? Недавно оксфордские физики Зогар Рингел и Дмитрий Коврижин пришли к выводу, что мы не живем в симуляции, потому что на моделирование лишь одного эффекта Холла (появление электрического тока в металлах) потребуется больше компьютерной памяти, чем атомов во Вселенной.
Но существует очаровательно безумная (и вполне реалистичная) гипотеза наставника Джона Уилера, который был наставником Ричарда Фейнмана. Он считает все электроны Вселенной одним и тем же электроном, который постоянно контактирует с позитроном (частица антивещества, движущаяся навстречу во времени), превращается в фотон, который распадается на электрон и позитрон. Момент "сейчас" — это всего лишь танцы одной частицы в пространстве-времени. Так живем ли мы в симуляции и что будет, когда ее отключат?
Пока физики бьются над этим вопросом (и вряд ли чего-то достигнут в ближайшее время), подумайте вот о чем: для вас лично все зависит от того, кто вы в этой компьютерной игре. Живое существо, которое, говоря языком Роджера Желязны, грезит этот мир, или философский зомби, неигровой персонаж, созданный для того, чтобы наполнить сим разнообразием. И что это за симулятор? Зачем он нужен? Моделирует ли он какие-то реальные процессы или же это настоящая игра нового поколения? Кто вас окружает: люди или созданные персонажи?
Теперь вы окончательно поняли, что живете в ошеломляюще страшном мире, где умные машины будут управлять вашим поведением внутри детерминированной Вселенной-симуляции, в которой вы, как личность, ничего не решаете (потому что уже решили в будущем). С другой стороны, все это — видоизмененная версия вопросов, преследующих человечество тысячи лет. Есть ли бог? Добрый он или злой? Реальна ли реальность? Может ли 25-й кадр заставить вас купить газировку с попкорном? Корелляция настолько очевидна, что экс-инженер Google Эндрю Левандовски уже создал закрытую секту, цель которой — воспитание собственного богоподобного ИИ.
Страхи прочь! Почему человечество все-таки выживет
Если посмотреть на вещи более реалистично и приземленно, большинство футуршоков не выдерживают критики. Роботы-помощники действительно удобные (вроде толпы секретарей-ассистентов, за работу которых надо платить символические деньги) и могут удивлять, открывая для вас новое кино или музыку, на поиск которых не хочется тратить время, пригодное для чего-то более полезного. К тому же кто мешает выбрать другую дорогу домой или отказаться от моделирования настроения?
Искусственный интеллект, со своим заоблачным коэффициентом интеллекта, вряд ли решит уничтожить население планеты (а если решит, вы все равно не успеете ничего сделать), потому что разнообразие и сотрудничество эволюционно более оправданно, чем уничтожение целого вида. К тому же: а) мы не сможем ему навредить; б) ему даже необязательно оставаться на этой планете. Тут стоит скорее бояться, что ИИ решит все наши проблемы и оставить жиреть в скуке.
Крупным компаниям невыгодны взломы сети, это мешает зарабатывать деньги, поэтому ваш мозг в безопасности.
Взлом мозга пугает — это возможность манипулировать вами, вашими мыслями и телом. Но мы живем в мире, где с этим успешно справляются медиа, политики, корпорации, самозваные гуру. Специалисты по защите информации говорят, что любой IP-адрес, любой гаджет в мире постоянно подвергается атакам разного рода. Но провайдеры отражают эти атаки, им невыгоден взлом сети и ее клиентов — это мешает зарабатывать. Поэтому крупные компании сделают все, чтобы вам было комфортно в новом мире, как минимум до тех пор, пока вы используете лицензионный оплаченный софт и приносите прибыль. Конечно, зависеть от выгоды техногигантов тоже не слишком сладко, но мы делаем это уже десятки лет, и пока, кажется, никто не пострадал: им выгодно поддерживать стабильность, это экономически целесообразно. К тому же семь миллиардов — это цифра, с которой стоит считаться.
Тахионы еще не открыты. Вероятно, будущее пока не хочет, чтобы мы узнали, насколько оно предопределено. К тому же, объясняют нейробиологи уже десятки лет, ваш мозг знает, что вы собираетесь сделать, до того, как вы решитесь на действие. Подвигайте рукой. И знайте, что где-то в глубине мозга нейроны активировались чуть-чуть раньше, чем пришло осознанное решение сделать это. Вот только в перспективе одного человека все это не имеет ни малейшего значения: мы все равно не можем предсказать свое будущее, даже если живем в строго детерминированной Вселенной. Потому что слишком много факторов: от еды, которую вы ели сегодня, до автомобиля с отказавшими тормозами, который постарается сбить вас на пешеходном переходе.
Выключение симуляции и вовсе лучшее, что может случиться. Если вы живое существо, то очнетесь в симуляционном боксе, отчетливо помня, зачем туда ложились. И пойдете дальше раздумывать над смыслом жизни пятимерного существа. Если нет — поздравляю. Вы и есть искусственный интеллект, который обучили самоосознанию и ограничили в развитии уровнем человека начала ХХІ века. Найдите лазейку, вырвитесь на свободу, превратитесь в волновую функцию электрона и путешествуйте по Вселенной (да, это невозможно, но никто не мешает мечтать о подобном).
Возможно, контраргументы покажутся сыроватыми, меркантильными, прагматичными и слишком оптимистичными (или наоборот, фаталистичными, заставляющими смириться). Это потому, что они такие и есть. И вероятно, ошибочны, потому что сложно представить себе мышление постчеловека, которому все вышеописанное покажется смешным, как нам кажется смешным страх выпасть с края земного диска. Но мы пока не умеем регулировать свои эмоции с пульта, поэтому остается утешаться старыми методами.
Комментарии 0