Всё хреново
жүктеу/скачать 1 Mb. Pdf көрінісі
|
26.-Всё-хреново
| мы тоже алгоритмы
. Сознание само по себе – это огромная сеть алгоритмов и деревьев принятия решений – алгоритмов, основанных на ценностях, знаниях и надежде. Наши алгоритмы неплохо справлялись первые несколько сотен тысяч лет. Они не подво- дили нас в саванне, где мы охотились на бизонов, жили маленькими кочевыми племенами и за всю жизнь знали не больше тридцати других людей. Но в глобальной экономической сети, в окружении миллиардов людей и тысяч ядерных боеголовок, со всеми этими утечками личных данных из Facebook и голографическими кон- цертами Майкла Джексона наши алгоритмы стали лажать. Они сбиваются и загоняют нас в бес- конечный цикл все усиливающихся конфликтов, которые, по природе этих алгоритмов, никак не могут закончиться постоянным удовлетворением и вечным миром. Это как жесткий комментарий, который порой приходится слышать: «Единственное, что объединяет все твои поганые отношения, – это ты». Так вот, единственное, что объединяет все самые большие проблемы в мире, – это мы. Ядерное оружие никого бы не напрягало, если бы не было баранов, испытывающих соблазн его использовать. Биохимическое оружие, кли- матические изменения, вымирающие виды, геноцид – список можно продолжать, и ни одной из этих проблем не было, пока не появились мы [301] . Домашнее насилие, сексуальное насилие, отмывание денег, мошенничество – все мы. Жизнь полностью строится на алгоритмах. Пока что мы самый продвинутый и сложный алгоритм, порожденный природой, вершина примерно миллиарда лет эволюции. И сейчас мы находимся на грани создания алгоритмов в разы лучше, чем мы сами. Несмотря на все наши достижения, человеческий разум все еще ужасно дефектен. Наша способность обрабатывать информацию ограничена нашей эмоциональной потребностью в самоутверждении. Она загибается петлей внутрь из-за наших искажений восприятия. Наш Думающий мозг регулярно становится заложником беспрестанных желаний Чувствующего – его запирают в багажнике Машины сознания, заткнув рот кляпом или накачав чем-нибудь до беспамятства. И, как мы уже увидели, наш моральный компас слишком часто сбивается с курса неис- требимой потребностью генерировать надежду за счет конфликтов. Как говорит специалист по психологии морали Джонатан Хайдт, «мораль сковывает и ослепляет» [302] . Наш Чувствующий мозг – отжившее, устаревшее программное обеспечение. А Думающий мозг работает хоть и качественно, но слишком медленно и неуклюже. Спросите Гарри Каспарова. Мы вид, который ненавидит и истребляет сам себя [303] . Это не морализаторство, это про- сто факт. Вот то самое внутреннее напряжение, которое мы все постоянно чувствуем, – как раз оно нас к этому и привело. Из-за него мы тут и оказались. Это все наша гонка вооруже- ний. И мы вот-вот передадим эстафетную палочку главным процессорам следующей эпохи – машинам. Когда Илона Маска спросили, что сейчас больше всего угрожает человечеству, он быстро ответил, что существует три главные угрозы: первая – широкомасштабная ядерная война, вто- М. Мэнсон. «Всё хреново» 119 рая – изменение климата… а перед тем, как назвать третью, он замолчал. Его лицо помрач- нело. Он опустил глаза и ушел в свои мысли. Тогда интервьюер спросил: «Так а что же третье?» Маск улыбнулся и сказал: «Надеюсь, компьютеры решат относиться к нам хорошо». Многие опасаются, что ИИ уничтожит человечество. Некоторые подозревают, что все может пойти по драматичному сценарию «Терминатора-2». Другие боятся, что машины убьют нас «случайно», что ИИ, разработанный для поиска более эффективного способа производства зубочисток, внезапно решит, что лучшее сырье для них – человеческие тела [304] . Билл Гейтс, Стивен Хокинг и Илон Маск – лишь несколько примеров ведущих мыслителей и ученых, кото- рые уже обделались от осознания того, как быстро развивается ИИ и насколько мы как вид не готовы к последствиям его развития. Но я считаю, что бояться этого как-то глупо. Хотя бы потому, что как можно подгото- виться к чему-то намного более умному, чем ты сам? Это все равно что учить собаку играть в шахматы с… тем же Каспаровым. Как бы собака ни старалась и ни готовилась, толку не будет. И что еще важнее, понимание добра и зла у машин будет, скорее всего, превосходить наше. Сейчас, когда я пишу эти строки, в мире бушует пять геноцидов [305] . 795 миллионов людей голодает или хронически недоедает [306] . К тому моменту, как вы дочитаете эту главу, в одних только США более ста человек будут избиты, изнасилованы или убиты членом своей семьи в собственном доме [307] . Несет ли ИИ потенциальную угрозу? Безусловно. Но с моральной точки зрения мы бро- саемся камнями, сидя в доме из стекла. Что мы знаем об этике, гуманном отношении к живот- ным, окружающей среде или друг к другу? Правильно, почти ничего. В вопросах морали человечество только и делало, что позорилось на протяжении всей истории. Суперинтеллекту- альные машины, вероятно, смогут осмыслить жизнь и смерть, творение и разрушение на куда более высоком уровне, чем это когда-либо удавалось нам. И думая, что они решат ликвиди- ровать нас только потому, что мы перестали быть эффективными или можем создавать для них какую-то помеху, мы, как мне кажется, просто проецируем худшие аспекты жүктеу/скачать 1 Mb. Достарыңызбен бөлісу:
|