html текст
All interests
  • All interests
  • Design
  • Food
  • Gadgets
  • Humor
  • News
  • Photo
  • Travel
  • Video
Click to see the next recommended page
Like it
Don't like
Add to Favorites

Машины, которые не будут вами править


Иллюстрация: ArtJasperJohn/Getty Images

О приближении технологической сингулярности вы узнаете, когда в небольшом магазинчике на подмосковной станции вам скажут, что заплатить за газировку можно только смартфоном по системе ApplePay. Причины прозаичны: сдачи нет, а платежный терминал завис. Из этого любопытного опыта можно вынести важный урок: новые технологии меняют жизнь неожиданным и порой забавным образом. Может, не так уж страшна эта сингулярность, как многие опасаются. Заведите привычку во всех прогнозах делать поправку на человеческие слабости, и предсказывать будущее станет проще и веселее.

Тем не менее, оказываясь лицом к лицу с неумолимым прогрессом, хочется разобраться, куда он нас заведет. Еще в середине ХХ века математик Джон фон Нейман впервые употребил слово «сингулярность» в отношении технологического развития человечества. Он имел в виду вот что: если попытаться численно измерить человеческие достижения, нарисовать график и продлить его в будущее, то в какой-то момент, кажется, кривая устремится в бесконечность. С точки зрения трезвого ученого это может означать только одно: угаданная тенденция неверна и где-то на пути к этой самой бесконечности закон развития должен измениться. Об этом, кстати, в применении к росту населения Земли очень доступно рассказывал автору этих строк Сергей Петрович Капица в своей последней беседе в 2012 году.

В начале XXI века Рэймонд Курцвейл придал понятию технологической сингулярности чуть более реалистичный смысл. Конечно, ни в какую бесконечность наш прогресс не убежит: закон его роста экспоненциальный, а это значит, что технологии просто растут все быстрее и быстрее, подстегивая себя сами. Точка, вызывающая болезненный интерес футурологов, — не формальная бесконечность, а тот момент, когда скорость самоподдерживающегося роста технологий превзойдет возможность совокупного человеческого разума этот рост контролировать. А с чего бы технологиям расти самим по себе, без человеческого участия? А это, говорит Курцвейл и его приятели-футурологи, произойдет из-за появления на сцене искусственного интеллекта (ИИ).

Экспансия чуждого разума

В нелегком деле вытеснения человечества на периферию жизни искусственному интеллекту предстоит пройти несколько этапов. Вот как они описаны в эмоциональной и поэтичной заметке журналиста-футуролога Майкла Кевина Спенсера под заголовком «Мы живем в последний период перед общим искусственным интеллектом».

Сначала возникает «Узкий ИИ»: это то, что есть уже сейчас. Голосовое общение, распознавание образов, машинный перевод — машины учатся делать то, что люди умели делать и без них. Выглядит это не слишком впечатляюще, но технологии под шумок с 2014-го по 2021 год проходят такой же путь развития, как и за весь двадцатый век.

Второй этап — «Общий ИИ». Говорить о нем можно с того момента, когда машинный разум обретает способность обучаться и совершенствовать себя. Приобретя способность учиться, машины обгоняют человека во всех сферах деятельности, включая творческие задачи, эмоциональный интеллект, управление сложной средой и предсказание будущего. И это уже третий этап — «искусственный суперинтеллект». Эта штука может программировать роботов, обеспечивать функционирование экономики без вмешательства человека, управлять «умными городами» и вообще всем человеческим обществом.


Иллюстрация: Hiroshi Watanabe/Getty Images

И наконец, четвертый этап: «ИИ с творческой жилкой» (так игриво мы перевели для вас Artificial Intelligence with Creative Agency). Эта штука начинает ставить перед собой задачи, человечеству чуждые и непонятные. Какие именно? В силу их чуждости и непонятности у нас даже нет шансов оценить их размах. Ясно однако, что со стратегическими интересами человечества эти задачи могут совпасть разве что случайно.

Замшелый аргумент, будто бы машины делают только то, что в них заложено людьми, можно отправить в утиль. В 2017 году алгоритм «Альфа Го Зеро» научился играть в го, не используя вообще никаких человеческих наработок: машина просто играла сама с собой, обучаясь исключительно на собственных ошибках*. Куда может завести императив «во что бы то ни стало совершать как можно меньше ошибок во всем», судить невозможно: человечество подобных задач перед собой не ставило, а если и ставило, то в них не преуспело.

Когда ждать катарсиса? Экспоненциальный закон роста компьютерных возможностей позволяет сделать некоторые прикидки. Мощность ИИ сравняется с мощностью человеческого мозга (порядка 10 в шестнадцатой степени операций в секунду) к 2029 году. По прогнозам Рэймонда Курцвейла, к этому моменту ИИ сможет легко пройти пресловутый «тест Тьюринга», то есть общаться с человеком так, что человек не распознает в нем машинный разум. А к 2045 году — опять же по оценкам Курцвейла — его мощность превысит совокупное быстродействие всех человеческих мозгов на планете, то есть 10 в 26-й степени операций в секунду. И тут наши пути разойдутся навсегда.

Ближе к реальности

Увидеть своими глазами экспоненциальный рост ничего не стоит: возьмите бактерию, поместите ее в питательную среду, и через 10 минут она поделится, через 20 поделится еще раз, а часа через три уже можно наблюдать, как среда на глазах мутнеет от стремительного бактериального роста. Прогноз футуролога неутешительный: через сутки масса бактерий в вашей колбе превзойдет массу земного шара. К счастью, этого не произойдет, потому что уже часов через десять микробы перестанут делиться, истощив питательные вещества среды. Урок первый: экспоненциальный закон роста — прекрасное приближение естественных процессов, но лишь до тех пор, пока им ничто не мешает. А этот безмятежный период быстро заканчивается.

Еще один опыт человечество уже поставило в собственной истории. Стремительный рост космических технологий когда-то привел от полета Гагарина к высадке на Луну. Радиус сферы нашей космической экспансии за десятилетие увеличился в тысячу раз. Если бы все так и шло, в 1980 году вместо войны в Афганистане и московской Олимпиады люди наслаждались бы прогулкой по Нептуну, а к 2010-му достигли бы центра Галактики. Почему этого не произошло? Закон развития изменился. С чего бы вдруг? Тут, конечно, ограниченность ресурсов тоже сыграла роль, но главное в другом: в силу определенных причин человечество просто перестало ставить перед собой такие задачи. Итак, урок второй: для прогресса нужна мотивация. ИИ развивается, пока это нужно для решения конкретных задач: например, создать новую ИТ-корпорацию и поглотить Google, обогнать Америку, накормить голодных детей Африки — что угодно, но непременно что-то реальное и человеческое. Когда задача исчезает, прекращается и развитие.

И еще кое-что важное для любителей предрекать владычество машин над людьми. Эволюцией живой природы от червяка к человеку двигал императив «произвести потомков и обеспечить их ресурсами». На коротком отрезке пути так совпало, что на практике этот принцип стал означать «быть умнее». Однако само по себе желание стать умным-преумным не содержит в себе никакого потенциала к безграничной экспансии. Неодолимое желание совершать поменьше ошибок, лежащее в основе эволюции современного ИИ, вовсе не обязательно грозит неуправляемым ростом, если такую задачу специально не поставит перед алгоритмом какой-то маньяк. Вспомним, что Алан Тьюринг, первым выдвинувший идею искусственного интеллекта, самовольно прервал свою жизнь, не дожив до сорокадвухлетия и не оставив потомков.

Где мы?

Полтора месяца назад в Бостоне прошел симпозиум Общества когнитивной нейробиологии, где пообщались между собой люди, изучающие интеллект — как человеческий, так и машинный. Они выразили надежду, что работы нейробиологов помогут создавать все более умные алгоритмы ИИ, а эти алгоритмы, в свою очередь, подтолкнут нейробиологов к новым идеям. Только не надо иронизировать, что все это похоже на попытки вытянуть самого себя за волосы из болота: в науке иногда такое работает. А иногда нет.

Работать это может, к примеру, так, как описано в недавней работе нейробиологов из Университета Джонса Хопкинса. Они разобрались, как работают нейроны в мозжечке, когда человек обучается двигательной задаче: например, пытается попасть мячом в баскетбольное кольцо. Оказалось, что нейроны (называемые «клетками Пуркинье») делают свою работу вовсе не так, как предполагали конструкторы так называемых «нейронных сетей», лежащих в основе ИИ. Коротко говоря, их отношения куда менее тоталитарны, чем предполагали программисты. И вот этот новооткрытый способ коллегиальной работы клеток Пуркинье может быть теперь положен в основу новых самообучающихся алгоритмов.

Но этот подход может и не работать, или работать из рук вон плохо. О том, как это бывает, поведал 30 апреля на недавней конференции в Ванкувере Али Рахими, специалист по ИИ из компании Google, произведя своими заявлениями небольшую сенсацию. Смысл его речей в том, что он и его коллеги вообще не понимают, почему одни алгоритмы ИИ эффективны, а другие нет, и не знают никакого критерия выбора лучшего подхода. О том, что один и тот же алгоритм может работать сегодня так, а завтра этак («проблема воспроизводимости»), было известно и раньше. Исследователи также признали свою неспособность объяснить принцип работы каждого конкретного алгоритма. Однако теперь ведущий специалист объявил не конкретный алгоритм, а всю свою науку чистой «алхимией», сказав, по сути, что она вообще не знает, где она находится и куда идти дальше.  


Иллюстрация: Donald Iain Smith/Getty Images

Свое заявление Али подкрепил примерами. Вот одна показательная история: был разработан сложнейший, сконструированный по последнему слову науки, самообучающийся алгоритм машинного перевода с английского на французский. Перевод он кое-как освоил. А затем начал переводить все лучше и лучше — но лишь по мере того, как разработчики одну за одной отключали в нем те самые продвинутые функции, которые перед тем сами зачем-то туда под завязку натолкали. В обсуждении на конференции прозвучали слова «карго-культ», «фольклор» и «шаманские заклинания» — это далеко не те термины, в которых принято описывать неумолимый прогресс технологий.

Возможно, сама идея о том, что машинный разум, построенный по образцу человеческого, рано или поздно превзойдет его, несет в себе неразрешимый парадокс. Человеческий разум, неспособный понять себя, может лишь завести умную машину в тот же тупик, где сам находится. «Если слепой поведет слепого, не оба ли упадут в яму?» — задает риторический вопрос Библия, и многие разработчики искусственного интеллекта на данном этапе согласно кивают.

Означает ли это, что технологический прогресс человечества замедляется и вот-вот придет к полной остановке? Да с чего бы вдруг. Привычка измерять прогресс в количестве вычислительных операций в секунду возникла у людей всего-то меньше ста лет назад. У человеческой цивилизации есть множество задач, кроме той, самой почетной — «думать». Если вдруг на этом пути не окажется никакой сингулярности, а будет просто медленное и упорное движение к чуть более достойной жизни, которым человечество было занято на протяжении всей истории, расстроятся, возможно, только футурологи.

В июле этого года в Екатеринбурге пройдет выставка-конференция «Иннопром-2018». Речь там пойдет о том, как информационные технологии революционизируют самые разные сферы экономики. Проект «Сноб» с гордостью сообщает, что стал информационным партнером этой инициативы. На протяжении ближайших недель мы намерены рассказывать о разработках, которые будут представлены в Екатеринбурге. Читатель сможет составить представление, над чем на самом деле работают ученые и инженеры, кроме масштабной, но (видимо) невыполнимой задачи «создать машину, которая заменит собой человеческий разум». Спойлер: там все совсем не так инфернально, хотя по-прежнему весьма увлекательно. Ждите продолжения.

* Правила игры в го этому алгоритму, конечно, объяснили люди. Тем не менее можно ведь поставить перед машиной и такую задачу: «Придумать игру с максимально простыми правилами и по возможности сложной выигрышной стратегией; при нахождении универсальной игровой стратегии усложнить правила». Машина сможет играть в эту игру сама с собой миллиарды лет, пока в розетке есть электричество. Вот мы и нашли, как пристроить ИИ к полезному делу, чтобы он не мешал человечеству жить, как ему заблагорассудится.

 

Читать дальше
Twitter
Одноклассники
Мой Мир

материал с snob.ru

1

      Add

      You can create thematic collections and keep, for instance, all recipes in one place so you will never lose them.

      No images found
      Previous Next 0 / 0
      500
      • Advertisement
      • Animals
      • Architecture
      • Art
      • Auto
      • Aviation
      • Books
      • Cartoons
      • Celebrities
      • Children
      • Culture
      • Design
      • Economics
      • Education
      • Entertainment
      • Fashion
      • Fitness
      • Food
      • Gadgets
      • Games
      • Health
      • History
      • Hobby
      • Humor
      • Interior
      • Moto
      • Movies
      • Music
      • Nature
      • News
      • Photo
      • Pictures
      • Politics
      • Psychology
      • Science
      • Society
      • Sport
      • Technology
      • Travel
      • Video
      • Weapons
      • Web
      • Work
        Submit
        Valid formats are JPG, PNG, GIF.
        Not more than 5 Мb, please.
        30
        surfingbird.ru/site/
        RSS format guidelines
        500
        • Advertisement
        • Animals
        • Architecture
        • Art
        • Auto
        • Aviation
        • Books
        • Cartoons
        • Celebrities
        • Children
        • Culture
        • Design
        • Economics
        • Education
        • Entertainment
        • Fashion
        • Fitness
        • Food
        • Gadgets
        • Games
        • Health
        • History
        • Hobby
        • Humor
        • Interior
        • Moto
        • Movies
        • Music
        • Nature
        • News
        • Photo
        • Pictures
        • Politics
        • Psychology
        • Science
        • Society
        • Sport
        • Technology
        • Travel
        • Video
        • Weapons
        • Web
        • Work

          Submit

          Thank you! Wait for moderation.

          Тебе это не нравится?

          You can block the domain, tag, user or channel, and we'll stop recommend it to you. You can always unblock them in your settings.

          • snob.ru
          • домен snob.ru

          Get a link

          Спасибо, твоя жалоба принята.

          Log on to Surfingbird

          Recover
          Sign up

          or

          Welcome to Surfingbird.com!

          You'll find thousands of interesting pages, photos, and videos inside.
          Join!

          • Personal
            recommendations

          • Stash
            interesting and useful stuff

          • Anywhere,
            anytime

          Do we already know you? Login or restore the password.

          Close

          Add to collection

             

            Facebook

            Ваш профиль на рассмотрении, обновите страницу через несколько секунд

            Facebook

            К сожалению, вы не попадаете под условия акции