html текст
All interests
  • All interests
  • Design
  • Food
  • Gadgets
  • Humor
  • News
  • Photo
  • Travel
  • Video
Click to see the next recommended page
Like it
Don't like
Add to Favorites

Как ученым удалось обмануть голосовых ассистентов

Как ученым удалось обмануть голосовых ассистентов

AP/Depositphotos

Не слышит звон и не знает, где он

Голосовые помощники плотно вошли в повседневную жизнь, и многие люди привыкли разговаривать со своими гаджетами. Они постоянно общаются с ассистентами и просят их то прочитать текст вслух, то поставить любимую мелодию или будильник на завтрашнее утро. К сожалению, ученые выяснили, что с вашим голосовым помощником может общаться кто-то другой, причем без вашего ведома.

Реклама

За последние два года исследователи из Китая и США достигли определенных успехов в отправке скрытых сообщений для голосовых ассистентов Siri, Alexa и Google's Assistant. Человеческое ухо не имеет возможности зафиксировать подобные команды, а виртуальные помощники их легко воспринимают и начинают выполнять.

Как сообщает The New York Times, исследователи смогли тайно активировать систему искусственного интеллекта (ИИ) в смартфонах и «умных» домах, заставив ее начать набор телефонного номера или открыть конкретный веб-сайт.

В руках мошенника такая уязвимость может быть использована для того, чтобы открыть входную дверь, вывести денежные средства со счета или купить товары онлайн с помощью музыки, играющей по радио.

Группа студентов из Калифорнийского университета в Беркли и Джорджтаунского университета еще в 2016 году показала, как нужно прятать команды в белом шуме во время того, как музыкальные колонки воспроизводят звук из видеоролика на YouTube. С помощью этих сообщений исследователи смогли заставить смарт-устройства включить режим полета.

В мае 2018 года ученые из Беркли пошли дальше и опубликовали доклад, в котором рассказали о новых результатах эксперимента. Теперь им удалось вставить команды непосредственно в музыкальную запись или аудио-разговор. В то время как человек, к примеру, слушает выступление оркестра или подкаст, «умная» колонка Echo в эти же минуты занимается онлайн-шопингом и добавляет товары в корзину.

Один из авторов исследования Николас Карлини отметил, что разработки эксперимента не покидали лабораторию, но это лишь вопрос времени, прежде чем киберпреступники начнут использовать такую уязвимость в своих целях.

«Я подозреваю, что мошенники уже нанимают людей для разработки того же самого, чем занимаюсь я», — признался Карлини.

Голосовые помощники захватывают мир

К сожалению, такие новости лишний раз доказывают, что искусственным интеллектом, каким бы он ни был совершенным, можно успешно манипулировать. Компьютеры могут ошибиться в идентификации фотографии и назвать самолет кошкой из-за подмены пары пикселей, а автомобиль-беспилотник увеличит скорость из-за маленькой наклейки, прикрепленной на дорожный знак.

Для своего эксперимента с помощью аудиосообщений исследователи воспользовались различиями между человеком и машиной в сфере распознавания звуков. Система распознавания голоса, как правило, «переводит» каждый звук в букву, а после складывает получившиеся слова в предложения.

Небольшие изменения, внесенные в аудиофайл, нейтрализуют «правильный» звук и заменяют его другим, который воспринимается ИИ совершенно по-другому. Человек при этом не слышит ничего необычного.

Последствия таких трюков могут носить совершенно разный характер. Особенно это тревожно в текущей ситуации, когда виртуальных помощников становится все больше.

Согласно исследованию компании Ovum,

к 2021 году количество голосовых ассистентов, установленных на смарт-устройствах, достигнет 7,5 млрд, что превысит население Земли.

Компания Amazon, которой принадлежит колонка Echo, заявила о том, что приняла меры для повышения уровня защиты своего устройства, но отказалась рассказать детали. Google пояснила, что ее помощник Assistant оснащен специальной функцией, которая «глушит» неслышимые аудио-команды. Оба IT-гиганта сообщили о том, что их ассистенты реагируют исключительно на голос владельца и не предпринимают никаких действий, пока не проверят, кто именно дает им задание.

Apple, создатель ассистента Siri, напомнила о том, что для успешной передачи команды необходимо сначала разблокировать iPhone или iPad, что сильно осложнит замысел злоумышленника.

Тем не менее, голосовые ассистенты в прошлом не раз выходили из-под контроля своего хозяина. Например, в США 6-летняя девочка попросила Alexa купить ей кукольный домик, о чем родители ребенка узнали только тогда, когда игрушку доставили домой. Кроме того, когда этот случай освещали на местном телевидении, ведущий произнес вслух похожую команду, из-за чего тысячи голосовых помощников и «умных» колонок от Amazon, чьи пользователи в этот момент смотрели выпуск, сделали тот же заказ в игрушечных магазинах.

Читать дальше
Twitter
Одноклассники
Мой Мир

материал с gazeta.ru

1

      Add

      You can create thematic collections and keep, for instance, all recipes in one place so you will never lose them.

      No images found
      Previous Next 0 / 0
      500
      • Advertisement
      • Animals
      • Architecture
      • Art
      • Auto
      • Aviation
      • Books
      • Cartoons
      • Celebrities
      • Children
      • Culture
      • Design
      • Economics
      • Education
      • Entertainment
      • Fashion
      • Fitness
      • Food
      • Gadgets
      • Games
      • Health
      • History
      • Hobby
      • Humor
      • Interior
      • Moto
      • Movies
      • Music
      • Nature
      • News
      • Photo
      • Pictures
      • Politics
      • Psychology
      • Science
      • Society
      • Sport
      • Technology
      • Travel
      • Video
      • Weapons
      • Web
      • Work
        Submit
        Valid formats are JPG, PNG, GIF.
        Not more than 5 Мb, please.
        30
        surfingbird.ru/site/
        RSS format guidelines
        500
        • Advertisement
        • Animals
        • Architecture
        • Art
        • Auto
        • Aviation
        • Books
        • Cartoons
        • Celebrities
        • Children
        • Culture
        • Design
        • Economics
        • Education
        • Entertainment
        • Fashion
        • Fitness
        • Food
        • Gadgets
        • Games
        • Health
        • History
        • Hobby
        • Humor
        • Interior
        • Moto
        • Movies
        • Music
        • Nature
        • News
        • Photo
        • Pictures
        • Politics
        • Psychology
        • Science
        • Society
        • Sport
        • Technology
        • Travel
        • Video
        • Weapons
        • Web
        • Work

          Submit

          Thank you! Wait for moderation.

          Тебе это не нравится?

          You can block the domain, tag, user or channel, and we'll stop recommend it to you. You can always unblock them in your settings.

          • www.gazeta.ru
          • домен gazeta.ru

          Get a link

          Спасибо, твоя жалоба принята.

          Log on to Surfingbird

          Recover
          Sign up

          or

          Welcome to Surfingbird.com!

          You'll find thousands of interesting pages, photos, and videos inside.
          Join!

          • Personal
            recommendations

          • Stash
            interesting and useful stuff

          • Anywhere,
            anytime

          Do we already know you? Login or restore the password.

          Close

          Add to collection

             

            Facebook

            Ваш профиль на рассмотрении, обновите страницу через несколько секунд

            Facebook

            К сожалению, вы не попадаете под условия акции