Британская компания DeepMind работает над непредсказуемым поведением AI-технологий, в Facebook внедрили искусственный интеллект, чтобы помогать пользователям покупать товары, компьютерное зрение помогает распознать курильщиков на заправках, а Алексу могут взломать хакеры.

Подробнее об этих новостях — в нашем дайджесте.

Компания DeepMind исследовала непредсказуемое поведение AI

Британская компания DeepMind начала изучать непредвиденное поведение AI. В ходе исследований выяснилось, что нейронная сеть может навредить и себе, и окружающим, если неправильно оптимизирует свою работу.

Исследователи провели эксперимент с игрой CoastRunners, где необходимо участвовать в гонке на катерах. При прохождении игры нейронная сеть поняла, что больше баллов ей дают за столкновение с предметами, чем за то, что она финиширует первой. В итоге она прекратила участвовать и просто начала сталкиваться с другими предметами.

Представители DeepMind говорят, что AI сейчас — это черный ящик, так как нельзя отследить мотивы его поведения. Именно это порождает недоверие к искусственному интеллекту. Чтобы сделать AI более безопасным и эффективным, необходимо контролировать процесс разработки в два этапа: пассивно наблюдать и в случае непредсказуемого поведения прерывать работу.

AI поможет Facebook продавать товары

Компания Facebook добавила обновление для Marketplace на основе AI. Теперь сервис анализирует загруженное изображение, определяет категорию для товара и может даже порекомендовать цену.

Сервис Marketplace работает с 2016 года и доступен в США, Европе и России. Товары здесь расположены по категориям и геолокации продавца.

С помощью AI сервис станет проще и для покупателей: Facebook планирует внедрить опцию, благодаря которой можно будет загрузить фотографию объекта и получить совет, где и за сколько можно купить товар.

Как утверждают разработчики, Marketplace также сможет по фотографии комнаты предлагать варианты для ее интерьера и подберет нужные товары.

Новая AI-система определит курильщиков на заправках

Нефтегазовая компания Shell в сотрудничестве с Microsoft сделала систему, которая может определить курящего человека и предотвратить пожар на заправке. Компьютерное зрение может обнаружить сигарету, зажигалку или дым и подать сигнал, после чего сработает сигнализация.

Сейчас систему тестируют на двух заправках в Сингапуре и Таиланде. Microsoft планирует распространить использование новой технологии и на другие заправки.

Хакеры могут взломать голосовых помощников

В Германии ученые обнаружили, что можно взломать голосовых помощников с помощью звуков, скрытых в аудиофайлах. Команды, которые сложно определить человеку, могут считывать голосовые помощники.

Профессор Торстен Хольц назвал такой вид хакерской атаки «психоакустическое скрытие». Человек будет слышать только звуки приложения, рекламу или музыку, а голосовой помощник – распознавать и выполнять команду. Так хакеры смогут завладеть скрытой информацией, отключить сигнализацию дома и камеры.

Это уже не первый случай, когда выясняется, что голосовые помощники небезопасны. В 2017 году китайские ученые Чжэцзянского университета провели исследование и выяснили, что такие же команды может воспринимать Alexa. Разработчики Amazon пообещали тщательно изучить это, но вероятность взлома еще существует.

Инцидентов подобных хакерских атак пока еще не было, но ученые рекомендуют установить PIN-код для того, чтобы голосовые помощники не могли без него совершать покупки и работать с банками.