Штучний інтелект провокує зіткнення катерів і запобігає виникненню пожежі на заправках. Новини AI-індустрії за тиждень Штучний інтелект провокує зіткнення катерів і запобігає виникненню пожежі на заправках. Новини AI-індустрії за тиждень

Британська компанія DeepMind працює над непередбачуваною поведінкою AI-технологій, в Facebook впровадили штучний інтелект для того, щоби допомагати користувачам купувати товари, комп’ютерний зір допомагає розпізнати курців на заправках, а Алексу можуть зламати хакери.

Докладніше про ці новини — у нашому дайджесті.

Компанія DeepMind досліджує несподівану поведінку AI

Британська компанія DeepMind почала вивчати експодівану реакцію AI. У процесі дослідження з’ясувалося, що нейронна мережа може нашкодити як і собі, так і суспільству за умови неправильної оптимізації своєї роботи.

Дослідники провели експеримент із грою CoastRunners, де необхідно брати участь у гонці на катерах. Під час проходження гри нейронна мережа зрозуміла, що більше балів їй дають за зіткнення з предметами, ніж за те, що вона фінішує першою. У підсумку АІ припинила продовжувати гру і просто почала зіштовхуватися з іншими предметами.

Штучний інтелект провокує зіткнення катерів і запобігає виникненню пожежі на заправках. Новини AI-індустрії за тиждень

Представники DeepMind кажуть, що зараз AI — це «чорний ящик», тому не можна відстежити мотиви його поведінки. Саме це провокує недовіру до штучного інтелекту. Щоби зробити AI більш безпечним і ефективним, необхідно контролювати процес розробки двома етапами: пасивно спостерігати й у випадку несподіваної поведінки відразу переривати роботу.

AI допоможе соцмережі Facebook продавати товари

Компанія «Facebook» додала оновлення для Marketplace на основі AI. Тепер сервіс аналізує завантажене зображення, визначає категорію для товару й може порекомендувати ціну даного виробу.

Сервіс Marketplace працює з 2016 року й доступний у США, Європі та Росії. Товари тут розташовані за категоріями й геолокацією продавця.

Завдяки AI сервіс стане простішим для використання клієнтами: Facebook планує впровадити опцію, завдяки якій буде дозволено завантажити фотографію об’єкта й отримати пораду, де й за скільки можна купити товар.

Як стверджують розробники, Marketplace також зможе за фотографією кімнати запропонувати варіанти для її інтер’єру й підбере потрібні товари.

Нова AI-система визначить курців на АЗС

Нафтогазова компанія Shell у співпраці з Microsoft зробила систему, яка може визначити курця й запобігти пожежі на автозаправній станції. Комп’ютерний зір може виявити сигарету, запальничку або дим і подати сигнал, після чого спрацює сигналізація.

Зараз систему тестують на двох заправках у Сінгапурі й Таїланді. Microsoft планує поширити використання нової технології й на інші АЗС світу.

Хакери можуть зламати голосових помічників

У Німеччині вчені виявили, що можна зламати голосових помічників завдяки звукам, які приховані в аудіофайлі. Команди, які складно визначити людині, можуть зчитувати голосові помічники.

Професор Торстен Хольц назвав такий вид хакерської атаки «психоакустичним приховування». Людина буде чути тільки звуки-додатки, рекламу або музику, а голосовий помічник — розпізнавати і виконувати команду. Так хакери зможуть отримати приховану інформацію, відключити сигналізацію дому та камери.

Це вже не перший випадок, коли з’ясовується, що голосові помічники дійсно є небезпечними. У 2017 році китайські вчені Чжецзянського університету провели дослідження і з’ясували, що такі ж команди може сприймати Alexa. Розробники Amazon пообіцяли ретельно вивчити це питання, але ймовірність злому залишається.

Подібних хакерських атак поки ще не було, але вчені рекомендують встановити PIN-код для того, щоби голосові помічники не могли без нього здійснювати покупки і працювати з банками.

Схожі новини