фото показано с : cryptofeed.ru

Зная, как искусственный интеллект распознает объекты, его можно обмануть

В основу системы Activation Atlases легла программа DeepDream, с помощью нее разработчики намеревались выяснить, как искусственный интеллект воспринимает окружающую обстановку. По словам разработчиков, новая система словно проникает в «сознание» нейросети. Так, удалось узнать, что объекты искусственный интеллект узнает по скоплению пикселей или фрагменту изображения: рисунку плавника акулы или собачьей морды.

Из этих фрагментов нейросеть словно собирает мозаику, после чего выдает итоговый ответ. Узнав, как происходит распознавание объектов, исследователи решили запутать искусственный интеллект. Они взяли изображение с китовым плавником и добавили к нему бейсбольный мяч, из-за постороннего предмета ИИ решил, что он «увидел» акулу. Более ранние модели нейросетей ошибочно путали темнокожих людей с гориллами. Уязвимости в алгоритме есть, но такие системы, как Activation Atlases, могут помочь выявить и устранить их.

Bitcoin price in Telegram @btc_price_every_hour

274 +