Выделяет два типа атак с зараженным набором данных, которые могут быть повлиять на ИИ

Группа исследователей в области компьютерных наук, в которую входят представители Google, ETH Zurich, NVIDIA и Robust Intelligence, выделяет два типа атак с зараженными наборов данных, которые могут быть использованы злоумышленниками для искажения результатов работы системы ИИ. Группа написала документ с описанием видов атак, которые они выявили, и разместила его на сервере препринтов arXiv. С развитием нейронных сетей глубокого обучения приложения искусственного интеллекта стали большой новостью. А благодаря своим уникальным способностям к обучению их можно применять в самых разных условиях. Но, как отмечают исследователи в этой новой попытке, у них всех есть одна общая черта — потребность в качественных данных для использования в учебных целях. Поскольку такие системы учатся на том, что они видят, если они сталкиваются с чем-то неправильным, у них нет возможности узнать об этом и, таким образом, включить это в свой набор правил. В качестве примера рассмотрим систему ИИ, обученную распознавать на маммограмме узоры как раковые опухоли. Такие системы будут обучаться, показывая им множество примеров реальных опухолей, собранных во время маммографии. Но что произойдет, если кто-то вставит в набор данных изображения раковых опухолей , но они помечены как нераковые? Очень скоро система начнет пропускать эти опухоли, потому что ее научили считать их нераковыми. В этой новой работе исследовательская группа показала, что нечто подобное может произойти с системами ИИ, которые обучаются с использованием общедоступных данных в Интернете. Исследователи начали с того, что отметили, что право собственности на URL-адреса в Интернете часто истекает, включая те, которые использовались в качестве источников системами ИИ. Это оставляет их доступными для покупки гнусными типами, стремящимися разрушить системы ИИ. Если такие URL-адреса приобретаются, а затем используются для создания веб-сайтов с ложной информацией , система ИИ добавит эту информацию в свой банк знаний так же легко, как и достоверную информацию, и это приведет к тому, что система ИИ даст менее желаемые результаты. Исследовательская группа называет этот тип атаки зараженным с разделенным обзором. Тестирование показало, что такой подход можно использовать для покупки достаточного количества URL-адресов, чтобы заразить большую часть основных систем искусственного интеллекта, всего за 10 000 долларов. Есть еще один способ подорвать системы ИИ — путем манипулирования данными в хорошо известных хранилищах данных, таких как Википедия. Исследователи отмечают, что это можно сделать, изменив данные непосредственно перед регулярным сбросом данных, не позволяя мониторам обнаруживать изменения до того, как они будут отправлены и использованы системами ИИ. Они называют этот подход опережающим заражение....

Выделяет два типа атак с зараженным набором данных, которые могут быть повлиять на ИИ

Сообщает android-robot.com

 

Новость из рубрики: Интернет, Игры

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 

Топ новости часа Топ новости часа

 

2 типа рака, вызывающие эректильную дисфункцию 04:00, 24 Окт 2 типа рака, вызывающие эректильную дисфункцию Многие больные раком жалуются на длительные проблемы в личной жизни. Эректильная дисфункция (ЭД) часто встречается у мужчин с раком простаты, опухолями таза и колоректальным раком. ЭД определяется как проблема во время любой фазы соития, которая меш...

Когда выйдет ежемесячный отчет о занятости в Канаде и как он может повлиять на USD/CAD 18:00, 04 Дек Когда выйдет ежемесячный отчет о занятости в Канаде и как он может повлиять на USD/CAD? Обзор данных по занятости в Канаде Статистическое управление Канады планирует опубликовать ежемесячный отчет по занятости за ноябрь в эту пятницу в 16.30 мск. Ожидается, что за отчетный месяц канадская экономика прибавила 5 тысяч рабочих мест, что с...

Усик: Быть украинцем - это почетно 02:00, 10 Ноя Усик: Быть украинцем - это почетно Александр Усик горд за свою страну. По словам чемпиона мира по версиям WBA, WBO, IBO и IBF, Украина всегда боролась за свою свободу и теперь доказывает, что действительно является настоящей нацией. "Современная, независимая Украина существует более ...

Ваш оператор рекламных данных 19:00, 27 Окт Ваш оператор рекламных данных Согласно новому законодательству создаётся Единая система учёта рекламы в интернете, она предусматривает появление соответствующей организации, которая будет вести учёт и передавать информацию во все необходимые инстанции. ОРД - это оператор рекламн...

Разработан инструмент на основе ИИ для обнаружения DDoS-атак 22:00, 02 Мар Разработан инструмент на основе ИИ для обнаружения DDoS-атак Новый инструмент на основе ИИ для обнаружения DDoS-атак. Киберпреступники придумывают все более изощренные способы нарушить работу онлайн-сервисов, получить доступ к конфиденциальным данным или вывести из строя устройства пользователей Интернета. Ки...

Высокопроизводительное хранение данных для видеопроизводства: как его обеспечивает NAS QNAP 12:00, 16 Фев Высокопроизводительное хранение данных для видеопроизводства: как его обеспечивает NAS QNAP Форматы видеопроизводства развиваются, позволяя создавая контент не только с более высоким разрешением, но с повышенными требованиями к хранению данных. Эти данные ценны, и их необходимо не только хранить, но и создавать резервные копии в надежной с...

Чтобы помочь восстановить равновесие, роботизированные экзоскелеты должны быть быстрее, чем человеческие рефлексы 11:00, 17 Фев Чтобы помочь восстановить равновесие, роботизированные экзоскелеты должны быть быстрее, чем человеческие рефлексы Носимая робототехника обещает помочь пожилым людям сохранить свою мобильность, а пациентам с параличом нижних конечностей восстановить свою. Они могли бы помочь сделать людей сильнее и быстрее. Но пока что они не очень хорошо удерживают людей от пад...

OCS предлагает сервисы StormWall для защиты от DDoS-рисков и хакерских атак 21:00, 03 Янв OCS предлагает сервисы StormWall для защиты от DDoS-рисков и хакерских атак Компания StormWall предлагает рынку решения в области информационной безопасности — сервисы на основе искусственного интеллекта для защиты от DDoS-атак, а также от хакерских атак. OCS Distribution, ведущий отечественный ИТ-дистрибьютор, представил п...

13:00, 15 Мар Форекс сегодня: доллар США стабилизируется на фоне ослабления переоценки ФРС после данных по инфляции Что нужно знать в среду, 15 марта: Доллару США удалось избавиться от давления продаж во вторник после того, как данные по инфляции в США возродили ожидания повышения ставки ФРС на 25 базисных пунктов в марте и способствовали росту доходности казначе...

15:00, 25 Ноя Алексей Кузовкин: инновационный инструмент позволит защититься от продвинутых DDoS-атак и ботов Генеральный директор компании «Инфософт», экс-председатель совета директоров группы компаний «Армада» Алексей Кузовкин представил инструмент Servicepipe. Это решение позволяет предотвращать возможные прикладные и сетевые DDoS-атаки, бороться с несан...

23:31, 29 Дек Идеи, которые помогут нам в ремонте нашего дома Как найти лучшую компанию для ремонта своей квартиры? Существует множество способов связаться с множеством профессионалов, и всегда, когда вы находитесь в процессе поиска, появляются друзья друзей, знакомые, которые знают профессионалов, которые ре...

12:00, 07 Янв Подборка достопримечательностей разных стран, которые пугают туристов Фотография болота Манчак, о которой мы поговорим чуть ниже Взрослые любители путешествий наверняка уже посетили Биг-Бен, Римский Колизей и Пизанскую башню, которая в будущем может снова стать прямой. Об этих всемирно известных достопримечательностях...

18:00, 11 Дек Эксперты назвали пищевые привычки, которые вредят коже Эксперты перечислили пищевые привычки, которые негативно влияют на состояние кожи. Об этом сообщил портал Eat This, Not That! Как отметила диетолог Паулина Ли, проблемы с кожей часто связаны со здоровьем кишечника и дисбалансом гормонов. Так, регуля...

10:00, 30 Сен Названы два города, которые будут бороться за проведение Евровидения Европейский вещательный союз (EBU) заявил, что за право проведения международного песенного конкурса в 2023 году поборются два города - Глазго и Ливерпуль. Об этом сообщает BBC. Сначала на право принимать шоу претендовали семь городов Великобритании...

15:00, 21 Дек IT-эксперт обозначил данные, которые нельзя открывать для приложений Разрешения, запрашиваемые мобильными приложениями, необходимо тщательно анализировать. IT-эксперт Академии управления финансами и инвестициями Геннадий Николаев проанализировал часто запрашиваемые приложениями разрешения и обозначил для россиян те д...

19:00, 14 Фев Поисковые системы ИИ теперь могут общаться с нами Спустя почти четверть века после того, как поисковая система Google начала менять то, как мы пользуемся Интернетом, крупные технологические компании спешат превратить знакомый веб-инструмент в ворота к новой форме искусственного интеллекта. Если каж...

09:00, 25 Сен Российского вратаря могут посадить за желание играть в НХЛ Голкипер сборной России по хоккею может сильно пострадать из-за своего желания уехать из страны и играть в сильнейшей лиге планеты - американской НХЛ. Как сообщают российские СМИ, Ивана Федотова арестовали и обвиняют в уклонении от призыва на военну...

05:00, 24 Ноя Коровы, овцы и собаки могут предсказывать землетрясения Учёные из Италии в течение нескольких месяцев наблюдали, как животные реагировали на 18 тыс. разных колебаний земной коры. Чем ближе животные находятся к эпицентру будущего землетрясения, тем раньше они демонстрируют необычное, беспокойное поведение...

16:00, 21 Окт Лучшие смартфоны 2022 года, которые стоят своих денег Находитесь в поиске смартфона и хотите, чтобы выбранный аппарат служил вам верой и правдой и отработал каждую копейку, которую вы за него заплатили? Тогда вы попали по адресу. В нашей новой подборке мы собрали семь лучших смартфонов 2022 года, котор...

21:00, 08 Ноя Промежуточные выборы в США: Три вещи, которые нужно знать - Morgan Stanley Во вторник, 8 ноября, американцы придут на избирательные участки, но может пройти несколько дней, прежде чем мы узнаем результаты промежуточных выборов. Инвесторы должны быть готовы, так как неожиданные результаты могут вызвать волатильность на рынк...

05:00, 15 Ноя Каждый так делает. Россиянам назвали привычки, которые лишают их здоровья Каждый россиянин в меру своих возможностей старается заботиться о своём здоровье: кто-то покупает здоровые продукты, кто-то занимается спортом, а кто-то бегает по врачам. Это всё классно, но порой даже бытовые мелочи, повторяемые изо дня в день, мог...

15:00, 22 Дек Вирусы могут ускорить начало болезни Альцгеймера - ученые Вирусы могут вызывать воспаление и нарушать связи между системой, которая управляет обонянием, и частью мозга, связанной с памятью и обучением, что, возможно, ускоряет начало болезни Альцгеймера. Об этом сообщает MedicalXpress. Согласно новому иссле...

11:00, 19 Янв Антенны, напечатанные на 3D-принтере, могут принести 5G и 6G в отдаленные районы Физики из Шеффилдского университета разработали напечатанные на 3D-принтере радиоантенны, которые могут обеспечить более сильный сигнал мобильного телефона и более быстрое подключение к Интернету для людей, живущих в отдаленных районах. Антенны милл...

08:00, 05 Янв Пьёте и не можете остановиться? Вот вам 8 приколов алкоголя, которые заставят от него отказаться Пьянство плохо влияет на нервную систему, пищеварение, печень, а также создаёт проблемы с психикой. Иногда из-за алкоголя люди даже умирают. И происходит это не всегда из-за проблем со здоровьем, а иногда из-за банальной неосторожности. Психотерапев...

03:00, 12 Янв Исследования могут принести автоматическое распознавание речи на 2000 языков Лишь часть из 7000–8000 языков, на которых говорят во всем мире, пользуются современными языковыми технологиями, такими как транскрипция голоса в текст, автоматические субтитры, мгновенный перевод и распознавание голоса. Исследователи из Университет...

23:00, 11 Янв Владельцы «ПСЖ» могут заплатить до 1 млрд фунтов за 25% акций «Тоттенхэма» (The Telegraph) Владельцы «ПСЖ» могут вложиться в «Тоттенхэм». Компания Qatar Sports Investments, владеющая французским клубом, рассматривает возможность приобретения миноритарного пакета акций в клубе АПЛ. На этой неделе президент «ПСЖ» и гендиректор QSI Нассер Ал...

19:00, 06 Янв Врач: Лесные пожары могут сказаться на здоровье переболевших COVID-19 Дым, гарь и смог особенно опасны для дыхательной системы. Фото: Pixabay Врач-пульмонолог Александр Карабиненко в интервью рассказал, что лесные пожары могут сказаться на здоровье людей, переболевших COVID-19. В этом году летняя знойность и сопутству...

04:00, 25 Фев Космический телескоп «Джеймс Уэбб» заснял галактики, которые «не должны были существовать» Космический телескоп «Джеймс Уэбб» продолжает делать интересные открытия. На этот раз на снимках, сделанных телескопом, ученым удалось обнаружить шесть новых галактик, масса которых превышает солнечную в 100 миллиардов раз – они та...

01:00, 06 Фев В США могут обязать Apple дать разрешение на загрузку приложений для iOS со сторонних магазинов В вопросах того, почему приложения для iOS нельзя скачать в сторонних магазинах, Apple всегда ссылалась на безопасность. Поскольку компания не контролирует приложения в стороннем магазине, она опасается, что пользователи iPhone в конечном итоге уста...

21:00, 18 Мар Учёные ответили, почему люди боятся щекотки и не могут щекотать себя Научные факты об этом явлении раскрывают нюансы сложного биологического механизма человеческого организма. Во время приступа смеха при щекотке человек не может говорить – центры речи подавляются; Фото: depositphotos Современная наука имеет несколько...

19:00, 10 Дек Украинские специалисты могут найти прямые контракты с мировыми IT-гигантами - Favbet Tech Украинские IT-специалисты могут найти прямые контракты с мировыми технологическими гигантами и, тем самым, повышают планку для всего рынка. Об этом говорится в совместном проекте AIN.UA и Favbet Tech. "С эпидемией COVID весь мир перешел на гибридную...

23:00, 03 Ноя Исследование Lenovo Think Report: что препятствует критическому мышлению и как технологии могут способствовать прогрессу В честь 30-летия бренда ThinkPad компания Lenovo провела масштабное глубинное исследование, чтобы понять мыслительные привычки, выявить различия в способах восприятия информации и раскрыть новые способы мышления с помощью технологий, которые могут у...

07:00, 17 Дек Президент ФИФА против протестов игроков на поле: «Нужно уважать футбол и фанатов, которые хотят забыть о проблемах и насладиться игрой» Джанни Инфантино считает, что футболисты не должны устраивать акции протеста на поле. Перед игрой с Японией на ЧМ-2022 футболисты сборной Германии закрыли рты руками на общекомандном фото. Ранее ФИФА запретила Германии и другим сборным носить повязк...

19:00, 25 Фев Инсайдеры Windows 11 на канале Beta могут покинуть программу Windows Insider до 8 марта Microsoft объявила, что инсайдеры Windows 11 на канале Beta, которые больше не хотят получать предварительные сборки операционной системы, могут покинуть программу Windows Insider и вернуться на стабильный канал обновлений. Принять решение необходим...

19:00, 23 Ноя «Машины, которые скоро начнёт собирать Автотор», — инсайдер полагает, что на конвейере российского завода может прописаться электромобиль BAIC EU5 и кроссовер BAIC X7 Автоэксперт Сергей Цыганов опубликовал в своём Telegram-канале «Русский автомобиль» живые фото пары автомобилей китайской марки BAIC. По словам Цыганова, это «… машины, которые скоро начнёт собирать Автотор». BAIC EU5 ...