Искусственный интеллект представляет собой риск «вымирания»

Мировые лидеры должны работать над снижением «риска исчезновения» технологий искусственного интеллекта, предупредила во вторник группа руководителей отрасли и экспертов. В однострочном заявлении, подписанном десятками специалистов, в том числе Сэмом Альтманом, чья фирма OpenAI создала бота ChatGPT, говорится, что устранение рисков, связанных с ИИ, должно быть «глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». ChatGPT ворвался в центр внимания в конце прошлого года, продемонстрировав способность генерировать эссе, стихи и разговоры по самым кратким подсказкам. Ошеломительный успех программы вызвал золотую лихорадку с миллиардами долларов инвестиций в эту область, но критики и инсайдеры забили тревогу. Общие опасения включают в себя возможность того, что чат-боты могут наводнить сеть дезинформацией, что предвзятые алгоритмы будут штамповать расистские материалы или что автоматизация на основе ИИ может уничтожить целые отрасли. Сверхразумные машины В последнем заявлении, размещенном на веб-сайте американского некоммерческого Центра безопасности ИИ, не содержится никаких подробностей о потенциальной угрозе существованию, которую представляет ИИ. В центре заявили, что «краткое заявление» было призвано открыть дискуссию об опасностях технологии. Несколько подписавшихся, в том числе Джеффри Хинтон, который создал некоторые технологии, лежащие в основе систем искусственного интеллекта, и известен как один из крестных отцов отрасли, делали аналогичные предупреждения в прошлом. Больше всего их беспокоило появление так называемого искусственного общего интеллекта (ИИА) — слабо определенной концепции на тот момент, когда машины смогут выполнять широкий спектр функций и могут разрабатывать свои собственные программы. Опасения заключаются в том, что люди больше не смогут контролировать сверхразумные машины, которые, как предупреждают эксперты, могут иметь катастрофические последствия для вида и планеты. Заявление подписали десятки ученых и специалистов из компаний, включая Google и Microsoft — лидеров в области искусственного интеллекта. Это произошло через два месяца после того, как глава Tesla Илон Маск и сотни других опубликовали открытое письмо с призывом приостановить разработку такой технологии до тех пор, пока не будет доказано, что она безопасна. Однако письмо Маска вызвало широкую критику за то, что страшные предупреждения об общественном коллапсе были сильно преувеличены и часто отражали тезисы сторонников ИИ. Ученый из США Эмили Бендер, соавтор влиятельных статей с критикой ИИ, сказала, что мартовское письмо, подписанное сотнями известных деятелей, «пропитано шумихой вокруг ИИ». «Удивительно беспристрастный» Бендер и другие критики обрушились с критикой на фирмы, занимающиеся искусственным интеллектом, за отказ опубликовать источники своих данных или рассказать, как они обрабатываются — так называемая проблема «черного ящика». Среди критических замечаний есть то, что алгоритмы могут быть обучены расистским, сексистским или политически предвзятым материалам. Альтман, который в настоящее время путешествует по миру, пытаясь помочь сформировать глобальную дискуссию об ИИ, несколько раз намекал на глобальную угрозу, которую представляет технология, которую разрабатывает его фирма. «Если с ИИ что-то пойдет не так, никакие противогазы вам не помогут», — сказал он небольшой группе журналистов в Париже в прошлую пятницу. Но он защищал отказ своей фирмы публиковать исходные данные, говоря, что критики на самом деле просто хотели знать, были ли модели предвзятыми. «Там важно, как это работает в тесте на расовую предвзятость», — сказал он, добавив, что последняя модель была «на удивление беспристрастной»....

Искусственный интеллект представляет собой риск «вымирания»

Сообщает android-robot.com

 

Новость из рубрики:

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Это уже не Москвич, а почти Порш: Что собой представляет 300-сильный М-2141 18:00, 18 Сен Это уже не «Москвич», а почти «Порш»: Что собой представляет 300-сильный М-2141? «Москвич», который смог. АЗЛК был главным конкурентом Волжскому автомобильному заводу и выпускал автомобили, которые были лучше, чем «детища» компании «АвтоВАЗ», но по каким-то причинам некогда знаменитый завод пр...

Как компьютеры и искусственный интеллект развиваются вместе 18:00, 19 Июл Как компьютеры и искусственный интеллект развиваются вместе Совместное проектирование, то есть одновременное проектирование программного и аппаратного обеспечения, является одним из способов удовлетворения потребностей в вычислительной мощности современных приложений искусственного интеллекта. Компиляторы, п...

Искусственный интеллект научился выявлять рак на ранней стадии 16:00, 01 Май Искусственный интеллект научился выявлять рак на ранней стадии Ученые фонда Royal Marsden NHS, Института исследования рака в Лондоне и Имперского колледжа Лондона разработали модель искусственного интеллекта, которая может диагностировать онкологические заболевания на ранних стадиях его развития, сообщает The G...

Искусственный интеллект поможет предотвратить незаконное строительство 14:00, 17 Янв Искусственный интеллект поможет предотвратить незаконное строительство Беспилотные летательные аппараты, дроны, уже не являются сюрпризом для прохожих во время мероприятий или солнечным днем ​​в центре города. Дроны, которые уже давно используются в боевых действиях, теперь популярны не только у профессиональных и люби...

Найдена проблема, сбивающая с толку современный искусственный интеллект 08:00, 17 Дек Найдена проблема, сбивающая с толку современный искусственный интеллект Представьте, что вы просматриваете фотографии на своем телефоне и натыкаетесь на изображение, которое сначала не можете распознать. Похоже на что-то нечеткое на диване; может это быть подушка или пальто? Через пару секунд щелкает — конечно! Этот пух...

Искусственный интеллект показал, что мы не настолько индивидуальны, как нам хотелось бы думать 12:00, 31 Окт Искусственный интеллект показал, что мы не настолько индивидуальны, как нам хотелось бы думать Ученый-компьютерщик из Астонского университета использовал искусственный интеллект (ИИ), чтобы показать, что мы не настолько индивидуальны, как нам хотелось бы думать. В конце 1960-х известный психолог Стэнли Милгрэм продемонстрировал, что если чело...

Искусственный интеллект и человечество выигрывают от спирали взаимного обучения 15:00, 19 Мар Искусственный интеллект и человечество выигрывают от «спирали» взаимного обучения Искусственный интеллект и человечество выигрывают от «спирали» взаимного обучения, говорит сторонник «когнитивной физики». Дейи Ли из Китайской ассоциации искусственного интеллекта считает, что отношения людей и машин взаимовыгодны. Его статья о маш...

Искусственный интеллект улучшил качество изображения черной дыры 05:00, 10 Май Искусственный интеллект улучшил качество изображения черной дыры Искусственный интеллект помог ученым улучшить фото черной дыры в галактике Messier 87 (M87). Об этом сообщает Space. Изображение черной дыры M87*, расположенной в 55 миллионах световых лет от Земли, было сделано телескопом Event Horizon (EHT) в 2019...

22:00, 25 Сен Программисты из России запустили искусственный интеллект, предсказывающий успешность заголовка Новая разработка российских программистов позволит оценить привлекательность заголовков на русском языке с помощью искусственного интеллекта. Сервис называется Турбочек. Его алгоритмы за несколько секунд просчитывают процент пользователей, которые к...

07:00, 05 Апр Сбербанк запустил сервис постановки диагноза через искусственный интеллект Сбербанк запустил в оборот сервис, который способен определить состояние человека по представленным симптомам. За работу докторов берется искусственный интеллект. Цифровая медицина – это достаточно перспективное направление, но специалисты видят бол...

20:00, 06 Окт Искусственный интеллект сломал поддержку видеокарт AMD Radeon в Windows 11. Как устранить проблему? Свежее обновление Windows 11 (KB5030310 или Moment) вызывает проблемы с драйверами видеокарт AMD Radeon. Из-за этого графика в играх зависает, а звук, который выводится через HDMI, прерывается или исчезает. Опытным путём было установлено, что пробле...

04:00, 27 Фев Выставка мобильных технологий MWC продемонстрирует новые телефоны, искусственный интеллект и метавселенную Новейшие смартфоны со складным экраном, иммерсивные метавселенные, аватары чат-ботов на базе искусственного интеллекта и другие привлекательные технологии призваны удивить посетителей ежегодной выставки беспроводной связи MWC, которая начинается в п...

00:00, 04 Май Искусственный интеллект начал читать мысли, правда пока только на небольшом расстоянии Искусственный интеллект научился читать мысли людей, выполняя анализ активности головного мозга. Для этого используются данные магнитно-резонансной томографии (МРТ). Метод был разработан специалистами Техасского университета. Ученые утверждают, что ...

03:00, 24 Май Build 2023: Microsoft добавляет искусственный интеллект в Microsoft Store для Windows 11 Microsoft интегрирует искусственный интеллект в магазин Microsoft Store, чтобы пользователям было проще найти приложения, использующие ИИ. В частности, компания добавит раздел «AI Hub», где будут собраны приложения с искусственным интеллектом от сто...

09:00, 26 Фев У вас была травма головы? Риск рака повышен Исследователи из Онкологического института поняли механизм того, как травма может способствовать развитию относительно редкой, но часто агрессивной формы опухоли головного мозга, называемой глиомой. «Наше исследование показывает, что травма головног...

12:00, 06 Фев Привычка ковырять в носу несет риск развития болезни Альцгеймера Ученые из университета Западного Сиднея в Австралии провели исследование и пришли к выводу, что привычка ковырять в носу может увеличивать риск развития болезни Альцгеймера. Прикосновение грязными руками к слизистым оболочкам носа может привести к п...

01:00, 30 Июн Невролог Исайкин: 60–70% грыж межпозвонковых дисков рассасываются сами собой Так что, услышав серьёзный вердикт врача, не стоит торопиться ложиться под нож. Это касается симптомных грыж, а те, которые вашей жизни никак не мешают, удалять вообще не нужно. О том, какие грыжи не требуют операции, «Газете. Ru» рассказал сотрудни...

01:00, 11 Май Исследование представляет большие мозгоподобные нейронные сети для ИИ В новом исследовании в журнале Nature Machine Intelligence исследователи Боджиан Инь и Сандер Бохте из голландского национального исследовательского института математики и компьютерных наук (CWI), партнера HBP, демонстрируют значительный шаг на пути...

23:00, 06 Янв Yeelight представляет новые продукты для умного дома Yeelight, мировой бренд интеллектуального освещения, представил на выставке CES 2023 ряд новых продуктов и решений для умного дома, призванных обеспечить больший комфорт, уют и технологическое совершенство в любом помещении. Компания Yeelight, широк...

17:20, 06 Июл Робомобили Waymo представляют собой передовую технологию в области автономных транспортных средств Робомобили Waymo, разработанные компанией Waymo, являются одними из самых передовых и перспективных автономных транспортных средств на сегодняшний день. Waymo, дочерняя компания Google, долгое время работала над разработкой и тестированием технологи...

20:00, 11 Янв QNAP представляет сетевое хранилище TVS-h874 с гибридной технологией Intel Core, оптимизирующей производительность для приложений виртуализации Компания QNAP Systems, ведущий разработчик вычислительных и сетевых решений, а также решений для хранения данных, сегодня представила новые высокопроизводительные модели NAS TVS-h874 QuTS hero, которые оснащены 16-ядерными процессорами Intel Core i9...

15:00, 25 Май Алкоголь в умеренных количества может улучшить память и интеллект пожилых людей У женщин и мужчин возрастом около 62 лет умственные способности стали лучше после употребления алкоголя нормированными порциями. Алкоголь может быть полезен только в умеренных количествах, а при чрезмерном потреблении оказывает разрушительное влияни...