Замедление искусственного интеллекта не поможет, считает профессор

Развитие искусственного интеллекта (ИИ) выходит из-под контроля, по мнению примерно 3000 человек, подписавших открытое письмо, опубликованное лидерами бизнеса и учеными. Подписанты призывают к временному прекращению обучения особо высокопроизводительных систем искусственного интеллекта. Профессор Урс Гассер, эксперт по управлению цифровыми технологиями, исследует важные вопросы, от которых письмо отвлекает внимание, говорит о том, почему «агентство технического надзора за искусственным интеллектом» имеет смысл, и смотрит, как далеко продвинулся ЕС по сравнению с США с точки зрения регулирования. Системы искусственного интеллекта, способные конкурировать с человеческим интеллектом, могут повлечь за собой серьезные риски для общества и человечества, считают авторы открытого письма . Поэтому, продолжают они, в течение как минимум шести месяцев не следует проводить дальнейшую разработку технологий, которые являются более мощными, чем недавно представленный GPT-4, преемник языковой модели ChatGPT. Авторы призывают к внедрению правил безопасности в сотрудничестве с независимыми экспертами. Если лаборатории искусственного интеллекта не смогут добровольно приостановить разработку, правительства должны санкционировать паузу в законодательном порядке, заявляют подписавшие соглашение. Профессор Гассер, вы поддерживаете экстренные меры, о которых говорится в письме? К сожалению, открытое письмо поглощает много внимания, которое лучше было бы посвятить другим вопросам в дебатах об ИИ. Правильно будет сказать, что сегодня, наверное, никто не знает, как обучить чрезвычайно мощные системы ИИ так, чтобы они всегда были надежными, полезными, честными и безвредными. Тем не менее, пауза в обучении ИИ не поможет добиться этого, в первую очередь потому, что установить такой мораторий на глобальном уровне было бы невозможно, а также потому, что реализовать предусмотренные правила в течение всего лишь полугода не получится. Я убежден, что необходимо поэтапное развитие технологий параллельно с применением и адаптацией механизмов управления. На какие вопросы желательно обратить внимание вместо моратория? Прежде всего, открытое письмо вновь вызывает призрак того, что именуется искусственным всеобщим интеллектом. Это отвлекает внимание от сбалансированного обсуждения рисков и возможностей, связанных с теми технологиями, которые в настоящее время выходят на рынок. Во-вторых, в документе говорится о будущих моделях-преемниках GPT-4. Это отвлекает внимание от того факта, что предшественник GPT-4, ChatGPT, уже поставил перед нами серьезные проблемы, которые нам срочно необходимо решить, например дезинформацию и предубеждения, которые машины воспроизводят и масштабируют. И в-третьих, впечатляющие требования, изложенные в письме, отвлекают нас от того факта, что у нас уже сейчас есть инструменты, которые мы могли бы использовать для регулирования разработки и использования ИИ. На что будут ориентированы такие правила, какие инструменты у нас есть? В последние годы наблюдается интенсивное развитие этических принципов, которыми следует руководствоваться при разработке и применении ИИ. В важных областях они были дополнены техническими стандартами и передовым опытом. В частности, Принципы ОЭСР в отношении искусственного интеллекта связывают этические принципы с более чем 400 конкретными инструментами. А Национальный институт стандартов и технологий США (NIST) выпустил 70-страничное руководство по обнаружению и устранению искажений в системах искусственного интеллекта. В области безопасности в основных моделях ИИ мы видим новые методы, такие как конституционный ИИ, в котором система ИИ «узнает» принципы хорошего поведения от людей, а затем может использовать результаты для мониторинга другого приложения ИИ. Существенный прогресс был достигнут с точки зрения безопасности, прозрачности и защиты данных, и даже существуют специализированные инспекционные компании. Теперь главный вопрос заключается в том, использовать ли такие инструменты, и если да, то как. Возвращаясь к примеру ChatGPT: будут ли журналы чатов пользователей включены в модель для итеративного обучения? Разрешены ли плагины, которые могут записывать взаимодействие с пользователем, контакты и другие личные данные? Временный запрет и начало расследования итальянскими органами по защите данных в отношении разработчиков ChatGPT — признаки того, что здесь еще очень многое неясно. В открытом письме содержится требование о том, чтобы дальнейшее развитие систем ИИ не проводилось до тех пор, пока не будет уверенности в том, что системы ИИ будут иметь положительный эффект, а связанные с ними риски управляемы. На каком этапе развития можно было бы настолько хорошо предсказать влияние системы ИИ, чтобы такое регулирование имело смысл? История технологий учит нас тому, что трудно предсказать «хорошее» или «плохое» использование технологий, даже если технологии часто влекут за собой оба аспекта, а негативные последствия часто могут быть непреднамеренными. Вместо того, чтобы зацикливаться на определенном моменте в прогнозе, мы должны сделать две вещи: во-первых, мы должны спросить себя, какие приложения мы как общество не хотим, даже если бы они были возможны. Нужны четкие красные линии и запреты. Здесь я имею в виду автономные системы вооружения в качестве примера. Во-вторых, нам необходимо комплексное управление рисками, охватывающее весь диапазон от разработки до использования. Выдвигаемые здесь требования возрастают по мере роста масштабов потенциальных рисков для людей и окружающей среды, создаваемых данным приложением. Европейский законодательный орган прав в своем подходе. Согласно предложению, независимые эксперты должны оценить риски ИИ. Этот вид независимой инспекции является очень важным инструментом, особенно когда речь идет о приложениях, которые могут оказать значительное влияние на людей. И, кстати, это не новая идея: мы уже видим подобные инспекционные процедуры и случаи в действии в самых разных сферах жизни, начиная от автомобильных инспекций и заканчивая проверками общетехнического оборудования и финансового аудита. Однако с некоторыми методами и приложениями ИИ проблема непропорционально больше, потому что некоторые системы развиваются по мере их использования, т. е. по своей природе они динамичны. И также важно понимать, что одни только эксперты не смогут дать хорошую оценку всех социальных последствий. Нам также нужны инновационные механизмы, которые, например, включают обездоленных людей и недостаточно представленные группы в обсуждение последствий ИИ. Это непростая работа, я хотел бы привлечь больше внимания. Авторы также обращаются к политической сфере. Политика будет нести ответственность за закрепление такого «агентства технической инспекции ИИ» в системе. Нам действительно нужны четкие правовые нормы для искусственного интеллекта. На уровне ЕС в настоящее время завершается работа над законом об ИИ, призванным обеспечить безопасность технологий ИИ и соблюдение основных прав. Законопроект предусматривает классификацию технологий искус...

Сообщает android-robot.com

Новость из рубрики: Интернет, Игры

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

04:00, 15 Май Meta представила новую модель искусственного интеллекта Компания Meta Platforms представила новую модель искусственного интеллекта с открытым кодом под названием ImageBind, сообщает издание Verge. Новая модель ИИ связывает несколько форм данных, таких как аудио, текст, визуальные данные, данные о глубине...

13:00, 23 Июн The Beatles написали песню с помощью искусственного интеллекта Один из основателей The Beatles Пол Маккартни рассказал, что искусственный интеллект дописал последнюю песню группы The Beatles. Об этом сообщает The Guardian. Музыкант рассказал, что использовал новую технологию, чтобы "вытащить" голос покойного Дж...

08:00, 05 Сен Google привлекает компании к использованию облачного искусственного интеллекта Google заявила, что все глубже внедряет искусственный интеллект (ИИ) в свои облачные предложения, поскольку соперничает за бизнес фирм, стремящихся извлечь выгоду из этой технологии. Интернет-гигант представил новые функции на базе искусственного ин...

15:00, 08 Авг Открыт алгоритм для увеличения скорости обучения искусственного интеллекта Ученые из Tinkoff Research открыли алгоритм для увеличения скорости обучения искусственного интеллекта в 20 раз. Ученые из лаборатории исследований искусственного интеллекта (ИИ) Tinkoff Research открыли новый алгоритм для обучения ИИ. Новый метод, ...

15:00, 02 Мар Представлена система искусственного интеллекта, предлагающая эмоциональную поддержку через чат Быстрое развитие моделей обработки естественного языка (NLP) и больших языковых моделей (LLM) позволило разработать новые диалоговые агенты для конкретного использования, предназначенные для ответа на определенные типы запросов. Они варьируются от а...

21:00, 21 Сен Как кибермошенники пытаются заставить инструменты искусственного интеллекта приносить прибыль Сторонники искусственного интеллекта говорят, что его потенциал безграничен. Но кибермошенники также могут использовать это в своих целях. Аналитики объяснили, как эта технология может повысить риск онлайн-преступлений. Фишеры электронных писем Чат-...

04:00, 25 Июл В Москве при помощи искусственного интеллекта с начала года проанализированы 100 тысяч маммограмм С 2023 года Москва впервые в стране ввела специальный тариф в рамках обязательного медицинского страхования на анализ рентгеновских снимков с помощью сервисов искусственного интеллекта. Первым в ОМС включили анализ маммографических исследований. За ...

12:00, 17 Апр Представлен Taichi: крупномасштабный дифракционный гибридный фотонный чипсет искусственного интеллекта Объединенная команда инженеров из Университета Цинхуа и Пекинского национального исследовательского центра информационных наук и технологий, расположенных в Китае, разработала крупномасштабный дифракционный гибридный фотонный чипсет искусственного и...

12:00, 15 Фев Мультимодальная модель искусственного интеллекта может помочь в персонализированном лечении туберкулеза Команда исследователей Мичиганского университета разработала мультимодальную модель искусственного интеллекта для прогнозирования результатов лечения больных туберкулезом (ТБ). Их анализ данных о пациентах по всему миру может привести к персонализац...

07:00, 09 Окт Подход искусственного интеллекта позволил создать «спортивно умную» роботизированную собаку Когда-нибудь, когда случаются землетрясения, пожары и наводнения, первыми, кто отреагирует, станут стаи собак-роботов-спасателей, спешащих на помощь застрявшим душам. Эти четвероногие животные, работающие на батарейках, будут использовать компьютерн...

11:00, 19 Окт Модели искусственного интеллекта определяют биоразнообразие по звукам животных в тропических лесах Тропические леса являются одними из важнейших мест обитания на нашей планете. Они характеризуются чрезвычайно высоким видовым разнообразием и играют выдающуюся роль в глобальном углеродном цикле и мировом климате. Однако многие районы тропических ле...

08:00, 22 Ноя Система искусственного интеллекта самоорганизуется для развития особенностей мозга сложных организмов Ученые из Кембриджа показали, что наложение физических ограничений на искусственно интеллектуальную систему – почти так же, как человеческий мозг должен развиваться и действовать в рамках физических и биологических ограничений – позволяет ему развив...

11:00, 05 Апр DeepMind разрабатывает SAFE, приложение на основе искусственного интеллекта, которое может проверять факты Команда специалистов по искусственному интеллекту из Google DeepMind разработала систему на основе искусственного интеллекта под названием SAFE, которую можно использовать для проверки фактов результатов LLM, таких как ChatGPT. Группа опубликовала д...

12:00, 20 Май Новое программное обеспечение на основе искусственного интеллекта позволяет быстро и надежно визуализировать белки в клетках Электронная криотомография (крио-ЭТ) становится мощной техникой для получения подробных трехмерных изображений клеточной среды и замкнутых биомолекул. Однако одной из задач методологии является идентификация белковых молекул на изображениях для даль...

21:00, 18 Ноя Система искусственного интеллекта «Student of Games» компании Deep Mind может побеждать людей в различных играх Команда исследователей искусственного интеллекта из EquiLibre Technologies, Sony AI, Amii и Midjourney, работающая с проектом Google DeepMind, разработала систему искусственного интеллекта под названием Student of Games (SoG), которая способна как п...

13:00, 07 Окт Разрабатывают решения искусственного интеллекта для включения арабского языка и его диалектов в обработку естественного языка Группа исследователей и инженеров из Университета Шарджи разработала систему глубокого обучения для использования арабского языка и его разновидностей в приложениях, связанных с обработкой естественного языка (НЛП), междисциплинарной областью лингви...

00:00, 20 Июл Елена Родина считает, что команду Тутберидзе развалил Глейхенгауз Блогер связала уход Сергея Розанова с поведением Даниила. Глейхенгауза считают едва-ли не главным творцом побед «Хрустального». Но Родина уверена — он же всё и уничтожил. Команду Этери Тутберидзе развалил Даниил Глейхенгауз, считае...

15:43, 17 Сен Тренер Джошуа считает, что Энтони рано выходить против Фьюри Энтони Джошуа любит вызовы, потому и принял предложение Тайсона Фьюри о бое. Так решение своего подопечного прокомментировал наставник бывшего чемпиона мира Роберт Гарсия. При этом сам специалист не в восторге от такого поединка. По его мнению, бой ...

20:00, 13 Мар Nintendo считает, что Zelda Tears of the Kingdom оправдает цену в 70 долларов Президент Nintendo of America Дуг Баузер заявил, что компания ожидает, что The Legend of Zelda: Tears of the Kingdom оправдает цену в 70 долларов. В прошлом месяце компания объявила, что предстоящая игра будет стоить 69,99 долларов, что стало первым...

22:00, 27 Сен BadComedian считает, что Эрнст «по блату» взял жену Софью в новый фильм В «Союзе спасения», стоившему Первому каналу почти 1 млрд рублей, супруга Константина Львовича исполнила бесполезную роль, уверен известный кинообзорщик. Роль Софьи BadComedian считает бесполезной, но благодаря съемкам жены Эрнста в «Союзе спасения»...

19:00, 26 Сен Алина Кабаева считает, что допинг-пробу Валиевой задержали для лишения команды РФ золотой медали По мнению гимнастки, ситуация тщательно спланирована и походит на «целенаправленный наезд» на российских спортсменов. Алина Кабаева, олимпийская чемпионка 2004 года, двукратная абсолютная чемпионка мира (1999 и 2003 годы). Фото: smi2.ru Свою позицию...

15:42, 17 Сен AMD не собирается идти по пути Intel. Компания считает, что нет смысла в разработке процессорных ядер разных классов Компания AMD не видит смысла в том, чтобы создавать отдельные специализированные процессорные ядра для каких-то видов задач. На конференции старшие вице-президенты AMD Форрест Норрод (Forrest Norrod) и Рут Коттер (Ruth Cotter) рассказали о стратегии...

08:00, 25 Сен Чем поможет травматолог? Травматологом называется врач, который занимается лечением различных деформаций костей и суставов, а также их болезней. Этот специалист помогает снять болевые ощущения, останавливает кровотечения, фиксирует поврежденные конечности, выполняет транспл...

01:00, 10 Апр Разрабатывают искусственного патологоанатома Группа ученых из Института наук о свете Макса Планка (MPL) в Эрлангене разработала новый, быстрый и точный метод анализа клеток в образцах тканей раковых больных без участия квалифицированного патологоанатома. Они используют искусственный интеллект ...

13:00, 07 Апр Голосовой робот поможет пассажирам успеть на рейс МегаФон создал самообучающегося голосового робота-консультанта, который помогает пассажирам авиакомпании NordStar контролировать точное время вылета и прилета. Внедрение технологии уже значительно сократило время обработки запросов в периоды нестаби...

06:00, 29 Июл «Банки.ру»: получить две ипотеки поможет наличие созаёмщика Для кредитора это будет выглядеть, будто вы раздвоились — вместе с финансовыми обязательствами перед ним. Ибо даже если созаёмщик не собирается пользоваться деньгами банка, требования к нему и спрос практически такие же, как и к вам. Но и при этом п...

23:00, 07 Янв Дерматовенеролог Иванов: оливковое масло не поможет от вшей Как и многие другие народные методы. Иногда так бывает, что дети приносят из школы или детского сада вшей. Проблема это неприятная и деликатная, но знать, как с ней справиться нужно обязательно. Уже давно известно, что вши — не признак плохой гигиен...

14:00, 17 Янв Искусственный интеллект поможет предотвратить незаконное строительство Беспилотные летательные аппараты, дроны, уже не являются сюрпризом для прохожих во время мероприятий или солнечным днем в центре города. Дроны, которые уже давно используются в боевых действиях, теперь популярны не только у профессиональных и люби...

04:00, 08 Май "Наш" суперфуд: как организму поможет льняное масло с селеном Льняное масло - один из самых популярных и полезных продуктов в современной диетологии. Это растительное масло, получаемое из семян льна методом холодного отжима. Льняное масло с селеном содержит множество полезных веществ, в том числе омега-3 жирны...

19:00, 24 Окт Беспилотная Vesta поможет НАМИ отточить алгоритмы вождения Машина оснащена радаром, камерами, в том числе стерео, фронтальным, центральным и боковыми лидарами, и ориентируется по высокоточной 3D-карте местности. Научный центр НАМИ разработал систему автономного движения, которую в перспективе можно будет ус...

09:00, 13 Окт Анализ метаболизма по моче поможет выбрать подходящую диету Понимание скорости обмена веществ в организме поможет худеющим избежать ошибок в питании, считают учёные. В зависимости от диетологического показателя типа метаболизма человек может как худеть, так и поправляться даже на здоровом и натуральном питан...

15:00, 12 Июл Опыт Илона Маска поможет развитию российской космонавтики Последние годы отрасль в упадке, но частные компании способны изменить ситуацию. После развала Советского Союза российская космонавтика начала отставать от запада. В 2020 году, когда весь мир следит за успехами Илона Маска и NASA, Россию критикуют и...

13:00, 01 Фев Тестируют стикеры: Instagram поможет благотворительным фондам собирать деньги В соцсети хотят внедрить функцию перевода финансовых средств через обмен стикерами. Instagram поможет благотворительным фондам собирать деньги с пользователей, а сейчас реализация проекта находится на стадии закрытого тестирования. Соцсеть введет сп...

04:00, 20 Июн Новая функция Google Lens поможет определить кожные заболевания Компания Google добавила в свой инструмент распознавания объектов Lens новую функцию — возможность поиска состояний кожи. «Словами описать родинку или сыпь на коже может быть трудно. К счастью, есть новый способ, которым Lens может помочь с во...

17:00, 13 Сен Окей, Гугл! Один вечерний ритуал поможет рано встать без будильника Главное встать — проснемся потом. Каждое утро буднего дня становится испытанием для «белых воротничков». Не успеваешь лечь спать, как тут же наступает утро. Глаза не открываются, будильник неустанно звенит каждые пять минуточек, а на работе уже ждет...

20:00, 26 Авг Неужели дождались модернизации на «АвтоВАЗе»? Поможет ли новая установка делать авто лучше Какие ожидать изменения на «АвтоВАЗе» после модернизации оборудования? Со временем каждому предприятию требуется модернизация. Для старта реализации этого процесса веским аргументом для «АвтоВАЗа» видимо стало устаревшее или ...

01:00, 28 Сен Японская миссия SLIM сделала изображение Земли в качестве теста камеры, которая поможет зонду совершить точную посадку на Луну SLIM был запущен на ракете H-2A 6 сентября. Миссия прошла первую критическую фазу на земной орбите, успешно завершив серию испытаний систем. Новые данные от SLIM пришли в виде фотографии Земли. Фотография была сделана для теста камеры, которая помож...