• О проекте
  • Контакты
Среда, 6 июля, 2022
  • Вход
  • Зарегистрироваться
No Result
View All Result
АСУТП.ru
Средства и системы
промышленной автоматизации
  • Новости
  • События
  • Публикации
  • Компании
  • Рынки и продукты
    • Системы управления производством
    • Программно-технические комплексы
    • Программное обеспечение
    • Промышленные сети
    • Промышленные компьютеры/PLC
    • Электротехническое оборудование
    • КИП
  • Новости
  • События
  • Публикации
  • Компании
  • Рынки и продукты
    • Системы управления производством
    • Программно-технические комплексы
    • Программное обеспечение
    • Промышленные сети
    • Промышленные компьютеры/PLC
    • Электротехническое оборудование
    • КИП
No Result
View All Result
АСУТП.ru
No Result
View All Result
Реклама
Главная Публикации

Проблемы и риски, о которых стоит помнить, развивая ИИ, технологии больших данных и IoT

от admin
22.01.2020
в Публикации
0 0
AA
1
23
SHARES

16 января 2020 года Центр подготовки руководителей цифровой трансформации, сформированный на базе Высшей школы государственного управления РАНХиГС, сообщил, что совместно Высшей школой экономики составил доклад о главных этических проблемах и рисках, вызываемых в России цифровыми технологии, а также возможных путях их решения.[3]

В докладе эксперты представили главные проблемы этики работы с данными, этики искусственного интеллекта (ИИ) и интернета вещей (ИВ).

Похожие публикации

МТС запустила платформу для разработки IoT решений

«Росэлектроника» разработала беспроводные Bluetooth-датчики для Интернета вещей

Кибербезопасность 2021-2022. Тренды и прогнозы: Промышленность, производство и энергетика: защита «вслепую»

Работа с данными

Как отмечается в докладе, большинство участников рынка данных — представители бизнеса, которым выгодно собирать как можно больше данных пользователей. Посредством сбора, обработки и продажи данных компании извлекают сверхприбыли. Капитализация ИТ-гигантов составляет миллиардыдолларов.

«
Им выгодно продолжать массовый сбор данных их основного ресурса и источника дохода, поскольку пользователям проще согласиться, чем разбираться детально, какие данные они отдают, — заявляется в докладе.
»

Его авторы также обращают внимание на отсутствие информации у пользователей об обращении с их информацией. По мнению экспертов, пользователи почти никогда не знают:

Реклама
  • какие данные о них собираются;
  • у кого и насколько надежно они хранятся;
  • сколько компаний, людей и государственных органов каких именно стран имеют доступ или возможность получить доступ к этим данным;
  • какие их социальные связи с какими другими людьми прослеживаются;
  • как удалить свои данные в базах компаний, отозвать свое согласие.
«
Инфляция приватности — со временем пользователи отдают все больше данных за тот же объем услуг и комфорта — и монополизация рынка цифровых услуг могут иметь серьезные последствия, — замечается в докладе.
»

Государство является владельцем большого количества данных граждан и организаций и в перспективе может собирать их еще больше, уверены авторы доклада. При этом, по их мнению, государство отстраняется от законодательного ограничения бизнеса при обороте данных, предпочитая использовать собранные данные о гражданах в своих целях.

Государство отстраняется от законодательного ограничения бизнеса при обороте данных, предпочитая использовать собранные данные о гражданах в своих целях, утверждают авторы доклада

Государство отстраняется от законодательного ограничения бизнеса при обороте данных, предпочитая использовать собранные данные о гражданах в своих целях, утверждают авторы доклада

Некорректная работа с данными государства, как утверждают эксперты, может быть чревата следующими рисками:

  • непреднамеренное создание алгоритмов и систем принятия решений, дискриминирующих отдельные группы населения из-за недостаточно тщательного отбора данных для обучения алгоритмов;
  • конфликт интересов общества и отдельных групп граждан и общественное неприятие инициатив, в том числе из-за отсутствия информационной поддержки и предварительной работы с общественным мнением;
  • принятие на государственном уровне неверных решений с далеко идущими последствиями в виде финансовых, репутационных и иных потерь для государства;
  • непреднамеренное нарушение законов госслужащими по причине неэтичного использования данных, повлекшего за собой значительный ущерб.

Авторы доклада также заявляют о ряде других негативных последствий, происходящих из-за действий государства в отношении данных:

  • сложности и замедление развития технологий искусственного интеллекта как результат зарегулированности доступа к данным;
  • утечки данных.

Решение проблем этики данных вРоссииавторы доклада видят в национальной концепции или стратегии развития рынка данных, соблюдающей принципы, в том числе этические, госрегулирования рынка и учитывающая степень участия государства.

Искусственный интеллект

По мнению экспертов, привнести этичность в саму технологию искусственного интеллекта сложно, так как моральный выбор не имеет четко обозначенных нормами закона границ.

«
Поэтому в области искусственного интеллекта на первый план выходит проблема этичности его «поведения», так называемой машинной этики, в ситуации, когда решение касается людей, и сопряженные с ней этические проблемы, — отмечается в докладе.
»

Среди обозначенных проблем авторы доклада выделяют следующие:

  • ответственность за этичное/неэтичное поведение искусственного интеллекта, за принятие ошибочных решений, ущерб из-за сбоев и т.п.;

Решением данной проблемы авторы доклада считают различные варианты: от личной ответственности роботов до полного освобождения кого-либо от ответственности за действия искусственного интеллекта.

  • предвзятость систем искусственного интеллекта в целом и программ-советчиков в частности;
«
Для того, чтобы система искусственного интеллекта была справедливой, необходимо исключить предвзятость и предубеждения в исходных данных, на которых ИИ обучается. На практике даже при тщательной подготовке данных это не всегда возможно, — обращают внимание авторы доклада.
»

 

  • прозрачность решений искусственного интеллекта и приватности пользовательских данных при его применении;

Одним из подходов к решению проблем приватности, прозрачности и предвзятости искусственного интеллекта эксперты считают создание стандартов на разработку этически ориентированных интеллектуальных систем.

  • надежность искусственного интеллекта.
«
Стандартизация призвана повысить надежность систем искусственного интеллекта и установить минимальный уровень, находясь ниже которого, система не может считаться надежной. В то же время эта планка не должна быть превышать возможности сегодняшних технологий, чтобы разработчики не были ограничены в процессе создания новых прорывных решений и не уводили часть технологий с легального рынка, — заявляют авторы доклада.
»

Интернет вещей

Ключевыми проблемами интернета вещей авторы доклада обозначают нарушение конфиденциальности и падение доверия к интернету в целом. Помимо устройств интернета вещей для личного использования, вызывающих наибольшее число этических вопросов, эксперты обращают внимание на проблемы, связанные с интернетом вещей в промышленности, торговле и на транспорте. Это такие проблемы, как приватность и сохранность личных данных.

«
Во многих случаях данные, используемые для аналитики, генерируются автоматически — например, путем отслеживания онлайн-активности, а не предоставляются людьми сознательно. Возникает проблема скрытого сбора данных, которые «могут быть использованы против вас». Пользователю приходится доверять устройствам интернета вещей, подключенным к сети, не зная при этом, собирают ли и передают ли устройства его данные или нет. Повышается риск утраты максимально чувствительных данных, — отмечают авторы доклада
»

 

Помимо того, они обращают внимание на трудность определения владельцев данных, получаемых интернетом вещей с помощью датчиков и приборов, а также границы между личной информацией и общественной. Принцип информированного согласия на сбор и обработку личных данных, полученных при использовании устройств и услуг интернета вещей, по мнению авторов доклада, неэффективен для защиты прав пользователей, так же как и согласие на обработку прочих данных.

«
Создание юридических механизмов обычно отстает от фактической бизнес-практики. Выходом становятся коллективно разработанные и согласованные всеми заинтересованными сторонами этические стандарты, — заявляют эксперты.
»

Направления решения этических проблем цифровых технологий

Авторы доклада также обозначают ряд общих направлений решения этических проблем, связанных с цифровыми технологиями. Это такие направления, как:

  • обеспечение необходимого регулирования;
«
Регулятор должен находить баланс между поддержкой технологических инноваций и необходимостью защищать общество от возможных рисков, связанных с их внедрением, — заявляют эксперты
»

При этом они отмечают, что в случае новых технологий, проблематично заранее предсказать все риски, которые могут возникнуть при их использовании, и максимально точно определить вероятность их наступления. В результате этого, по их мнению, невозможно установить разумные правовые требования и ограничения для деятельности, связанной с использованием технологий, поэтому вопрос адекватного регулирования такой деятельности остается открытым.

  • создание этических кодексов и руководств применительно как к определенным технологиям, так и к различным сферам деятельности;
  • обеспечение доступности цифровых услуг для граждан и создание «аналоговых интерфейсов»;
«
Серьезным вызовом для государства является обеспечение гражданам как полноценной доступности цифровых услуг, так и создание «аналоговых интерфейсов» — вариантов альтернативного, нецифрового, доступа к услуге. В этом случае сам процесс предоставления услуги остается полностью цифровым, но категории граждан, не имеющие доступа к цифровым услугам, получают их в привычном, нецифровом, виде, — поясняют авторы доклада.
»
  • включение этики в образование в области технологий.

В учебные программы тех или иных цифровых технологий школ, вузов или дополнительного профессионального образования, по мнению экспертов, необходимо вносить прикладную этику технологий. Учащиеся, как полагают авторы доклада, должны получать знания об этических рисках и последствиях применения технологий.

Источник: http://www.tadviser.ru/index.php/%D0%A1%D1%82%D0%B0%D1%82%D1%8C%D1%8F:%D0%A1%D0%BA%D0%B2%D0%BE%D0%B7%D0%BD%D1%8B%D0%B5_%D1%82%D0%B5%D1%85%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D0%B8_%D1%86%D0%B8%D1%84%D1%80%D0%BE%D0%B2%D0%BE%D0%B9_%D1%8D%D0%BA%D0%BE%D0%BD%D0%BE%D0%BC%D0%B8%D0%BA%D0%B8#.D0.9F.D1.80.D0.BE.D0.B1.D0.BB.D0.B5.D0.BC.D1.8B_.D0.B8_.D1.80.D0.B8.D1.81.D0.BA.D0.B8.2C_.D0.BE_.D0.BA.D0.BE.D1.82.D0.BE.D1.80.D1.8B.D1.85_.D1.81.D1.82.D0.BE.D0.B8.D1.82_.D0.BF.D0.BE.D0.BC.D0.BD.D0.B8.D1.82.D1.8C.2C_.D1.80.D0.B0.D0.B7.D0.B2.D0.B8.D0.B2.D0.B0.D1.8F_.D0.98.D0.98.2C_.D1.82.D0.B5.D1.85.D0.BD.D0.BE.D0.BB.D0.BE.D0.B3.D0.B8.D0.B8_.D0.B1.D0.BE.D0.BB.D1.8C.D1.88.D0.B8.D1.85_.D0.B4.D0.B0.D0.BD.D0.BD.D1.8B.D1.85_.D0.B8_IoT

Tags: iotбезопасность IoTкибербезопасность
Share23TweetShareShareОтправить Отправить
Реклама

Комментарии 1

  1. катя says:
    2 года тому назад

    интересно

Реклама

Рекомендуемое

Инфобез в промышленности: нетипичные проблемы, типовые решения

2 года тому назад
Промышленная процессорная плата NANO-AL от iEi

Промышленная процессорная плата NANO-AL от iEi

4 года тому назад

Популярные новости

  • Просто о стандартах OPC DA и OPC UA

    Просто о стандартах OPC DA и OPC UA

    0 shares
    Share 0 Tweet 0
  • Schneider Electric продала российский бизнес команде менеджмента

    0 shares
    Share 0 Tweet 0
  • Как перепрошить BIOS на большинстве промышленных компьютеров

    0 shares
    Share 0 Tweet 0
  • Предиктивная аналитика и «цифровая зрелость»

    0 shares
    Share 0 Tweet 0
  • Новая версия MasterSCADA 4D – 1.2.16!

    0 shares
    Share 0 Tweet 0

Подписка на новости

Рубрики

  • Компании
  • Новости
  • Программно-технические комплексы
  • Промышленные компьютеры/PLC
  • Публикации
  • Рынки и продукты

О проекте

Портал АСУТП.ру - популярный интернет-ресурс, который предназначен для профессионалов, работающих в сфере автоматизации производства.
Подробнее...

  • О проекте
  • Контакты

Copyright © 2000 - 2020 ASUTP.ru. Авторские права охраняются.
Воспроизведение материалов или их частей в любом виде без письменного разрешения запрещено.

No Result
View All Result
  • Главная
  • Новости
  • События
  • Публикации
  • Компании
  • Рынки и продукты
    • Системы управления производством
    • Программно-технические комплексы
    • Программное обеспечение
    • Промышленные сети
    • Промышленные компьютеры/PLC
    • Электротехническое оборудование
    • КИП
  • Вход
  • Зарегистрироваться

Copyright © 2000 - 2020 ASUTP.ru. Авторские права охраняются.
Воспроизведение материалов или их частей в любом виде без письменного разрешения запрещено.

С возвращением!

Войдите в свой аккаунт

Забыт пароль? Зарегистрироваться

Создание нового профиля

Заполните поля формы для регистрации

Все поля должны быть заполнены. Вход

Получить пароль

Пожалуйста, введите имя пользователя или e-mail, чтобы сбросить пароль.

Вход
Дорогие посетители, сайт ASUTP.ru использует файлы cookies.