Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 201...
Искусственный интеллект в управлении
 ИИ – это технологии, решающие задачи, которые прежде
считались привилегией квалифиц...
Международные определения ИИ
 3.4 Искусственный интеллект, ИИ (artificial intelligence,
AI) - способность инженерной сист...
Первая российская законодательная
«ласточка» в сфере ИИ
 Федеральный закон от 24 апреля 2020 года №123-ФЗ
«О проведении э...
Особенности искусственного интеллекта
и вопросы документирования
 «Хрупкость» решений – даже небольшие изменения в
алгори...
Особенности искусственного интеллекта
и вопросы документирования
 Риск непреднамеренной и умышленной дискриминации по
раз...
Проблемы использования ИИ
 Совет Северного Тайнсайда (North Tyneside),
Великобритания, в 2019 годуотказался от услуг комп...
ИИ должен объяснять свои решения
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами:...
 «Политические и
инвестиционные
рекомендации в
отношении
заслуживающего доверия
искусственного
интеллекта» (Policy and
in...
12. Защита фундаментальных прав в рамках
основанных на ИИ государственных услуг, и
защита социальной инфраструктуры
 12.2...
Выводы
 Нам, как профессии, необходимо определить своё
отношение к ИИ до его массового внедрения
 Нужно уже сейчас проду...
Приглашаю Вас на мой блог:
http://rusrim.blogspot.com/
а также на мои каналы на Slideshare и YouTube
сентябрь 2020 г. V Ме...
Upcoming SlideShare
Loading in …5
×

0

Share

Download to read offline

Искусственный интеллект и управление документами: основные риски

Download to read offline

Запись выступления Натальи Александровны Храмцовской, ведущего эксперта по управлению документацией ООО «Электронные офисные системы», к.и.н., на V Международной научно-практической конференция "Управление документами: прошлое, настоящее, будущее", прошедшей онлайн 16 сентября 2020, г. Москва

  • Be the first to like this

Искусственный интеллект и управление документами: основные риски

  1. 1. сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 1 Искусственный интеллект и управление документами: Основные риски Храмцовская Наталья Александровна к.и.н., ведущий эксперт по управлению документацией компании «Электронные Офисные Системы», эксперт ИСО, член Международного совета архивов
  2. 2. Искусственный интеллект в управлении  ИИ – это технологии, решающие задачи, которые прежде считались привилегией квалифицированных специалистов-людей При этом ставшими уже привычными технологии перестают восприниматься как ИИ   Самый ключевой и сложный вопрос – правовой. В управлении многое построено на том, что за неправильное решение кто-то несёт персональную ответственность сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 2
  3. 3. Международные определения ИИ  3.4 Искусственный интеллект, ИИ (artificial intelligence, AI) - способность инженерной системы приобретать, обрабатывать и применять знания и навыки Примечание: Знания включают факты, информацию и навыки, приобретенные в результате опыта или обучения. 3.23 Машинное обучение (machine learning, ML) - процесс, с помощью которого функциональное устройство совершенствует результаты своей деятельности путём приобретения новых знаний и навыков, или путём реорганизации существующих знаний и навыков. – Технический отчёт ISO/IEC TR 24028:2020 «Информационные технологии – Искусственный интеллект (ИИ) – Обзор вопросов доверия к искусственному интеллекту» сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 3
  4. 4. Первая российская законодательная «ласточка» в сфере ИИ  Федеральный закон от 24 апреля 2020 года №123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»» сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 4
  5. 5. Особенности искусственного интеллекта и вопросы документирования  «Хрупкость» решений – даже небольшие изменения в алгоритмах, кодах, данных, обучении способны привести к получению совершенно иных результатов  Непрозрачность работы решений на основе ИИ, если только не принять специальные меры по документированию процесса получения выводов и обеспечению сохранности этой документации в течение установленных сроков хранения. Есть также проблема доверия к этой документации, поскольку она не являются побочным продуктом или инструментом деловой деятельности, а целевым образом создаются «для прокурора» сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 5
  6. 6. Особенности искусственного интеллекта и вопросы документирования  Риск непреднамеренной и умышленной дискриминации по различным признакам  Необходимость постоянно «доучивать» решения, отслеживая меняющуюся ситуацию (данный вопрос может стать очень острым в ситуациях, когда в одночасье существенно изменяется законодательно-нормативная база)  Необходимость привлечения высококлассных и пока что редких специалистов для наладки системы и её последующей поддержки, - у которых организация легко может оказаться «в заложниках»  И этот список можно продолжать и продолжать! сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 6
  7. 7. Проблемы использования ИИ  Совет Северного Тайнсайда (North Tyneside), Великобритания, в 2019 годуотказался от услуг компании TransUnion, чья система использовалась для проверки заявок на предоставление льгот при оплате жилья и муниципальных налогов  Выплаты по социальному обеспечению неустановленному количеству людей были неправомерно задержаны из-за того, что компьютерная «прогностическая аналитика» (predictive analytics) ошибочно отнесла заявки с низким уровнем риска к категории высокого риска сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 7
  8. 8. ИИ должен объяснять свои решения сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 8 Рис. Джеймса Лепена (James Lappin)
  9. 9.  «Политические и инвестиционные рекомендации в отношении заслуживающего доверия искусственного интеллекта» (Policy and investment recommendations for trustworthy Artificial Intelligence), июнь 2019 «Независимая высокоуровневая экспертная группа по искусственному интеллекту» Европейской Комиссии (Independent high-level expert group on artificial intelligence, AI HLEG) сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 9
  10. 10. 12. Защита фундаментальных прав в рамках основанных на ИИ государственных услуг, и защита социальной инфраструктуры  12.2. Сделать доступными для любого физического лица, в отношении которого государственными органами с использованием искусственного интеллекта принимаются решения, влекущие правовые или иные существенные для этого лица последствия, - информацию о логике алгоритмов и о том, как данные используются в качестве основы таких решений, позволяя тем самым данному лицу понять, оценить и, возможно, оспорить решения. Физические лица должны также получить объяснение того, как было принято каждое конкретное затрагивающее их решение, вне зависимости от того, было ли оно основано на персональных данных этого лица. Здесь также можно дать ссылку на уже существующие обязательства по обеспечению доступа к документам и информации, возложенные на органы власти на национальном и европейском уровнях. сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 10
  11. 11. Выводы  Нам, как профессии, необходимо определить своё отношение к ИИ до его массового внедрения  Нужно уже сейчас продумать, где в этой престижной и «денежной» области мы сможем предложить свои компетенции и услуги  Наша задача – не вставлять палки в колёса новой технологии, а способствовать её внедрению (в том числе в собственной деятельности), тем самым повышая свой статус и зарплату – для чего требуется соответствующее повышение квалификации  ИИ вместе с другими революционными технологиями может заставить нас пересмотреть многие аспекты управления документами и архивного дела сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 11
  12. 12. Приглашаю Вас на мой блог: http://rusrim.blogspot.com/ а также на мои каналы на Slideshare и YouTube сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое, настоящее, будущее" 2019 12

Запись выступления Натальи Александровны Храмцовской, ведущего эксперта по управлению документацией ООО «Электронные офисные системы», к.и.н., на V Международной научно-практической конференция "Управление документами: прошлое, настоящее, будущее", прошедшей онлайн 16 сентября 2020, г. Москва

Views

Total views

103

On Slideshare

0

From embeds

0

Number of embeds

0

Actions

Downloads

2

Shares

0

Comments

0

Likes

0

×