Запись выступления Натальи Александровны Храмцовской, ведущего эксперта по управлению документацией ООО «Электронные офисные системы», к.и.н., на V Международной научно-практической конференция "Управление документами: прошлое, настоящее, будущее", прошедшей онлайн 16 сентября 2020, г. Москва

1. сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
1
Искусственный интеллект и
управление документами:
Основные риски
Храмцовская Наталья Александровна
к.и.н., ведущий эксперт по управлению документацией
компании «Электронные Офисные Системы», эксперт ИСО, член
Международного совета архивов

2. Искусственный интеллект в управлении
 ИИ – это технологии, решающие задачи, которые прежде
считались привилегией квалифицированных
специалистов-людей
При этом ставшими уже привычными технологии
перестают восприниматься как ИИ 
 Самый ключевой и сложный вопрос – правовой.
В управлении многое построено на том, что за
неправильное решение кто-то несёт персональную
ответственность
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
2

3. Международные определения ИИ
 3.4 Искусственный интеллект, ИИ (artificial intelligence,
AI) - способность инженерной системы приобретать,
обрабатывать и применять знания и навыки
Примечание: Знания включают факты, информацию и
навыки, приобретенные в результате опыта или обучения.
3.23 Машинное обучение (machine learning, ML) - процесс,
с помощью которого функциональное устройство
совершенствует результаты своей деятельности путём
приобретения новых знаний и навыков, или путём
реорганизации существующих знаний и навыков.
– Технический отчёт ISO/IEC TR 24028:2020 «Информационные технологии – Искусственный
интеллект (ИИ) – Обзор вопросов доверия к искусственному интеллекту»
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
3

4. Первая российская законодательная
«ласточка» в сфере ИИ
 Федеральный закон от 24 апреля 2020 года №123-ФЗ
«О проведении эксперимента по установлению
специального регулирования в целях создания
необходимых условий для разработки и внедрения
технологий искусственного интеллекта в субъекте
Российской Федерации - городе федерального значения
Москве и внесении изменений в статьи 6 и 10
Федерального закона «О персональных данных»»
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
4

5. Особенности искусственного интеллекта
и вопросы документирования
 «Хрупкость» решений – даже небольшие изменения в
алгоритмах, кодах, данных, обучении способны привести к
получению совершенно иных результатов
 Непрозрачность работы решений на основе ИИ, если только
не принять специальные меры по документированию
процесса получения выводов и обеспечению сохранности
этой документации в течение установленных сроков
хранения.
Есть также проблема доверия к этой документации,
поскольку она не являются побочным продуктом или
инструментом деловой деятельности, а целевым образом
создаются «для прокурора»
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
5

6. Особенности искусственного интеллекта
и вопросы документирования
 Риск непреднамеренной и умышленной дискриминации по
различным признакам
 Необходимость постоянно «доучивать» решения,
отслеживая меняющуюся ситуацию (данный вопрос может
стать очень острым в ситуациях, когда в одночасье
существенно изменяется законодательно-нормативная
база)
 Необходимость привлечения высококлассных и пока что
редких специалистов для наладки системы и её
последующей поддержки, - у которых организация легко
может оказаться «в заложниках»
 И этот список можно продолжать и продолжать!
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
6

7. Проблемы использования ИИ
 Совет Северного Тайнсайда (North Tyneside),
Великобритания, в 2019 годуотказался от услуг компании
TransUnion, чья система использовалась для проверки
заявок на предоставление льгот при оплате жилья и
муниципальных налогов
 Выплаты по социальному обеспечению неустановленному
количеству людей были неправомерно задержаны из-за
того, что компьютерная «прогностическая аналитика»
(predictive analytics) ошибочно отнесла заявки с низким
уровнем риска к категории высокого риска
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
7

8. ИИ должен объяснять свои решения
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
8
Рис. Джеймса Лепена (James Lappin)

9.  «Политические и
инвестиционные
рекомендации в
отношении
заслуживающего доверия
искусственного
интеллекта» (Policy and
investment recommendations
for trustworthy Artificial
Intelligence), июнь 2019
«Независимая высокоуровневая
экспертная группа по
искусственному интеллекту»
Европейской Комиссии (Independent
high-level expert group on artificial
intelligence, AI HLEG)
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
9

10. 12. Защита фундаментальных прав в рамках
основанных на ИИ государственных услуг, и
защита социальной инфраструктуры
 12.2. Сделать доступными для любого физического лица, в отношении
которого государственными органами с использованием искусственного
интеллекта принимаются решения, влекущие правовые или иные
существенные для этого лица последствия, - информацию о логике
алгоритмов и о том, как данные используются в качестве основы таких
решений, позволяя тем самым данному лицу понять, оценить и, возможно,
оспорить решения.
Физические лица должны также получить объяснение того, как было принято
каждое конкретное затрагивающее их решение, вне зависимости от того,
было ли оно основано на персональных данных этого лица. Здесь также
можно дать ссылку на уже существующие обязательства по обеспечению
доступа к документам и информации, возложенные на органы власти на
национальном и европейском уровнях.
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
10

11. Выводы
 Нам, как профессии, необходимо определить своё
отношение к ИИ до его массового внедрения
 Нужно уже сейчас продумать, где в этой престижной и
«денежной» области мы сможем предложить свои
компетенции и услуги
 Наша задача – не вставлять палки в колёса новой
технологии, а способствовать её внедрению (в том числе в
собственной деятельности), тем самым повышая свой статус
и зарплату – для чего требуется соответствующее
повышение квалификации
 ИИ вместе с другими революционными технологиями может
заставить нас пересмотреть многие аспекты управления
документами и архивного дела
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
11

12. Приглашаю Вас на мой блог:
http://rusrim.blogspot.com/
а также на мои каналы на Slideshare и YouTube
сентябрь 2020 г. V Международная научно-практическая конференция "Управление документами: прошлое,
настоящее, будущее" 2019
12