ФЕДЕРАЛЬНОЕ АГЕНТСТВО
ПО ТЕХНИЧЕСКОМУ РЕГУЛИРОВАНИЮ И МЕТРОЛОГИИ
НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ
ГОСТ Р
71537-2024
Системы искусственного интеллекта на автомобильном транспорте
СИСТЕМЫ УПРАВЛЕНИЯ ИНТЕЛЛЕКТУАЛЬНОЙ ТРАНСПОРТНОЙ ИНФРАСТРУКТУРОЙ.
АЛГОРИТМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ РАСПОЗНАВАНИЯ НАРУШЕНИЙ ПРАВИЛ ОСТАНОВКИ И СТОЯНКИ ТРАНСПОРТНЫХ СРЕДСТВ
Требования
Издание официальное
Москва Российский институт стандартизации 2024
ГОСТ Р 71537—2024
Предисловие
1 РАЗРАБОТАН Обществом с ограниченной ответственностью «Симетра Групп» (ООО «Омметра Групп»), Обществом с ограниченной ответственностью «A-Я эксперт» (ООО «A-Я эксперт»)
2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 «Искусственный интеллект»
3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 6 сентября 2024 г. № 1185-ст
4 ВВЕДЕН ВПЕРВЫЕ
Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. № 162-ФЗ «О стандартизации в Российской Федерации». Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе «Национальные стандарты», а официальный текст изменений и поправок — в ежемесячном информационном указателе «Национальные стандарты». В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя «Национальные стандарты». Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования — на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)
© Оформление. ФГБУ «Институт стандартизации», 2024
Настоящий стандарт не может быть полностью или частично воспроизведен, тиражирован и распространен в качестве официального издания без разрешения Федерального агентства по техническому регулированию и метрологии
II
ГОСТ Р 71537—2024
Содержание
1 Область применения..................................................................1
2 Нормативные ссылки..................................................................1
3 Термины и определения...............................................................2
4 Сокращения.........................................................................3
5 Общие требования...................................................................3
6 Технические и функциональные требования..............................................3
7 Требования к видам обеспечения.......................................................4
7.1 Математическое обеспечение.......................................................4
7.2 Программное обеспечение.........................................................4
7.3 Информационное обеспечение......................................................4
7.4 Аппаратно-техническое обеспечение.................................................4
7.5 Метрологическое обеспечение......................................................4
7.6 Лингвистическое обеспечение.......................................................4
7.7 Юридическое обеспечение.........................................................5
8 Требования к интеграции..............................................................5
9 Требования к производительности.......................................................5
10 Требования к безопасности и надежности................................................5
11 Требования к обучению и сертификации персонала.......................................6
12 Требования к техническому обслуживанию...............................................6
13 Требования к этическим аспектам функционирования......................................7
14 Требования к тестированию и валидации................................................8
15 Требования к документированию.......................................................8
Библиография.........................................................................9
III
ГОСТ Р 71537—2024
Введение
Настоящий стандарт содержит принципиальные положения и основные требования к использованию технологий искусственного интеллекта в системах управления интеллектуальной транспортной инфраструктурой для выявления нарушений правил остановки и стоянки транспортных средств.
Технологии искусственного интеллекта обладают высоким потенциалом для повышения безопасности дорожного движения, оптимизации управления дорожным движением и обеспечения эффективного применения правил дорожного движения. Настоящий стандарт направлен на создание надежной основы для применения алгоритмов искусственного интеллекта, специально разработанных для распознавания нарушений правил остановки и стоянки транспортных средств.
Системы управления интеллектуальной транспортной инфраструктурой, оснащенные методами искусственного интеллекта, открывают широкие возможности для решения проблем городской мобильности, устранения дорожных заторов и эффективного решения вопросов, связанных с парковкой транспортных средств. Внедрение алгоритмов искусственного интеллекта для обнаружения нарушений правил остановки и стоянки транспортных средств позволяет транспортным службам эффективно контролировать дорожную активность, выявлять нарушения правил и принимать соответствующие меры для поддержания бесперебойного движения транспорта.
В настоящем стандарте изложены комплексные требования, которым должны соответствовать алгоритмы искусственного интеллекта для выявления нарушений правил остановки и стоянки транспортных средств. Наличие стандартизированных требований обеспечивает последовательную и объективную оценку, позволяя разрабатывать надежные и безопасные решения на основе технологий искусственного интеллекта для управления транспортной инфраструктурой.
Обеспечивая структурированный подход к оценке систем искусственного интеллекта для распознавания нарушений правил остановки и стоянки транспортных средств, настоящий стандарт призван повысить безопасность дорожного движения, оптимизировать управление дорожным движением и способствовать развитию интеллектуальных транспортных систем, способных решать проблемы мобильности. Стандарт служит важным справочным материалом для заинтересованных сторон, участвующих в разработке и внедрении технологий искусственного интеллекта на автомобильном транспорте, способствуя созданию более безопасной и эффективной транспортной среды для всех участников дорожного движения.
IV
ГОСТ Р 71537—2024
НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ
Системы искусственного интеллекта на автомобильном транспорте
СИСТЕМЫ УПРАВЛЕНИЯ ИНТЕЛЛЕКТУАЛЬНОЙ ТРАНСПОРТНОЙ ИНФРАСТРУКТУРОЙ. АЛГОРИТМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ РАСПОЗНАВАНИЯ НАРУШЕНИЙ ПРАВИЛ ОСТАНОВКИ И СТОЯНКИ ТРАНСПОРТНЫХ СРЕДСТВ
Требования
Intelligent transport infrastructure management systems. Artificial intelligence algorithms for recognition of violations of the rules of stopping and parking of vehicles. Requirements
Дата введения — 2024—12—01
1 Область применения
Настоящий стандарт определяет требования к алгоритмам искусственного интеллекта (ИИ) для распознавания нарушений, связанных с остановкой и стоянкой транспортных средств (далее — алгоритмы ИИ). Стандарт охватывает весь жизненный цикл таких алгоритмов, включая проектирование, разработку, тестирование, внедрение, эксплуатацию и вывод из эксплуатации. Алгоритмы ИИ, рассматриваемые в настоящем стандарте, могут, не ограничиваясь, функционировать в составе комплексов фотовидеофиксации нарушений правил дорожного движения, реализованных как в стационарном исполнении, так и на базе мобильных комплексов, базирующихся в носимых устройствах инспекторов или на автомобилях (в том числе беспилотных) муниципальных служб, ответственных за контроль исполнения правил дорожного движения.
Стандарт распространяется на алгоритмы ИИ, разработанные непосредственно для обнаружения и распознавания нарушений, связанных с остановкой и стоянкой транспортных средств (ТС) на автомобильных дорогах общего пользования (далее — нарушения). В настоящем стандарте под транспортным средством понимается эксплуатируемое на автомобильных дорогах общего пользования колесное транспортное средство категорий М и N (по ГОСТ Р 52051).
Настоящий стандарт предназначен для заинтересованных сторон, участвующих в разработке, внедрении и эксплуатации систем управления интеллектуальной транспортной инфраструктурой и интеллектуальных транспортных систем, включая дорожные службы, транспортных операторов, производителей и системных интеграторов, и содержит основные требования, реализация которых обеспечивает эффективную интеграцию решений на основе ИИ в процессы организации и управления дорожным движением. Благодаря соблюдению стандартизированных требований стандарт способствует разработке надежных и безопасных систем на основе ИИ для интеллектуального управления транспортной инфраструктурой, что способствует повышению безопасности дорожного движения и оптимизации транспортных операций.
2 Нормативные ссылки
В настоящем стандарте использована нормативная ссылка на следующий стандарт:
ГОСТ Р 52051 Механические транспортные средства и прицепы. Классификация и определения
Примечание — При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования — на официальном сайте Федерального агентства по
Издание официальное
1
ГОСТ Р 71537—2024
техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю «Национальные стандарты», который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя «Национальные стандарты» за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.
3 Термины и определения
В настоящем стандарте применены следующие термины с соответствующими определениями: 3.1
алгоритм: Конечное упорядоченное множество точно определенных правил для решения конкретной задачи.
[ГОСТ 33707—2016, статья 4.39]
3.2 алгоритм ИИ: Алгоритм, реализованный методами ИИ.
3.3
искусственный интеллект: Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.
[ГОСТ Р 59277—2020, пункт 3.18]
3.4
остановка ТС: Преднамеренное прекращение движения ТС на время до 5 минут, а также на большее, если это необходимо для посадки или высадки пассажиров либо загрузки или разгрузки ТС.
[[1], глава 1]
3.5
реальное время: Режим обработки данных, при котором обеспечивается взаимодействие вычислительной системы с внешними процессами в темпе, соизмеримом со скоростью протекания этих процессов.
Примечание — Термин «работающий в реальном времени» используется также для описания систем, работающих в диалоговом режиме, и процессов, которые могут подвергаться вмешательству человека.
[ГОСТ 33707—2016, статья 4.1181]
3.6
система управления интеллектуальной транспортной инфраструктурой; СУИТИ: Система управления, объектом управления которой является интеллектуальная транспортная инфраструктура.
[ГОСТ Р 70980—2023, пункт 3.10]
3.7
стоянка ТС: Преднамеренное прекращение движения ТС на время более 5 минут по причинам, не связанным с посадкой или высадкой пассажиров либо загрузкой или разгрузкой ТС.
[[1], глава 1]
2
ГОСТ Р 71537—2024
4 Сокращения
В настоящем стандарте использованы следующие сокращения:
ГРЗ — государственный регистрационный знак;
ИТС — интеллектуальная транспортная система;
ПО — программное обеспечение;
ТЗ — техническое задание;
ТС — транспортное средство;
ЧАИИ — частный алгоритм ИИ.
5 Общие требования
5.1 Алгоритмы ИИ должны распознавать нарушения [1] в части остановки и стоянки ТС.
5.2 Алгоритмы ИИ должны:
- оптимизировать использование вычислительных ресурсов для минимизации нагрузки и энергопотребления;
- обеспечивать возможность настройки и адаптации к различным сценариям дорожного движения;
- соответствовать законодательным и нормативным требованиям, регламентирующим использование систем ИИ на автомобильном транспорте;
- быть разработаны таким образом, чтобы исключить возможность предвзятого отношения к таким факторам, как тип ТС, цвет, номерной знак или какая-либо иная характеристика ТС, не относящаяся непосредственно к задаче выявления нарушений.
5.3 В документации, описывающей требования к алгоритмам ИИ (технические требования, ТЗ на разработку ПО, ТЗ на разработку СУИТИ в части требований к математическому и (или) программному обеспечению, далее — требования к ЧАИИ), должны быть приведены конкретные требования к значениям следующих характеристик и к следующим аспектам функционирования алгоритмов ИИ:
- погрешность распознавания;
- соотношение уровней и ложноположительных (ошибки первого рода) и ложноотрицательных (ошибки второго рода) срабатываний;
- показатели надежности;
- требования к масштабируемости с учетом изменяющейся транспортной ситуации и развивающейся дорожной инфраструктуры;
- требования к работе в режиме реального времени;
- требования к возможности адаптации к изменяющимся условиям окружающей среды и различным типам ТС;
- требования к обеспечению конфиденциальности данных, собранных в процессе обнаружения нарушений.
5.4 Функционирование алгоритмов ИИ должно быть прозрачным и понятным для соответствующих заинтересованных сторон.
5.5 Работоспособность алгоритмов ИИ должна проверяться в ходе периодических испытаний. Периодичность должна быть установлена в эксплуатационной документации на алгоритмы ИИ.
6 Технические и функциональные требования
6.1 Алгоритмы ИИ должны распознавать факты нарушения правил остановки или стоянки ТС.
6.2 В документации, в которой приведены требования к ЧАИИ, должны быть конкретизированы следующие требования:
- к совместимости с различными аппаратными конфигурациями, обычно используемыми в системах СУИТИ;
- функционированию на различных вычислительных платформах и архитектурах, используемых в СУИТИ;
- совместимости с основными операционными системами, используемыми в СУИТИ;
- интеграции с существующими компонентами СУИТИ;
- функционированию в режиме реального времени;
- масштабированию для эксплуатации на различных аппаратных ресурсах для обработки различной нагрузки;
3
ГОСТ Р 71537—2024
- способности объединять данные из нескольких источников для снижения погрешности распознавания;
- использованию аппаратных ресурсов для минимизации вычислительных нагрузок;
- применяемым подходам к тестированию;
- обеспечению целостности и подлинности получаемых данных и записей о нарушениях.
6.3 Алгоритмы ИИ могут:
- определять цвет и марку ТС;
- оценивать размеры ТС;
- выполнять предварительную обработку изображений для улучшения характеристик и удаления шумов;
- объединять данные с различных датчиков для всестороннего анализа.
7 Требования к видам обеспечения
7.1 Математическое обеспечение
7.1.1 Алгоритмы ИИ должны быть основаны на математических моделях, обеспечивающих распознавание нарушений, которые были проверены на практике и доказали свою эффективность.
7.1.2 Для повышения эффективности алгоритмов ИИ рекомендуется использовать математические методы распознавания образов и анализа данных.
7.1.3 Для обеспечения достоверности результатов работа алгоритмов ИИ должна быть подтверждена статистическим анализом.
7.2 Программное обеспечение
7.2.1 Алгоритмы ИИ должны быть реализованы с использованием современных языков программирования и фреймворков, пригодных для обработки данных.
7.2.2 Кодовая база должна быть документирована и организована для сопровождения в целях облегчения дальнейшего совершенствования алгоритмов ИИ.
7.3 Информационное обеспечение
7.3.1 В случае использования алгоритмами ИИ базы данных или базы знаний, в них должна быть внесена информация о правилах дорожного движения в части правил остановки и стоянки ТС.
7.3.2 Алгоритмы ИИ могут использовать географические и картографические данные для снижения погрешности определения местоположения нарушений.
7.4 Аппаратно-техническое обеспечение
Необходимо учитывать совместимость алгоритмов ИИ с различными аппаратными конфигурациями.
7.5 Метрологическое обеспечение
7.5.1 При необходимости уровень погрешности алгоритмов ИИ должен быть проверен с помощью метрологических испытаний и калибровки.
7.5.2 Алгоритмы ИИ должны соответствовать требованиям законодательства РФ об обеспечении единства измерений [2].
7.6 Лингвистическое обеспечение
7.6.1 Пользовательский интерфейс алгоритмов ИИ и выдаваемые ими предупреждения должны быть представлены в доступной форме; в случае использования текстового представления информации она должна быть на русском языке.
7.6.2 Алгоритмы ИИ должны учитывать нормативные различия для интерпретации номерных знаков ТС различных типов и государственной принадлежности. Типы распознаваемых ГРЗ должны быть перечислены в требованиях на разработку алгоритмов ИИ.
4
ГОСТ Р 71537—2024
7.7 Юридическое обеспечение
7.7.1 Результаты работы алгоритмов ИИ должны соответствовать юридическим определениям нарушений, изложенным в [1] и сопутствующих нормативно-правовых актах.
7.7.2 В ТЗ должен быть указан юридический статус решений о наличии нарушений, принятых на основе результата работы алгоритмов ИИ. Заказчик СУИТИ обеспечивает возможность получения всех необходимых для этого данных, в том числе для оспаривания решений.
8 Требования к интеграции
8.1 Алгоритмы ИИ должны интегрироваться в существующую архитектуру СУИТИ.
8.2 Входные и выходные параметры алгоритмов ИИ должны соответствовать протоколам связи и форматам данных, используемым в СУИТИ.
8.3 Алгоритмы ИИ могут иметь возможность объединять данные из различных источников, таких как видеокамеры, датчики и данные о дорожном движении, что может использоваться для снижения погрешности распознавания нарушений.
8.4 В случае использования методов низкоуровневого слияния данных должна осуществляться корреляция различных потоков данных для уменьшения количества ложных срабатываний.
8.5 Предупреждения и уведомления о нарушениях, создаваемые алгоритмами ИИ, должны быть интегрированы в пользовательский интерфейс СУИТИ.
8.6 Интегрированная СУИТИ должна пройти тестирование для подтверждения уровня погрешности алгоритмов ИИ по распознаванию нарушений.
8.7 В процессе интеграции алгоритмов ИИ должна быть предоставлена документация, включая рекомендации по установке, настройке и устранению неисправностей.
9 Требования к производительности
9.1 Алгоритмы ИИ должны обрабатывать достаточный для распознавания нарушений объем данных даже в периоды пиковых нагрузок.
9.2 Алгоритмы ИИ могут обрабатывать и анализировать потоки данных из нескольких источников, и в этом случае должны делать это без снижения производительности.
9.3 Алгоритмы ИИ должны фиксировать и анализировать информацию о государственных регистрационных знаках ТС для идентификации нарушений.
9.4 Алгоритмы ИИ должны предоставлять данные для отчетности и аналитики для систем управления дорожным движением.
9.5 Алгоритмы ИИ должны быть устойчивы к возможным помехам или шуму в потоках данных.
9.6 Алгоритмы ИИ должны обеспечивать распознавание нарушений в различных городских и загородных условиях.
9.7 Алгоритмы ИИ должны предусматривать обновления и улучшения для повышения производительности и снижения погрешности.
10 Требования к безопасности и надежности
10.1 Алгоритмы ИИ должны обеспечивать безопасность путем обнаружения и идентификации потенциальных нарушений, которые могут представлять опасность для участников дорожного движения.
10.2 Алгоритмы ИИ должны соответствовать установленным отраслевым стандартам и нормам безопасности.
10.3 Алгоритмы ИИ должны обеспечивать надежную и стабильную работу в различных условиях эксплуатации.
10.4 Алгоритмы ИИ должны пройти тестирование для проверки погрешности в различных сценариях.
10.5 В алгоритмах ИИ должны быть предусмотрены механизмы для разрешения непредвиденных ситуаций и обеспечения безопасной работы.
10.6 Алгоритмы ИИ должны быть способны обрабатывать изменения дорожной инфраструктуры.
10.7 Алгоритмы ИИ должны обеспечивать приоритет безопасности пешеходов, велосипедистов и других уязвимых участников дорожного движения.
5
ГОСТ Р 71537—2024
10.8 Алгоритмы ИИ не должны мешать нормальной работе ТС или представлять опасность для их систем управления.
10.9 Алгоритмы ИИ должны быть устойчивы к потенциальным атакам злоумышленников (в том числе, но не ограничиваясь — к генеративно-состязательным атакам и атакам отравления данных), которые могут снизить их эффективность.
10.10 Алгоритмы ИИ должны иметь механизмы выявления и устранения собственной деградации.
10.11 Процесс принятия решений алгоритмами ИИ должен быть прозрачным и объяснимым для повышения доверия.
10.12 Алгоритмы ИИ должны быть способны адаптироваться к изменениям в структуре движения и поведении участников дорожного движения.
10.13 Алгоритмы ИИ должны предоставлять данные для целей отчетности и правоприменения.
10.14 Алгоритмы ИИ должны обновляться и совершенствоваться для решения возникающих проблем безопасности.
11 Требования к обучению и сертификации персонала
11.1 Персонал, ответственный за эксплуатацию и сопровождение алгоритмов ИИ, должен пройти обучение по их функциональности и функционированию.
11.2 Программы обучения должны охватывать технические аспекты алгоритмов ИИ, их ограничения и интерпретируемость.
11.3 Люди-операторы должны быть обучены эффективной работе с ложноположительными и ложноотрицательными срабатываниями алгоритмов ИИ.
11.4 Обучение должно включать рекомендации по интерпретации результатов работы алгоритмов ИИ.
11.5 Персонал должен быть ознакомлен с этическими последствиями решений алгоритмов ИИ в распознавании нарушений.
11.6 Процесс сертификации персонала должен гарантировать, что люди-операторы продемонстрировали адекватное понимание способов использования алгоритмов ИИ.
11.7 Сертификация персонала должна периодически продлеваться, чтобы люди-операторы были в курсе всех изменений в алгоритмах ИИ. Периодичность сертификации определяется периодичностью актуализации алгоритмов ИИ.
11.8 В программах обучения особое внимание должно уделяться соблюдению законодательных и нормативных требований.
11.9 Персонал должен пройти обучение по вопросам конфиденциальности и безопасности данных, связанных с алгоритмами ИИ.
11.10 Люди-операторы должны быть обучены правильному использованию результатов функционирования алгоритмов ИИ для принятия решений.
11.11 Процессы сертификации должны оценивать способность людей-операторов выявлять некорректные результаты работы алгоритмов ИИ.
11.12 Персонал должен быть обучен аварийным протоколам и действиям в случае сбоев алгоритмов ИИ.
11.13 Обучение должно охватывать вопросы интеграции алгоритмов ИИ в состав СУИТИ.
11.14 Люди-операторы должны быть обучены доступу к системным журналам и их интерпретации для целей аудита.
11.15 Процессы сертификации должны оценивать понимание людьми-операторами метрик работы алгоритмов ИИ.
11.16 В ходе обучения персонал должен получать информацию о любых доработках и изменениях алгоритмов ИИ.
12 Требования к техническому обслуживанию
12.1 В договоре на техническое обслуживание с разработчиком алгоритмов ИИ должны быть специфицированы требования:
- к обновлению алгоритмов ИИ для учета новых данных и снижения погрешности;
6
ГОСТ Р 71537—2024
- проверке дрейфа алгоритмов ИИ и при необходимости осуществлению перетренировки модели ИИ, лежащей в основе алгоритмов ИИ;
- обеспечению совместимости алгоритмов ИИ с развивающейся программно-аппаратной инфраструктурой;
- поддержке алгоритмов ИИ в актуальном состоянии с учетом изменений в правилах и нормах дорожного движения;
- обеспечению обновлений алгоритмов ИИ и их тщательного тестирования и документирования перед внедрением в эксплуатацию.
12.2 В договоре с эксплуатирующей организацией алгоритмов ИИ должны быть специфицированы требования:
- к внедрению автоматизированных механизмов отчетности и мониторинга ошибок алгоритмов ИИ;
- проверке алгоритмов ИИ на предмет необъективности и справедливости принимаемых решений;
- отслеживанию показателей производительности алгоритмов ИИ и выявлению аномалии в их работе;
- проведению периодических проверок выходных данных алгоритмов ИИ на предмет точности;
- проведению плановых проверок интеграции алгоритмов ИИ с СУИТИ;
- проверке документации алгоритмов ИИ на полноту и точность;
- процессу оперативного реагирования на критические сбои алгоритмов ИИ;
- процессу ведения учета изменений, обновлений и усовершенствований алгоритмов ИИ;
- оценке влияния алгоритмов ИИ на транспортный поток и безопасность дорожного движения;
- отслеживанию работу алгоритмов ИИ в различных погодных условиях, а также с учетом иных существенных факторов эксплуатации;
- выполнению резервного копирования данных и внедрению механизмов восстановления данных;
- разработке плана действий на случай простоев или сбоев в работе алгоритмов ИИ;
- поддержке надлежащих протоколов управления данными и обеспечения конфиденциальности;
- обеспечению технической поддержки по всем вопросам, возникающим в процессе эксплуатации алгоритмов ИИ на протяжении всего срока эксплуатации.
13 Требования к этическим аспектам функционирования
13.1 Алгоритмы ИИ должны:
- быть разработаны таким образом, чтобы обеспечить справедливость и избежать дискриминации в своих решениях;
- быть прозрачными и давать объяснения своим решениям;
- не вторгаться в частную жизнь человека или не собирать излишние (ненужные для функционирования) персональные данные;
- не принимать решения на основе таких характеристик, как раса, пол или социально-экономический статус владельца или водителя ТС;
- быть разработаны таким образом, чтобы минимизировать негативное влияние на транспортный поток и безопасность дорожного движения.
13.2 Разработчик алгоритмов ИИ должен:
- обеспечить разнообразие и репрезентативность обучающих данных для алгоритмов ИИ;
- быть готов ответить на вопросы общественности по поводу этики применения алгоритмов ИИ.
13.3 Эксплуатирующая организация алгоритмов ИИ должна:
- при вводе в эксплуатацию проверить алгоритмы ИИ на предмет возможной предвзятости в их выводах;
- отслеживать и устранять любые непредвиденные последствия применения алгоритмов ИИ;
- иметь процедуру получения и рассмотрения этических вопросов от общественности.
13.4 Разработка и эксплуатация алгоритмов ИИ должны осуществляться с соблюдением этических принципов.
13.5 Разработчик и эксплуатирующая организация алгоритмов ИИ должны сотрудничать для обеспечения прозрачности и подотчетности алгоритмов ИИ.
7
ГОСТ Р 71537—2024
14 Требования к тестированию и валидации
14.1 Разработчик алгоритмов ИИ должен провести тестирование для получения уровня погрешности алгоритмов ИИ.
14.2 Работа алгоритмов ИИ должна быть оценена на различных сценариях.
14.3 Алгоритмы ИИ должны быть протестированы на различных типах ТС, погодных условиях и других применимых к алгоритмам ИИ существенных факторов эксплуатации.
14.4 Эксплуатирующая организация должна создать достаточное количество тестовых наборов данных, охватывающих выявленные для алгоритмов ИИ существенные факторы эксплуатации.
14.5 Процесс тестирования должен включать сложные сценарии для оценки устойчивости алгоритмов ИИ.
14.6 В случае применимости возможности алгоритмов ИИ по обработке данных в реальном времени должны быть тщательно протестированы на предмет быстродействия.
14.7 Погрешность распознавания нарушений на тестовых наборах данных должна соответствовать значениям, установленным в эксплуатационной документации.
14.8 Для оценки эффективности алгоритмов ИИ должны быть установлены контрольные показатели.
14.9 Алгоритмы ИИ должны быть проверены на различных источниках изображений и сенсорных данных.
14.10 Тестирование может проверить совместимость алгоритмов ИИ с различными аппаратными и программными конфигурациями.
14.11 Для проверки алгоритмов ИИ следует использовать реальные случаи нарушений.
14.12 Показатели эффективности алгоритмов ИИ должны быть задокументированы.
14.13 Процесс тестирования алгоритмов ИИ должен учитывать возможные ложноположительные и ложноотрицательные срабатывания алгоритмов ИИ.
14.14 Разработчик алгоритмов ИИ должен вести учет процедур тестирования, наборов данных и результатов.
15 Требования к документированию
15.1 Документация на алгоритмы ИИ должна быть разработана в соответствии с требованиями стандартов «Единая система программной документации».
15.2 Документация на СУИТИ в части интеграции с алгоритмами ИИ должна быть дополнена в соответствии с требованиями стандартов «Комплекс стандартов на автоматизированные системы».
15.3 Разработчик алгоритмов ИИ должен создать документацию, подробно описывающую устройство и функциональность алгоритмов ИИ.
15.4 Документация должна включать в себя описание процессов обнаружения и распознавания в алгоритмах ИИ.
15.5 Технические характеристики и требования к аппаратному обеспечению и программно-информационному окружению со стороны алгоритмов ИИ должны быть задокументированы для обеспечения совместимости аппаратного и программного обеспечения.
15.6 В документации должны быть приведены подробные рекомендации по сбору и предварительной обработке данных.
15.7 В документации должен быть описан процесс обучения алгоритмов ИИ, включая источники данных и методы обучения (если применимо).
15.8 Должна быть задокументирована информация о процессе интеграции алгоритмов ИИ с существующими системами.
15.9 В документацию должны быть включены руководства пользователя и справочники для операторов СУИТИ.
15.10 Должны быть задокументированы метрики и контрольные показатели производительности алгоритмов ИИ.
15.11 В документации должны быть описаны протоколы безопасности и процедуры устранения ложноположительных и ложноотрицательных срабатываний алгоритмов ИИ.
15.12 Эксплуатирующая организация алгоритмов ИИ должна поддерживать в актуальном состоянии документацию, отражающую модификации и усовершенствования, внесенные в алгоритмы ИИ.
8
ГОСТ Р 71537—2024
Библиография
[1] Постановление Правительства Российской Федерации от 23 октября 1993 г. № 1090 (ред. от 19 апреля 2024 г.) «О Правилах дорожного движения» (вместе с «Основными положениями по допуску транспортных средств к эксплуатации и обязанности должностных лиц по обеспечению безопасности дорожного движения»)
[2] Федеральный закон от 26 июня 2008 г. № 102-ФЗ «Об обеспечении единства измерений»
9
ГОСТ Р 71537—2024
УДК 62-52:006.354
ОКС 35.240.60
Ключевые слова: искусственный интеллект, система искусственного интеллекта, автомобильный транспорт, система управления, интеллектуальная транспортная инфраструктура, алгоритм искусственного интеллекта, распознавание нарушения правил стоянки и остановки транспортных средств, требования
10
Редактор Н.В. Таланова Технический редактор И.Е. Черепкова Корректор С.И. Фирсова Компьютерная верстка Л.А. Круговой
Сдано в набор 09.09.2024. Подписано в печать 23.09.2024. Формат 60x84%. Гарнитура Ариал. Усл. печ. л. 1,86. Уч.-изд. л. 1,58.
Подготовлено на основе электронной версии, предоставленной разработчиком стандарта
Создано в единичном исполнении в ФГБУ «Институт стандартизации» , 117418 Москва, Нахимовский пр-т, д. 31, к. 2.
