ПНСТ 553-2021 Информационные технологии. Искусственный интеллект. Термины и определения

        ПНСТ 553-2021

ПРЕДВАРИТЕЛЬНЫЙ НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

Информационные технологии

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Термины и определения

Information technology. Artificial intelligence. Terms and definitions

ОКС 35.020

Срок действия с 2022-03-01

до 2023-03-01

Предисловие

1 РАЗРАБОТАН Федеральным государственным автономным образовательным учреждением высшего образования "Национальный исследовательский университет "Высшая школа экономики" (НИУ ВШЭ)

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН и ВВЕДЕН в ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 26 ноября 2021 г. N 46-пнст

4 Настоящий стандарт разработан с учетом основных нормативных положений проекта международного стандарта ИСО/МЭК 22989* "Информационные технологии. Искусственный интеллект. Понятия и терминология искусственного интеллекта" (ISO/IEC DIS 22989 "Information technology - Artificial intelligence - Artificial intelligence concepts and terminology", NEQ)

Правила применения настоящего стандарта и проведения его мониторинга установлены в ГОСТ Р 1.16-2011 (разделы 5 и 6).

Федеральное агентство по техническому регулированию и метрологии собирает сведения о практическом применении настоящего стандарта. Данные сведения, а также замечания и предложения по содержанию стандарта можно направить не позднее чем за 4 мес до истечения срока его действия разработчику настоящего стандарта по адресу: [email protected] и/или в Федеральное агентство по техническому регулированию и метрологии по адресу: 123112 Москва, Пресненская набережная, д.10, стр.2.

В случае отмены настоящего стандарта соответствующая информация будет опубликована в ежемесячном информационном указателе "Национальные стандарты" и также будет размещена на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Установленные в настоящем стандарте термины расположены в систематизированном порядке, отражающем систему понятий данной области знаний.

Для каждого понятия установлен один стандартизованный термин.

Заключенная в круглые скобки часть термина может быть опущена при использовании термина в документах по стандартизации.

Наличие квадратных скобок в терминологической статье означает, что в нее включены два (три, четыре и т.п.) термина, имеющих общие терминоэлементы.

В алфавитном указателе данные термины приведены отдельно с указанием номера статьи.

В стандарте приведены иноязычные эквиваленты стандартизованных терминов на английском языке.

Стандартизованные термины набраны полужирным шрифтом, их краткие формы, представленные аббревиатурой, - светлым.

1 Область применения

Настоящий стандарт устанавливает основные термины и определения в области искусственного интеллекта, в том числе в области машинного обучения и нейронных сетей, включая термины и определения, относящиеся к отдельным свойствам и задачам систем искусственного интеллекта.

Термины, установленные настоящим стандартом, рекомендуется использовать в нормативных документах, правовой, технической и организационно-распорядительной документации, научной, учебной и справочной литературе.

2 Нормативные ссылки

Термины, относящиеся к искусственному интеллекту

1 агент (agent): Автоматический субъект, способный воспринимать среду своего функционирования и предпринимать действия для достижения своих целей.

Примечание - Агент искусственного интеллекта - это агент, который максимизирует свое вознаграждение или свои возможности успешного достижения своих целей.

2 искусственный интеллект; ИИ (artificial intelligence, AI):

1) Способность приобретать, обрабатывать, создавать и применять знания, определенные в форме модели, для выполнения одной или нескольких поставленных задач;

2) Дисциплина о создании и изучении искусственного интеллекта;

3)

3 система искусственного интеллекта; система ИИ (artificial intelligence system, AI system): Техническая система обработки информации, обладающая искусственным интеллектом.

4 знания (knowledge): Информация об объектах, событиях, понятиях и правилах, их отношениях и свойствах, упорядоченная для целевого систематического использования.

Примечания

1 Сведения могут быть представлены в числовой или символьной форме.

2 Сведения - это данные, определенные в конкретном контексте и поэтому являющиеся интерпретируемыми. Данные создаются путем моделирования или измерений объектов реального мира.

5

6 задача (task): Набор действий, выполняемых для достижения конкретной цели.

Примечания

1 Эти действия могут быть результатом физической, перцепционной и/или когнитивной деятельности.

2 В отличие от целей, которые не зависят от способов, используемых для их достижения, задачи описывают конкретные способы достижения целей.

3 Примеры задач: классификация, регрессия, ранжирование, кластеризация, уменьшение размерности.

7 автономность [автономный] (autonomy, autonomous): Характеристика системы, определяющая возможность системы функционировать без внешнего управления или воздействия.

8 гетерономность [гетерономный] (heteronomy, heteronomous): Характеристика системы, определяющая возможность системы функционировать в условиях ограничений, связанных с внешним управлением или воздействием.

9

10 автоматический процесс (automatic process): Процесс, осуществляемый без участия человека.

11 автоматизированный процесс (automated process): Процесс, осуществляемый при совместном участии человека и средств автоматизации.

12 Байесовская сеть (Bayesian network): Вероятностная модель, которая использует байесовский вывод на направленном ациклическом графе для вычисления вероятности.

13

14 когнитивные вычисления (cognitive computing): Класс технологий искусственного интеллекта, предназначенных для обеспечения более естественного взаимодействия людей с машинами.

Примечание - Технологии когнитивных вычислений включают в себя машинное обучение, обработку речи, обработку естественного языка, обработку изображений и человеко-машинный интерфейс.

15 непрерывное обучение [постоянное обучение, обучение на протяжении всей жизни] (continuous learning, continual learning, lifelong learning): Последовательное обучение системы искусственного интеллекта, которое происходит на постоянной основе на всем этапе эксплуатации жизненного цикла системы искусственного интеллекта.

16

17 управляемость, управляемый (controllability, controllable): Свойство системы искусственного интеллекта, определяющее возможность внешней стороны вмешиваться в работу системы.

Примечание - Такая система гетерономна.

18 деревья решений (decision trees): Модель, вывод для которой кодируется путями от корня к листовой вершине в древовидной структуре.

19 экспертная система (expert system): Система искусственного интеллекта, которая накапливает актуальные знания человека-эксперта и позволяет неспециалистам использовать эти знания для решения задач.

20 общий искусственный интеллект; общий ИИ (general artificial intelligence, general AI): Искусственный интеллект, который выполняет широкий круг задач с приемлемым уровнем результативности.

21 генетический алгоритм (genetic algorithm): Алгоритм решения оптимизационных задач, имитирующий естественный отбор путем создания и развития популяций особей (решения).

22 интернет вещей; IoT (internet of things, IoT): Инфраструктура, включающая объекты, людей, системы и информационные ресурсы, и сервисы, которые обрабатывают и реагируют на информацию, поступающую из материального и виртуального миров.

23 устройство интернета вещей (internet of things device): Объект системы интернета вещей, который взаимодействует с материальным миром посредством применения сенсоров и исполнительных устройств.

Примечание - Интернет вещей может быть сенсором или исполнительным устройством.

24

25 прикладной [специальный] искусственный интеллект (narrow artificial intelligence): искусственный интеллект, который решает определенные задачи, связанные с конкретной проблемой.

26 оптическое распознавание символов (optical character recognition): Преобразование изображений машинописного, печатного или рукописного текста в машиночитаемый текст.

Примечание - Данная задача также включает задачу идентификации текстовой структуры, например заголовков, рисунков, таблиц и т.д.

27 показатель (performance): Измеримый результат.

Примечания

1 Показатели могут относиться к количественным или качественным результатам.

2 Показатели могут относиться к управлению деятельностью, процессами, продуктами (включая услуги), системами или организациями.

28 планирование (planning): Вычислительные процессы, которые формируют рабочий процесс из набора действий, направленных на достижение определенной цели.

29 мягкие вычисления (soft computing): Обработка, допускающая и учитывающая неточности, неопределенности, частичную истинность и приближения во входных данных, обеспечивающая полезные результаты наряду с интерпретируемостью, робастностью и низкой стоимостью решения.

Примечание - Мягкие вычисления - это комплекс исследований в области эволюционных алгоритмов, генетического программирования, роевого интеллекта, нейронаук, нейросетевых систем, теории нечетких множеств, нечетких систем, вероятностной логики, теории хаоса, хаотических систем (см. [5]).

30 символьный искусственный интеллект (symbolic artificial intelligence): Система искусственного интеллекта, которая кодирует знания с использованием символов и структур.

31 подсимвольный искусственный интеллект (subsymbolic artificial intelligence): Система искусственного интеллекта, основанная на парадигме коннекционизма.

Примечание - Определение подсимвольного искусственного интеллекта сравнивают с определением символьного искусственного интеллекта.

32 коннекционистская модель [коннекционистский подход, коннекционизм] (connectionist model, connectionist approach, connectionism): Вид когнитивного моделирования, при котором используется сеть взаимосвязанных единиц, обычно являющихся простыми вычислительными единицами.

33

34

робототехника (robotics): Наука и практика проектирования, производства и применения роботов.

[ГОСТ Р 60.0.0.4-2019/ИСО 8373:2012, статья 2.16]

Термины, относящиеся к машинному обучению

35 аннотирование [разметка] данных (data annotation): Процесс маркирования данных, выполняемый для того, чтобы сделать данные пригодными для машинного обучения.

36 проверка качества данных (data quality checking): Процесс определения того, какие дефекты входящих идентификационных записей могут быть исправлены системой и какие не могут быть исправлены, но при этом будут обработаны.

37 аугментация данных (data augmentation): Процесс создания новых экземпляров данных путем совершения действий с исходными данными.

38 выборка данных (data sampling): Метод статистического анализа, используемый для выбора, обработки и анализа представительного подмножества данных для выявления повторяющихся признаков и зависимостей в более крупном наборе данных, который исследуется.

39 глубокое обучение (нейронной сети) (deep learning): Подход к созданию обширных иерархических представлений посредством обучения нейронных сетей с большим количеством скрытых слоев.

40 взрывающийся градиент (exploding gradient): Эффект обучения нейронных сетей методом обратного распространения ошибки, при котором накапливаются большие градиенты ошибок, что приводит к очень большим изменениям весов, делая модель нестабильной.

41 человеко-машинное объединение (human-machine teaming): Эффективное взаимодействие человека и искусственного интеллекта.

Примечание - В отличие от автоматизации, где машина заменяет человеческий труд, в некоторых случаях машина может дополнить человека. Это может произойти как побочный эффект разработки искусственного интеллекта, или система может быть разработана специально с целью создания команды человек - машина. Системы, дополняющие человеческие когнитивные возможности, иногда определяют как дополняющие интеллект.

42 долгая краткосрочная память (long short-term memory): Тип рекуррентной нейронной сети, которая обрабатывает последовательные данные, такие как временные данные, для одновременно длинных и коротких временных зависимостей.

43 машинное обучение (machine learning): Процесс, реализующий вычислительные методы, которые предоставляют системам возможность обучаться на данных или на основе опыта.

44 алгоритм машинного обучения (machine learning algorithm): Алгоритм для определения в соответствии с заданными критериями параметров модели машинного обучения по данным.

Пример - Одномерная линейная модель зависимости

:

,

(1)

где

- выход или результат;

- вход;

- смещение;

- вес.

В машинном обучении процесс определения смещения и весов для линейной модели известен как восстановление линейной регрессии.

45 модель машинного обучения (machine learning model): Математическая модель, которая генерирует вывод, или предсказание на основе входных данных.

Примечание - Модель машинного обучения является результатом обучения алгоритма машинного обучения.

Пример - Если для одномерной линейной модели зависимости [см. формулу (1)] была восстановлена линейная регрессия, то результирующая зависимость может быть следующей:

.

(2)

46 обучение с подкреплением (reinforcement learning): Машинное обучение, при котором используется функция вознаграждения для оптимизации функции поведения или функции общего подкрепления путем последовательного взаимодействия агента со средой.

Примечания

1 Функция поведения или функция общего подкрепления отражает стратегию, которая была выучена в среде.

2 Средой может быть любая модель с отслеживанием состояния.

47 повторное обучение (retraining): Обновление обученной модели путем обучения на новых обучающих данных.

48 полуконтролируемое машинное обучение (semi-supervised machine learning): Машинное обучение, при котором во время обучения используются как размеченные, так и неразмеченные данные.

Примечание - Обучающие данные для задачи полуконтролируемого машинного обучения могут в большинстве быть неразмеченными.

49 обучение с учителем (supervised machine learning): Машинное обучение, при котором во время обучения используются размеченные данные.

50 обучение без учителя (unsupervised machine learning): Машинное обучение, при котором во время обучения используются неразмеченные данные.

51 машины опорных векторов (support vector machines): Модель машинного обучения, которая максимизирует расстояние между границами решения.

Примечания

1 Опорные векторы - это экземпляры данных, которые определяют положение границ решения (гиперплоскости).

2 Машины опорных векторов допускается использовать для решения задач классификации и регрессии.

52 обученная модель (trained model): Результат обучения модели.

53 обучение (модели) (training, model training): Процесс определения или улучшения параметров модели машинного обучения на основе алгоритма машинного обучения с использованием обучающих данных.

54 обучающие данные (training data): Подмножество образцов входных данных, используемых для настройки модели машинного обучения.

55 набор обучающих данных (training data set): Целевое множество обучающих данных.

56 исчезающий градиент (vanishing gradient): Эффект при обучении нейронных сетей, при котором значение функции ошибок перестает уменьшаться с дополнительными итерациями процесса обучения.

Примечание - Проблема исчезающего градиента может фактически остановить обучение нейронной сети, т.к. она предотвращает изменение и улучшение весов признаков нейронной сети при дополнительных итерациях процесса обучения.

Термины, относящиеся к нейронным сетям

57 (глубокие) сверточные нейронные сети (convolutional neural networks, deep convolutional neural networks): Нейронные сети прямого распространения, которые используют свертку по крайней мере в одном из слоев.

58 свертка (convolution): Математическая операция, реализующая скользящее скалярное произведение или кросс-корреляцию входных данных.

59 нейронная сеть прямого распространения (feed forward neural network): Нейронная сеть, в которой информация передается только в одном направлении от входного слоя к выходному слою.

60 (искусственная) нейронная сеть (neural network, neural net, artificial neural network): Сеть из двух или более слоев нейронов, соединенных взвешенными связями с регулируемыми весами, которая принимает входные данные и производит выходные.

Примечания

1 В то время как некоторые нейронные сети предназначены для моделирования процессов функционирования нейронов нервной системы, большинство нейронных сетей используются в искусственном интеллекте как реализации коннекционистской модели.

2 Выход нейронной сети часто называют предсказанием.

61 нейрон (neuron): Элементарный элемент обработки данных, который принимает одно или несколько входных значений и производит выходное значение с использованием функции активации от входных значений.

Примечание - Примерами нелинейных функций являются пороговая функция, сигмоидная функция и полиномиальная функция.

62 рекуррентная нейронная сеть (recurrent neural network): Нейронная сеть, в которой выход предыдущего слоя и результат предыдущего шага вычислений подаются на вход текущему слою.

Термины, относящиеся к надежности

63 подотчетный (accountable): Обладающий способностью нести ответственность за действия, решения и показатели.

64 подотчетность (accountability): Состояние являться подотчетным.

Примечание - Подотчетность относится к распределенной ответственности. Ответственность может быть основана на нормах либо по соглашению, либо через назначение в рамках делегирования.

65 точность данных (accuracy of data): Степень, с которой данные обладают признаками, правильно отражающими истинные значения соответствующих признаков понятия или события в определенном контексте.

66 точность системы искусственного интеллекта (accuracy of artificial intelligence system): Степень, с которой продукт или система обеспечивает результаты с заданным уровнем погрешности.

67 доступность (availability): Свойство быть готовым к использованию по требованию уполномоченного лица.

68 смещенность [предвзятость] (bias): Систематическое различие в отношении к определенным объектам, людям или группам по сравнению с другими.

Примечание - Отношение - это любое действие, включая восприятие, наблюдение, представление, предсказание или решение.

69

70 объяснимость (explainability):

1) Свойство системы искусственного интеллекта отражать важные показатели, влияющие на результаты системы искусственного интеллекта, в виде, понятном для людей.

2) Способность приводить обоснования, объясняющие причину совершения своих действий.

Примечание - Данный термин вводится для ответа на вопрос "Почему?" без каких-либо попыток оценить оптимальность совершаемого порядка действий.

71 предсказуемость (predictability): Свойство, которое позволяет физическим лицам, владельцам и операторам делать достоверные предположения о результатах работы (выходе) системы искусственного интеллекта.

72 конфиденциальность (privacy): Право физических лиц управлять сбором, хранением, обработкой и раскрытием любой информации, которая может быть использована для их идентификации или может быть связана с ними.

73 надежность (reliability): Свойство соответствия ожидаемому поведению и результатам.

74 отказоустойчивость (resilience): Способность реагировать и адаптироваться к меняющейся среде.

75

76 робастность (robustness): Способность системы поддерживать определенный уровень показателей при различных обстоятельствах.

77

78

79 прозрачность (transparency): Свойство организации, при котором ее деятельность и решения, влияющие на заинтересованные стороны, являются открытыми, всесторонними, доступными, ясными и понятными.

80 понятность (transparency): Свойство системы, определяющее доступность ее функций, компонентов, процедур и измерений для внешней проверки заинтересованными сторонами.

Примечание - Понятность систем искусственного интеллекта предполагает доступность для проверки данных, параметров, моделей, алгоритмов, методов обучения и процессов обеспечения качества.

81 свойство вызывать доверие [надежность] (trustworthiness): Способность оправдывать ожидания заинтересованных лиц верифицируемым способом.

Примечания

1 В зависимости от контекста или области, а также от конкретного продукта или сервиса, данных и используемых технологий, определены и требуют верификации для целей подтверждения ожиданий заинтересованных лиц различные параметры.

2 Свойство вызывать доверие (надежность) включает, например, доступность, отказоустойчивость, безопасность, конфиденциальность, прозрачность, подотчетность, целостность, подлинность, качество, удобство использования.

3 Свойство вызывать доверие (надежность) - это показатель, который может применяться по отношению к услугам, продуктам, технологиям, данным и информации, а в контексте управления - к организациям.

82

83

Термины, относящиеся к обработке естественного языка

84

85

86 обработка естественного языка; NLP (natural language processing, NLP):

1) Обработка информации, основанная на понимании и синтезе естественно-языковых конструкций.

Примечания

1 Обработка естественного языка - это область искусственного интеллекта.

2 Естественный язык - это любой человеческий язык, например английский, испанский, арабский или японский, который необходимо отличать от формальных языков, таких как Java, Fortran, C++, Логика первого порядка.

3 Примерами выражения естественного языка являются текст, речь, жесты и язык жестов.

2) Область, охватывающая знания и методы, применяемые при обработке лингвистических данных компьютером.

Примечание - Данный термин приведен в контексте инженерной дисциплины.

87 задача обработки естественного языка (natural language processing task): Задача, для выполнения которой требуется обработка естественного языка с применением искусственного интеллекта.

88

89 маркирование частей речи (part-of-speech tagging): Задача, которая присваивает лексеме категорию на основе ее грамматических свойств.

Примечание - Категория - это глагол, существительное, прилагательное и т.д.

90 лексема (lexeme): Абстрактная единица, обычно связанная с набором словоформ, имеющих общее значение.

91 распознавание именованных сущностей; NER (named entity recognition, NER): Задача распознавания и маркирования денотационных имен сущностей и их категорий для последовательности слов в потоке текста или речи.

Примечания

1 Сущность относится к конкретному или абстрактному объекту, включая их объединения.

2 Именованный объект относится к объекту с обозначением, определяющим конкретное или уникальное значение (смысл).

3 Типичные для распознавания и маркирования наименования включают имена людей, местоположения, организации и другие имена собственные в зависимости от области применения или задачи.

92 генерация естественного языка; NLG (natural language generation, NLG): Задача преобразования семантики данных в естественный язык.

93 извлечение взаимосвязей (relationship extraction): Задача определения отношений между именованными сущностями или другими объектами, упомянутыми в тексте.

94 анализ тональности (sentiment analysis): Задача вычислительной идентификации и категоризации мнений, выраженных во фрагменте текста, речи или изображения, для определения чувств и отношения от положительного к нейтральному и отрицательному.

Примечание - Примеры чувств: счастье, печаль, гнев, восторг, одобрение, неодобрение, положительное отношение, отрицательное отношение, согласие и несогласие.

95 автоматическое реферирование (automatic summarization): Задача сокращения фрагмента естественного языка при сохранении важной семантической информации.

96 поиск ответа на вопрос (question answering): Задача определения наиболее подходящего ответа на вопрос на естественном языке.

Примечания

1 Вопрос может быть открытым или иметь конкретный ответ.

2 В сочетании с другими прикладными программными интерфейсами и расширенной аналитикой технология ответа на вопрос отличается от обычного поиска (который осуществляется по ключевым словам) тем, что предоставляет более интерактивное обсуждение.

97

98

99 семантические вычисления (semantic computing): Вычисления, осуществляемые с целью понимания намерений пользователей и значения информации, которые выражаются в машинно-обрабатываемой форме.

Алфавитный указатель терминов на русском языке

Алфавитный указатель эквивалентов терминов на английском языке

Библиография