На площадке НИУ ВШЭ опубликована «Белая книга» оценки соответствия искусственного интеллекта

© iStock

Технический комитет по стандартизации №164 «Искусственный интеллект», действующий на площадке НИУ ВШЭ, совместно с Палатой индо-российского технологического сотрудничества (CIRTC) и ассоциацией «РУССОФТ» опубликовали «Белую книгу» оценки соответствия искусственного интеллекта. В ней отражены подходы к стандартизации и этическому регулированию технологий ИИ в двух пилотных отраслях — здравоохранении и сельском хозяйстве.

Технический комитет по стандартизации «Искусственный интеллект» (ТК 164) был создан приказом Росстандарта в 2019 году. Он является формой сотрудничества заинтересованных организаций и органов власти при проведении работ по национальной, межгосударственной и международной стандартизации. Председатель ТК 164 — директор по научным проектам НИУ ВШЭ Сергей Гарбук.

Работа над проектом «Белой книги» началась в 2023 году после подписания CIRTC, ассоциацией «РУССОФТ» и ТК 164 Меморандума по созданию межгосударственной российско-индийской системы оценки соответствия технологий ИИ.

Опубликованный аналитический доклад состоит из пяти разделов. Первый посвящен целям, согласованным двумя государствами, в области оценки соответствия технологий ИИ, а также целям оценки соответствия ИИ в здравоохранении и сельском хозяйстве. Второй раздел содержит список задач ИИ в обеих отраслях. В третьем разделе перечислены существующие на российском и индийском рынках ИИ-решения в пилотных отраслях. Четвертый раздел освещает состояние актуальных национальных и международных документов по стандартизации. Последний раздел посвящен подходам к этическому регулированию искусственного интеллекта, согласованным двумя странами, а также международным подходам в этой сфере.

Авторами «Белой книги» выступили индийские и российские эксперты, в том числе ученые НИУ ВШЭ.

В дальнейшем в рамках пилотного проекта стороны планируют разработать метрики оценки качества для технологий ИИ, участвующих в пилотном эксперименте, и требования к качеству прикладных технологий ИИ, в том числе в сравнении с качеством человека-оператора. Итогом работы должны стать единые документы по стандартизации для России и Индии, устанавливающие требования к тестированию отдельных прикладных технологий ИИ в области здравоохранения и сельского хозяйства.

Первые полученные результаты росийско-индийского сотрудничества в сфере стандартизации и оценки соответствия технологий ИИ будут представлены на саммите глав национальных органов по стандартизации государств — членов БРИКС, который пройдет летом 2024 года под председательством России.

После завершения пилотного эксперимента планируется создать совместную лабораторию по тестированию ИИ, а также работать над продвижением методик тестирования на уровень международных организаций по стандартизации (ИСО/МЭК, МСЭ).

Сергей Гарбук, директор по научным проектам НИУ ВШЭ, председатель ТК 164

Снятие барьеров, связанных с применением искусственного интеллекта в областях, где некорректное решение может привести к угрозам для здоровья и жизни людей, существенному экологическому и экономическому ущербу, достигается благодаря стандартизации требований к методикам испытаний ответственных интеллектуальных систем, а также за счет объективного подтверждения соответствия систем установленным требованиям в области функциональности и безопасности.

Читать «Белую книгу»