Министерство цифрового развития России работает над законопроектом, который закрепит принцип сохранения контроля человека в ключевых сферах, таких как здравоохранение, юриспруденция, образовательные процессы и общественная безопасность. Проект направлен на то, чтобы обеспечить, что все решения, которые принимаются с помощью технологий искусственного интеллекта (ИИ), остаются под человеческим контролем.
По информации, поступившей от информированных источников, работа над документом активно идёт, и к концу февраля он планируется представить на рассмотрение правительства. Разработка учитывает мнения и предложения профильных ведомств, что подчеркивает значимость многостороннего подхода к этой теме.
Почему важен контроль человека?
По словам представителей аппарата вице-премьера Дмитрия Григоренко, ошибки, которые могут возникнуть при использовании ИИ в таких критически важных областях, как медицина или право, способны иметь разрушительные последствия для здоровья и прав граждан. В связи с этим необходимо ограничить риски, выставив четкие рамки ответственности для разработчиков и пользователей ИИ. Это обеспечит, что ключевые решения будут приниматься людьми, а не оставлены на откуп машинам.
Внимание к алгоритмическим искажениям
Антон Немкин, член комитета Государственной Думы по информационной политике, отметил, что закрепление первостепенной роли человека в принятии решений поможет избежать алгоритмических искажений и восстановить доверие к цифровым услугам. Такой подход необходим для повышения прозрачности и однозначности в использовании технологий.
Эксперимент по интеграции ИИ в госорганы
В то время как проект закона продвигается, правительство уже начало эксперимент по внедрению ИИ в работу государственных учреждений. Нейросети сегодня активно используются для создания документов, анализа данных, подготовки отчетов и семантического разбора нормативно-правовых актов. Эти новшества должны помочь повысить эффективность работы госорганов, однако контроль над процессами остаётся критически важным.
Газета "Известия" направила запросы в Минцифры, Минюст, Минздрав и МВД для получения дополнительной информации по данной инициативе.
