В России законодательно закрепят решающую роль человека при принятии решений с использованием искусственного интеллекта
В России планируют законодательно закрепить правило сохранения решающей роли человека при применении искусственного интеллекта в общественно значимых сферах: в здравоохранении, судопроизводстве, образовании и общественной безопасности. Об этом пишут "Известия со сылкой на предложения к законопроекту по регулированию искусственного интеллекта.
Сегодня в стране ИИ активно применяется в здравоохранении и образовании, а также используется для мониторинга правопорядка. Цена возможной ошибки ИИ в таких сферах, как медицина или судопроизводство, слишком высока: она может напрямую повлиять на жизнь и здоровье людей, а также на защиту их прав. Поэтому важно снизить потенциальные риски, закрепив конкретные зоны ответственности пользователей и разработчиков ИИ, а также обеспечив первостепенную и решающую роль человека в принятии решений.
Нейросеть работает как черный ящик: на вход подаются данные, а на выходе появляется результат, при этом причины, по которым она пришла к конкретному решению, обычно остаются неизвестными. Широко известно явление, называемое галлюцинациями ИИ, когда результат выданный нейросетью является не верным.
Закрепление правила сохранения решающей роли человека нужно, чтобы избежать ошибок ИИ, которые могут серьезно повлиять на жизнь людей, поскольку алгоритмы пока не умеют учитывать мораль, индивидуальный контекст и этику так, как это делает человек.